Google abandonne son interdiction sur les armes d’IA, le malaise des salariés

Le changement tient en quelques lignes, mais il touche à l’une des limites les plus symboliques que Google s’était imposées. Le 4 février 2025, le groupe a mis à jour ses principes relatifs à l’intelligence artificielle et supprimé l’engagement explicite de ne pas développer ou déployer des armes reposant sur l’IA. La référence à des technologies de surveillance contraires aux normes internationales largement reconnues a elle aussi disparu.

Pour une partie des salariés, cette réécriture n’est pas un simple ajustement de communication. Elle remet en cause une promesse née d’une crise interne majeure, en 2018, lorsque des milliers d’employés avaient protesté contre un contrat passé avec le Pentagone. Sur Memegen, un espace interne où les équipes partagent notamment des montages satiriques, des messages ont exprimé un sentiment de désarroi. L’un d’eux tournait autour de la question : « Sommes-nous les méchants ? »

La formule est volontairement provocatrice. Elle traduit surtout une interrogation concrète : jusqu’où une entreprise qui conçoit des modèles, des services cloud et des outils d’analyse de données peut-elle participer aux activités militaires et à la sécurité nationale sans renoncer aux garde-fous qu’elle avait publiquement défendus ?

Ce que Google a retiré de ses principes sur l’IA

Les principes publiés par Google en juin 2018 comportaient une liste d’applications que l’entreprise disait ne pas poursuivre. Deux passages étaient particulièrement clairs : Google s’engageait à ne pas concevoir ni déployer des technologies dont l’objectif principal consistait à causer ou faciliter directement des blessures, ainsi que des technologies de surveillance dont l’usage violerait des normes internationales largement acceptées.

La version publiée le 4 février 2025 ne reprend plus cette liste d’interdictions. Elle met plutôt l’accent sur le développement responsable de l’IA, les bénéfices pour les personnes, la collaboration et la nécessité de permettre à d’autres organisations d’innover. Elle affirme aussi que les démocraties devraient guider le développement de l’IA, dans le respect de valeurs telles que la liberté, l’égalité et les droits humains.

Le changement ne signifie pas, à lui seul, que Google a annoncé un nouveau programme d’armes ou un produit militaire précis. En revanche, il retire une limite formulée sans ambiguïté dans le texte de 2018. C’est cette nouvelle latitude qui inquiète les salariés opposés à une participation accrue de l’entreprise aux activités de défense ou de surveillance.

Pourquoi l’entreprise invoque-t-elle la sécurité nationale ?

Dans son texte accompagnant la mise à jour, Google justifie sa position par un « paysage géopolitique complexe ». L’entreprise estime que les sociétés privées, les gouvernements et les organisations partageant des valeurs démocratiques doivent coopérer pour protéger les populations, soutenir la croissance mondiale et contribuer à la sécurité nationale.

L’argument repose sur une réalité technologique : l’IA est une technologie dite à double usage. Les mêmes capacités peuvent servir dans des contextes civils et militaires. Un système capable de repérer des objets dans des images peut, par exemple, aider à détecter un défaut sur une chaîne de production, analyser des images satellite après une catastrophe naturelle ou traiter des données de renseignement. Un modèle de langage peut assister un agent administratif, traduire des documents ou résumer de très grands volumes d’informations.

Cette polyvalence rend les frontières difficiles à tracer. Refuser de créer une « arme » n’équivaut pas nécessairement à refuser tout contrat avec la défense. Des services d’informatique en nuage, de cybersécurité, de cartographie, de traduction ou d’analyse d’images peuvent être utilisés par des administrations militaires sans constituer, en eux-mêmes, une arme.

C’est précisément pourquoi les mots comptent. Une règle détaillée permet aux employés, aux clients et au public de savoir quelles finalités sont exclues. Un principe général de responsabilité offre davantage de souplesse à l’entreprise, mais laisse aussi davantage de questions ouvertes sur les projets qu’elle pourrait accepter à l’avenir.

Pourquoi les salariés de Google réagissent-ils aussi vivement ?

La réaction interne s’explique d’abord par l’histoire récente de l’entreprise. En 2018, Google avait participé au projet Maven, une initiative du département américain de la Défense visant à recourir à l’apprentissage automatique pour analyser des images captées par des drones. La perspective avait suscité une forte contestation parmi les salariés. Google avait finalement annoncé qu’il ne renouvellerait pas le contrat à son expiration.

Cette séquence a directement contribué à la naissance des principes de 2018. Pour de nombreux employés, la promesse de ne pas développer d’armes fondées sur l’IA était donc plus qu’une déclaration institutionnelle. Elle représentait le résultat tangible d’une mobilisation interne et un élément du contrat moral entre l’entreprise et ses équipes.

Les messages publiés sur Memegen après la mise à jour du 4 février reflètent cette rupture de confiance. L’un des montages évoquait de façon satirique la manière de devenir un sous-traitant de l’armement. D’autres reprenaient la question « Sommes-nous les méchants ? », popularisée par un sketch comique, pour mettre en doute la direction prise par Google.

Il serait imprudent d’en tirer une conclusion sur l’opinion de l’ensemble des salariés de Google. Les messages internes les plus visibles sont souvent les plus critiques, et tous les employés ne partagent pas nécessairement la même analyse. Certains peuvent considérer que la coopération avec les démocraties en matière de sécurité est légitime, voire nécessaire. Mais l’existence même de cette contestation rappelle que les entreprises technologiques ne décident pas dans un vide social : leurs ingénieurs, chercheurs et employés sont aussi des acteurs du débat éthique.

Des principes moins précis, une responsabilité plus difficile à évaluer

Les nouveaux principes de Google continuent de faire référence aux droits humains et au développement responsable. Cette continuité est importante : l’entreprise ne dit pas abandonner toute considération éthique. Elle soutient au contraire que les valeurs démocratiques doivent orienter l’IA.

Le problème soulevé par les employés critiques est celui de la vérifiabilité. Un engagement comme « ne pas développer d’armes » peut être confronté à la nature d’un contrat ou d’un produit. Une promesse de développer l’IA de façon « responsable » exige, elle, de connaître les mécanismes internes d’évaluation, les conditions imposées aux clients et les arbitrages faits par la direction.

La surveillance illustre bien cette difficulté. Les technologies d’IA peuvent identifier des objets, trier des flux vidéo, établir des corrélations entre de grandes quantités de données ou automatiser des alertes. Elles peuvent être utiles dans des domaines légitimes, comme la protection d’infrastructures ou les secours. Mais elles peuvent aussi faciliter la surveillance de masse, le ciblage abusif ou des atteintes à la vie privée et aux libertés publiques.

Google rejoint-il la stratégie de Microsoft et Amazon ?

Le choix de Google s’inscrit dans un mouvement plus large. Les grandes entreprises du cloud et de l’IA sont devenues des partenaires technologiques importants des administrations. Amazon et Microsoft ont déjà noué des liens avec le secteur de la défense, notamment grâce à leurs infrastructures cloud et à leurs services informatiques.

Pour Google, la question est aussi stratégique. L’intelligence artificielle moderne nécessite des capacités de calcul considérables, des centres de données, des logiciels spécialisés et des équipes de recherche. Les contrats publics peuvent représenter des débouchés importants pour ces technologies, tandis que les États veulent réduire leur dépendance à des fournisseurs étrangers et disposer d’outils adaptés à leurs besoins de sécurité.

Toutefois, assimiler l’ensemble de ces collaborations à une militarisation automatique serait réducteur. Un ministère ou une administration de défense peut acheter du stockage de données, des logiciels de bureautique, des outils de sécurité ou des capacités de calcul sans que ces services soient intégrés à une arme. À l’inverse, la nature duale de l’IA impose une vigilance accrue sur l’usage final, les utilisateurs, les données traitées et les éventuels effets sur les civils.

La controverse chez Google porte donc moins sur l’idée qu’une entreprise technologique puisse travailler avec l’État que sur les lignes rouges applicables à ces collaborations. En retirant les interdictions de 2018, Google choisit un cadre plus adaptable à ce marché, mais également plus contesté.

Les questions que pose l’IA dans la défense

L’IA militaire ne se limite pas à l’image souvent évoquée de robots armés autonomes. Dans les faits, elle peut intervenir à de nombreuses étapes : analyse d’images, maintenance prédictive, logistique, cybersécurité, traduction, planification ou traitement de données. Certaines de ces utilisations sont éloignées du combat direct. D’autres peuvent peser sur des décisions lourdes de conséquences humaines.

Le point de bascule éthique survient lorsqu’un système participe à l’identification de cibles, à la hiérarchisation de menaces ou à une décision susceptible de conduire à l’usage de la force. Les défenseurs de garde-fous stricts demandent alors une supervision humaine réelle, une traçabilité des décisions et le respect du droit international. Ils soulignent aussi les limites techniques des systèmes d’IA : erreurs de classification, biais dans les données, difficulté à expliquer certains résultats et risque d’utilisation hors du contexte prévu.

Pour les entreprises, la difficulté est de transformer des principes généraux en procédures opérationnelles. Qui décide qu’un projet respecte les droits humains ? Quels contrôles sont réalisés avant la signature d’un contrat ? Que se passe-t-il si un client détourne un outil de son usage initial ? Les principes de Google ne répondent pas publiquement, dans le détail, à toutes ces questions.

Ce qu’il faut surveiller après ce revirement

La première question sera celle des actes. La modification des principes ouvre une possibilité, mais elle ne décrit pas encore les contrats ou produits qui pourraient en découler. Les futurs projets de Google avec des administrations de défense ou de sécurité seront donc examinés à l’aune de cette nouvelle doctrine.

La deuxième concerne la transparence. Si Google affirme que les droits humains et les valeurs démocratiques restent au cœur de son approche, l’entreprise sera attendue sur les moyens concrets employés pour évaluer les usages sensibles de ses technologies. Des critères publics, des mécanismes de contrôle et une information suffisante sur les domaines de coopération peuvent contribuer à rendre cet engagement plus crédible.

Enfin, la réaction des salariés pourrait compter. L’épisode du projet Maven a montré en 2018 que les employés pouvaient influencer une décision stratégique de Google. En février 2025, leur colère ne garantit pas un retour en arrière, mais elle rappelle qu’à mesure que l’IA devient une infrastructure essentielle, ses concepteurs refusent parfois de laisser les choix de sécurité nationale aux seules directions d’entreprise et aux gouvernements.