Google assouplit ses principes d’IA sur les armes et la surveillance

Google a modifié l’un des engagements éthiques les plus emblématiques de son histoire récente. Dans une mise à jour publiée le 4 février 2025, le groupe a retiré de ses principes sur l’intelligence artificielle les interdictions explicites portant sur les armes et sur certaines applications de surveillance. La décision ne signifie pas que toutes les utilisations militaires deviennent automatiquement acceptables, mais elle change profondément le cadre public que Google s’était imposé depuis 2018.

Le sujet dépasse le seul cas de l’entreprise californienne. L’IA est devenue une technologie stratégique, utile aussi bien pour la recherche médicale, les assistants numériques ou l’industrie que pour le renseignement, la cybersécurité et la défense. En modifiant sa doctrine, Google assume davantage la possibilité de travailler avec les autorités sur ces domaines sensibles, tout en affirmant conserver des garde-fous liés au droit international et aux droits humains.

Ce que Google a retiré de ses principes d’IA

Les principes de Google publiés en 2018 comportaient une liste précise de domaines que l’entreprise disait ne pas poursuivre. Quatre catégories étaient visées :

• les technologies dont l’objectif principal ou la mise en œuvre est susceptible de causer un préjudice global ;
• les armes ou autres technologies dont le but principal est de blesser directement des personnes ;
• les technologies de surveillance dont l’objectif contrevient à des normes internationales largement acceptées ;
• les technologies dont le but contrevient aux principes largement acceptés du droit international et des droits humains.

Dans la nouvelle version, cette liste d’interdictions explicites disparaît. Les principes reformulés sont organisés autour de trois idées : l’innovation audacieuse, le développement et le déploiement responsables, puis la collaboration avec les utilisateurs, les développeurs, les entreprises, les gouvernements et les organisations.

Il faut apporter une nuance importante. La version de 2018 n’interdisait pas toute activité de surveillance sans distinction. Elle excluait les technologies de surveillance dont l’objectif contrevenait aux normes internationales largement acceptées. De même, le texte actuel ne donne pas à Google un blanc-seing pour développer n’importe quel système. Mais en supprimant les catégories nommées, notamment les armes, il laisse une marge d’appréciation beaucoup plus large à l’entreprise pour évaluer des contrats ou des projets au cas par cas.

Pourquoi ce changement intervient-il maintenant ?

Dans un billet présentant cette orientation, Demis Hassabis, directeur général de Google DeepMind, et James Manyika, vice-président senior chargé de la technologie et de la société chez Google, replacent la décision dans un contexte géopolitique. Selon eux, la compétition mondiale pour le leadership de l’IA se déroule dans un paysage international « de plus en plus complexe ».

Les deux dirigeants défendent l’idée que les démocraties devraient mener le développement de l’IA, en étant guidées par des valeurs telles que la liberté, l’égalité et le respect des droits humains. Ils appellent les entreprises, les gouvernements et les organisations qui partagent ces valeurs à travailler ensemble pour créer une IA protégeant les personnes, favorisant la croissance mondiale et soutenant la sécurité nationale.

Cette justification marque un déplacement du débat. En 2018, Google avait surtout formulé son approche en termes de limites imposées aux usages de ses technologies. En 2025, le groupe met davantage l’accent sur la compétition technologique internationale et sur la nécessité de ne pas laisser les acteurs des démocraties à l’écart des usages stratégiques de l’IA.

Google ne dit pas, dans ses principes actualisés, qu’il produira des armes autonomes ou qu’il fournira des systèmes de surveillance de masse. Le changement porte sur son cadre d’engagement public : l’interdit général et explicite laisse place à des critères de gouvernance, de réduction des risques et de conformité juridique.

Du Project Maven aux nouveaux garde-fous

Le précédent le plus souvent associé aux principes de 2018 est le Project Maven. Ce programme du département de la Défense des États-Unis recourait à l’intelligence artificielle pour analyser des images captées par des drones. La participation de Google au projet avait suscité une contestation interne très visible : des employés s’étaient opposés à l’utilisation des technologies du groupe dans ce cadre militaire.

Google avait ensuite annoncé qu’il ne renouvellerait pas le contrat à son expiration en 2019. Quelques mois plus tard, l’entreprise publiait ses principes d’IA. L’interdiction visant les armes était alors interprétée comme l’une des réponses aux inquiétudes exprimées par une partie du personnel et de l’opinion publique.

La nouvelle rédaction ne fait pas disparaître les garanties annoncées par Google. L’entreprise affirme vouloir :

• mettre en œuvre une supervision humaine appropriée et recueillir des retours d’expérience ;
• évaluer ses systèmes afin de réduire les risques de résultats négatifs non intentionnels ;
• éviter ou atténuer les biais injustes ;
• aligner ses activités avec des principes largement acceptés du droit international et des droits humains.

Ces engagements sont significatifs, mais ils posent une question concrète : comment seront-ils appliqués lorsqu’un projet concerne une administration de défense, un service de renseignement ou une technologie à double usage ? Une technologie à double usage peut servir à des finalités civiles légitimes et être détournée ou adaptée pour une finalité militaire ou de contrôle. C’est précisément le cas de nombreux outils d’IA capables d’analyser des images, de trier des informations ou de détecter des comportements inhabituels.

Armes, surveillance : pourquoi les mots comptent

Dans le domaine de l’IA, la formulation des règles n’est pas un simple exercice de communication. Une interdiction claire fixe une frontière compréhensible par les salariés, les clients, les associations et les autorités. Des principes plus généraux peuvent mieux couvrir des technologies qui évoluent rapidement, mais ils confient aussi une responsabilité plus grande à l’entreprise dans l’interprétation des situations concrètes.

Le terme « armes » recouvre lui-même des réalités très différentes. Il peut désigner un système qui aide à analyser des données dans un contexte militaire, un logiciel utilisé pour la logistique, un outil d’identification de cibles ou un dispositif susceptible de participer directement à l’usage de la force. Les implications éthiques et juridiques ne sont pas identiques dans chacun de ces cas.

La surveillance exige une attention comparable. L’analyse automatisée d’images peut par exemple contribuer à retrouver une personne disparue, à sécuriser une infrastructure ou à détecter une fraude. Employée sans garanties suffisantes, la même capacité peut servir à suivre des populations, à établir des profils discriminatoires ou à limiter des libertés fondamentales. La présence d’une supervision humaine ne règle pas tout : elle dépend de la qualité des règles, de la possibilité de contester une décision et du contrôle exercé par des autorités indépendantes.

Quels garde-fous juridiques pour l’IA militaire ?

Les principes internes d’une entreprise ne remplacent pas la loi. Les utilisations militaires de l’IA sont déjà concernées par le droit international, notamment les règles applicables aux conflits armés. Les États demeurent responsables de l’usage qu’ils font de leurs systèmes et doivent respecter, entre autres, les obligations de distinction entre civils et combattants, de proportionnalité et de précaution.

Dans les démocraties, d’autres règles peuvent également entrer en jeu : droit des marchés publics, protection des données personnelles, contrôle des exportations, droit de la concurrence ou obligations de transparence. Toutefois, les règles varient selon les pays et elles ne résolvent pas automatiquement les dilemmes liés aux systèmes automatisés.

L’une des questions centrales est celle du contrôle humain. Google promet une supervision humaine appropriée, une expression volontairement large. Dans les applications les plus sensibles, les défenseurs des droits humains et de la régulation demandent généralement que les décisions susceptibles de causer un préjudice grave restent réellement contrôlées par une personne compétente, capable de comprendre la situation et de refuser l’action proposée par la machine.

La difficulté augmente avec les modèles d’IA générative. Ces systèmes peuvent produire du texte, du code, des résumés ou des images, mais ils peuvent aussi commettre des erreurs convaincantes, reproduire des biais présents dans leurs données d’entraînement ou être utilisés à des fins imprévues. Tester un modèle avant son déploiement est indispensable, sans garantir à lui seul tous les comportements possibles dans un environnement réel.

Une décision qui pèse sur toute l’industrie

Google n’est pas la première grande entreprise technologique à être confrontée aux usages gouvernementaux ou militaires de l’IA. Les acteurs du cloud, des semi-conducteurs, de l’analyse de données et des modèles génératifs sont sollicités parce que leurs outils sont devenus des composants essentiels de l’économie numérique. Le changement de Google est néanmoins symbolique, car ses principes de 2018 avaient servi de référence dans les débats sur l’éthique de l’IA.

Cette évolution pourrait encourager d’autres entreprises à revoir la façon dont elles décrivent leurs propres limites. Elle pourrait aussi relancer les discussions en interne, notamment parmi les ingénieurs, chercheurs et salariés soucieux de savoir à quels projets leurs travaux contribuent. La transparence sur les contrats, les procédures d’examen éthique et les voies d’alerte devient alors un élément déterminant de la confiance.

Pour le grand public, l’enjeu ne se limite pas à une déclaration de principes. Les outils développés pour des clients institutionnels peuvent influencer la manière dont des données sont collectées, dont des décisions sont préparées et dont certaines populations sont surveillées. Les citoyens, les élus et les organisations de défense des droits ont donc un rôle dans le débat sur les limites à poser et sur les mécanismes de contrôle à exiger.

Ce qu’il faut surveiller après ce revirement

Les prochains mois devront permettre de mesurer la portée pratique de la nouvelle politique de Google. Plusieurs éléments seront particulièrement importants : la nature des projets que l’entreprise acceptera, les garanties contractuelles qu’elle exigera de ses clients publics et la transparence qu’elle offrira sur l’évaluation des risques.

Il faudra aussi observer comment Google définit une supervision humaine « appropriée » et comment il vérifie le respect du droit international et des droits humains. Ces principes sont ambitieux, mais leur crédibilité dépendra de procédures concrètes, d’examens indépendants et de la capacité à refuser des usages incompatibles avec ces engagements.

Enfin, ce changement rappelle une réalité appelée à structurer durablement le secteur : l’intelligence artificielle n’est plus seulement un marché de produits numériques. Elle est devenue une infrastructure stratégique. La question n’est donc pas uniquement de savoir ce que la technologie peut faire, mais qui fixe ses limites, qui contrôle ses usages et à quelles valeurs elle doit rester attachée.