IA : des experts réclament des lignes rouges communes entre les États

L’intelligence artificielle se diffuse plus vite que les règles capables d’en encadrer les usages. À New York, en marge de l’Assemblée générale des Nations unies, des chercheurs et professionnels du secteur demandent donc aux gouvernements de se mettre d’accord sur un principe simple : certaines applications ne devraient pas être franchies, quel que soit le pays où elles sont développées ou déployées.

Dans une lettre ouverte publiée le 22 septembre 2025, le collectif appelle à établir des « lignes rouges » internationales pour l’IA. L’idée n’est pas de rédiger d’un coup un code mondial exhaustif, ni de figer une technologie encore très évolutive. Les auteurs réclament plutôt un socle de protections minimales contre les scénarios qu’ils jugent les plus graves : pandémies artificielles, désinformation à grande échelle, violations des droits humains, fragilisation de la sécurité nationale et conséquences sociales de l’automatisation.

Le texte intervient alors que les capacités des systèmes d’IA progressent rapidement et que de nombreuses entreprises poursuivent l’objectif d’une intelligence artificielle générale, souvent désignée par l’acronyme anglais AGI. Cette ambition, qui consiste à créer une IA capable d’égaler ou de dépasser les compétences humaines dans un très grand nombre de tâches, nourrit autant d’espoirs d’innovation que de questions sur le contrôle de ces outils.

Une lettre ouverte pour dépasser les frontières nationales

Le message des signataires repose sur un constat : l’IA ne s’arrête pas aux frontières. Un modèle peut être entraîné dans un pays, intégré à un produit dans un autre, puis utilisé dans le monde entier. Des règles isolées risquent donc de laisser des failles, ou de pousser les acteurs à déplacer leurs activités vers les juridictions les moins exigeantes.

Les auteurs de la lettre invitent ainsi les États à rechercher un accord sur des limites partagées. Ils ne présentent pas ces limites comme une réponse à tous les enjeux de l’IA. Il ne s’agit pas, par exemple, de trancher à l’avance chaque débat sur l’emploi, la création artistique ou les usages ordinaires des assistants numériques. Leur demande porte sur le plus petit dénominateur commun susceptible de prévenir les dérives les plus dangereuses.

Cette nuance est importante. Réguler l’IA recouvre plusieurs réalités : protéger les données personnelles, vérifier la fiabilité d’un logiciel, garantir que les citoyens puissent contester une décision automatisée, ou encore limiter les usages militaires. Les « lignes rouges » envisagées ici se situent à un autre niveau : elles visent des comportements ou des capacités dont les conséquences pourraient être particulièrement difficiles à réparer.

Quels risques les auteurs veulent-ils prévenir ?

La lettre rappelle que l’IA possède un potentiel considérable pour le progrès humain. Dans le même temps, elle alerte sur une trajectoire technologique qui pourrait accroître certains risques si elle n’est pas encadrée. Les dangers cités ne sont pas tous de même nature : certains touchent directement la sûreté des personnes, d’autres concernent le fonctionnement des démocraties, du marché du travail ou des institutions.

Le terme de pandémie artificielle renvoie ici à une inquiétude précise : des systèmes très performants pourraient faciliter l’accès à des connaissances ou à des méthodes susceptibles d’être détournées dans un cadre biologique. La question n’est pas de considérer toute recherche assistée par IA comme dangereuse. L’enjeu est de distinguer les usages scientifiques et médicaux légitimes des cas où un outil abaisserait les obstacles à des pratiques nocives.

La désinformation constitue un autre défi, plus visible pour le grand public. Des outils capables de générer rapidement du texte, des images, du son ou des vidéos peuvent être employés pour tromper, manipuler ou submerger l’espace public. Les auteurs de la lettre l’inscrivent parmi les risques nécessitant une vigilance collective, notamment parce que les contenus se propagent bien au-delà du pays dans lequel ils ont été créés.

Quant aux droits humains, ils posent une question centrale : quelles utilisations d’une IA une société doit-elle refuser, même si elles sont techniquement possibles ou économiquement rentables ? L’appel ne détaille pas un catalogue de mesures juridiques. Il insiste sur la nécessité de frontières explicites, afin que les acteurs du secteur sachent quels développements ne doivent pas être poursuivis.

Des garde-fous minimaux, pas un règlement mondial complet

Le vocabulaire des « lignes rouges » peut donner l’impression d’une règle très simple. En pratique, définir une limite internationale est complexe. Il faut d’abord déterminer précisément ce qui est interdit, puis savoir comment contrôler le respect de l’interdiction, et enfin prévoir ce qui se passe en cas de manquement. Les auteurs n’affirment pas avoir résolu toutes ces questions dans leur lettre. Leur objectif est de faire reconnaître la nécessité d’un accord sur les risques les plus inacceptables.

Cette approche minimale peut faciliter le dialogue entre des pays dont les lois, les intérêts économiques et les visions politiques divergent. S’entendre sur chaque aspect de l’IA serait une entreprise immense. S’entendre sur l’interdiction ou la prévention de certains usages extrêmes pourrait constituer un point de départ plus réaliste.

L’enjeu est aussi d’éviter que la recherche de performance ne devienne la seule boussole. La compétition entre entreprises et entre puissances encourage les annonces de modèles toujours plus capables. Or une capacité nouvelle n’est pas neutre par nature : elle peut produire des bénéfices, mais également faciliter des usages malveillants ou créer des dépendances difficiles à corriger.

Un appel soutenu par des chercheurs et des organisations

La portée de cette initiative tient aussi à ses soutiens. La lettre est appuyée par des organisations telles que le Centre pour la sécurité de l’IA, The Future Society et le Centre pour une IA humano-compatible de l’université de Berkeley. Vingt autres structures partenaires soutiennent également la démarche.

Parmi les personnalités citées figurent Geoffrey Hinton et Yoshua Bengio, deux chercheurs reconnus pour leurs contributions majeures à l’apprentissage profond. Leur présence souligne que le débat sur les garde-fous ne se limite pas aux gouvernements ou aux entreprises. Il mobilise aussi une partie de la communauté scientifique, qui souhaite peser sur la manière dont les systèmes les plus avancés seront conçus et déployés.

Le rôle des chercheurs est double. Ils peuvent contribuer à identifier les capacités techniques qui changent la nature d’un risque, par exemple lorsqu’un système devient capable d’automatiser certaines tâches complexes. Ils peuvent aussi rappeler les limites de la prédiction : il est difficile de savoir exactement quelles formes prendront les futurs modèles, mais cette incertitude ne dispense pas de préparer des mécanismes de prévention.

L’appel ne présente pas l’IA comme une menace unique et inévitable. Il met plutôt en avant une responsabilité de conception et de gouvernance. Les choix effectués aujourd’hui, sur les objectifs des systèmes, leurs conditions d’accès, leurs évaluations ou leur supervision, peuvent influencer les risques de demain.

Pourquoi comparer l’IA au nucléaire et aux armes chimiques ?

Pour défendre la possibilité d’une coopération mondiale, les auteurs citent deux précédents : le traité de non-prolifération nucléaire et la Convention sur l’interdiction des armes chimiques. La comparaison ne signifie pas que l’IA est identique à une arme nucléaire ou chimique. Les technologies, les modes de diffusion et les usages civils sont profondément différents.

Elle vise une autre idée : lorsqu’une technologie est susceptible d’avoir des effets graves à l’échelle internationale, les États peuvent tenter de construire des règles communes. Ces accords ne font pas disparaître tous les risques, et leur application peut être difficile. Ils montrent néanmoins que des intérêts nationaux concurrents n’empêchent pas nécessairement toute forme de coordination.

L’IA pose une difficulté supplémentaire : elle est déjà présente dans de très nombreux usages civils, des outils de traduction aux logiciels de création, en passant par l’analyse de données. Elle est aussi développée par une multitude d’acteurs, dont de grandes entreprises, des laboratoires universitaires et des communautés de développeurs. Un cadre international devrait donc éviter de confondre les applications du quotidien avec les capacités présentant les risques les plus élevés.

L’AGI, un horizon qui alimente le débat

L’intelligence artificielle générale reste un objectif et une notion discutée. Dans sa formulation la plus courante, elle désigne un système capable de réaliser un large éventail de tâches intellectuelles au niveau humain ou au-delà. Ce n’est pas la même chose qu’un assistant spécialisé, même très performant dans la rédaction, la programmation ou l’analyse d’images.

La course vers cette forme d’IA suscite des débats éthiques, économiques et sociaux. Si des systèmes devenaient capables d’accomplir davantage de tâches de manière autonome, les effets sur l’emploi, l’éducation, l’organisation des entreprises et la sécurité pourraient être importants. Les signataires estiment que ces perspectives doivent être discutées en amont, plutôt que traitées seulement une fois les capacités déployées à grande échelle.

Ce qu’il faut surveiller

L’appel lancé le 22 septembre place les gouvernements devant une question concrète : peuvent-ils définir ensemble des limites claires avant qu’un incident majeur ne les y contraigne ? La réponse dépendra de leur capacité à concilier innovation, souveraineté, sécurité et protection des libertés.

Plusieurs sujets seront déterminants. Il faudra préciser les pratiques considérées comme inacceptables, définir des méthodes crédibles pour évaluer les systèmes les plus puissants et organiser une coopération entre États, chercheurs et entreprises. Il faudra également veiller à ce que les règles ne restent pas seulement déclaratives : une ligne rouge n’a de portée que si elle est comprise, contrôlable et assortie de responsabilités.

Pour le public, ce débat dépasse les laboratoires. Les décisions prises sur les règles de l’IA influenceront la fiabilité de l’information, la place de l’automatisation dans le travail, la protection des droits et les services numériques utilisés au quotidien. L’ambition des signataires est précisément de faire de ces choix un sujet de coopération internationale, plutôt qu’une simple conséquence de la compétition technologique.