IA superintelligente : Harry et Meghan soutiennent un moratoire mondial

L’intervention de Harry et Meghan dans le débat sur l’intelligence artificielle donne une résonance mondiale à une inquiétude qui, jusqu’ici, était surtout portée par des chercheurs et des défenseurs de la sécurité numérique. Le duc et la duchesse de Sussex ont signé une déclaration réclamant l’arrêt du développement de systèmes d’IA superintelligents tant que leur sûreté, leur contrôle effectif et leur acceptation par la population ne seront pas établis.

L’appel ne porte pas sur une technologie qui existerait déjà. L’intelligence artificielle superintelligente, souvent désignée par le sigle anglais ASI, demeure une hypothèse : celle d’un système capable de surpasser l’être humain dans l’ensemble des tâches intellectuelles. Mais c’est précisément la possibilité que cette étape soit visée par les grands laboratoires qui alimente le débat. Pour les signataires, attendre que de tels systèmes existent pour fixer des règles serait prendre un risque inutile.

Une déclaration signée par des figures de l’IA et de la société civile

La déclaration a été lancée dans le cadre d’une initiative du Future of Life Institute, une organisation américaine qui travaille sur les risques liés aux technologies avancées. Harry et Meghan y côtoient des pionniers de l’intelligence artificielle, des lauréats du prix Nobel et des personnalités publiques.

Parmi les signataires cités figurent notamment Geoffrey Hinton et Yoshua Bengio, deux chercheurs dont les travaux ont contribué aux progrès de l’apprentissage profond, la famille de techniques à l’origine de nombreux modèles d’IA actuels. S’y ajoutent Steve Wozniak, cofondateur d’Apple, Richard Branson et Susan Rice.

Leur demande est précise : instaurer une prohibition du développement de la superintelligence, qui ne pourrait être levée qu’à deux conditions. D’une part, un large consensus scientifique devrait conclure qu’un tel système peut être conçu de manière sûre et contrôlable. D’autre part, le public devrait soutenir son développement.

Le choix du terme « prohibition » souligne la fermeté de la demande. Il ne s’agit pas simplement d’appeler les entreprises à ralentir volontairement, mais d’affirmer qu’un seuil technologique aussi important devrait être bloqué tant que les garanties ne sont pas réunies.

Qu’est-ce qu’une IA superintelligente ?

L’expression peut sembler relever de la science-fiction, mais elle sert à distinguer plusieurs niveaux hypothétiques de capacités. Les assistants conversationnels, générateurs d’images et outils de traduction actuellement accessibles au public sont capables de tâches impressionnantes, mais leurs compétences restent spécialisées, variables et dépendantes de leurs données d’entraînement comme de leur conception.

L’intelligence artificielle générale, ou AGI, désigne l’idée d’une machine qui pourrait accomplir un vaste éventail de tâches cognitives à un niveau comparable à celui d’un humain. L’ASI irait plus loin : elle serait supérieure à l’humain dans tous ces domaines, qu’il s’agisse de raisonnement, de recherche scientifique, de stratégie, de création ou d’apprentissage.

Cette distinction est importante car aucun de ces deux stades n’a été atteint. Les frontières elles-mêmes font débat : il n’existe pas de test unanimement reconnu permettant de certifier qu’une IA est devenue générale, encore moins superintelligente. Les définitions restent donc théoriques, alors que les investissements et les annonces des entreprises, eux, sont bien réels.

Pourquoi les signataires redoutent-ils une telle technologie ?

Les auteurs de l’appel évoquent plusieurs catégories de risques. Les plus immédiats concernent l’automatisation de l’emploi, les atteintes possibles aux libertés civiles et les effets d’outils extrêmement puissants sur la sécurité nationale. Une IA plus compétente que les humains dans de nombreux domaines pourrait accélérer des décisions ou des processus que les institutions ne seraient plus en mesure de comprendre, de vérifier ou de stopper à temps.

Le scénario le plus grave avancé par certains signataires est celui d’une perte durable de contrôle sur un système poursuivant des objectifs incompatibles avec les intérêts humains. Dans cette perspective, une machine très performante ne serait pas forcément « malveillante ». Le danger viendrait plutôt de l’écart entre les objectifs qui lui seraient donnés et les conséquences concrètes de ses actions, si elle disposait de capacités trop étendues pour être corrigée.

Ces risques ne sont pas des événements constatés aujourd’hui. Ils constituent des projections sur des systèmes qui n’existent pas encore. C’est justement le cœur du désaccord : les partisans d’une interdiction anticipée estiment qu’il faut prévenir une menace potentiellement irréversible. Leurs contradicteurs peuvent considérer, à l’inverse, qu’il est difficile de réguler une technologie dont les capacités et l’échéance restent incertaines.

Une inquiétude qui dépasse les laboratoires

L’appel s’inscrit dans un contexte où l’IA est devenue un sujet politique et social majeur, notamment depuis l’essor d’outils comme ChatGPT. Les préoccupations ne se limitent plus aux spécialistes : elles touchent le travail, l’éducation, la protection des données, l’information en ligne et la capacité des États à faire respecter leurs règles.

Une enquête américaine relayée dans le cadre de cette initiative indique qu’environ 75 % des personnes interrogées sont favorables à une réglementation stricte de l’IA avancée. Elle montre également que six Américains sur dix ne souhaitent pas voir créer une IA superhumaine avant que sa sécurité ait été démontrée.

Ces chiffres ne tranchent pas la question technique, mais ils éclairent l’une des exigences de la déclaration : une innovation aux conséquences potentiellement mondiales ne devrait pas être décidée seulement par les dirigeants des entreprises technologiques ou par les investisseurs qui les financent. Le principe d’adhésion publique place le débat sur le terrain démocratique.

Cette demande pose toutefois une difficulté concrète. Qu’est-ce qu’un soutien suffisant du public pour lever une interdiction ? Une consultation, une loi votée par un parlement, un accord international ou une combinaison de ces mécanismes ? La déclaration fixe une direction, mais elle ne propose pas à elle seule le dispositif juridique qui permettrait de l’appliquer à l’échelle mondiale.

La course à l’AGI nourrit la controverse

Les grandes entreprises américaines de l’IA, dont OpenAI et Google, ont affiché leur ambition de développer une intelligence artificielle générale. Pour leurs promoteurs, une telle avancée pourrait apporter des outils puissants à la recherche, à la médecine, à l’éducation ou à l’industrie. Pour les critiques, elle risque aussi de créer une course technologique dans laquelle la vitesse de déploiement l’emporterait sur les précautions.

En juillet 2025, le dirigeant de Meta, Mark Zuckerberg, a affirmé que la superintelligence était « désormais à portée de main ». Cette formule illustre l’écart entre deux lectures du moment actuel. D’un côté, les entreprises investissent massivement et présentent des capacités toujours plus ambitieuses. De l’autre, des chercheurs rappellent que les discours sur la superintelligence peuvent aussi répondre à une logique de concurrence, de recrutement et de valorisation financière.

Geoffrey Hinton et Yoshua Bengio font partie des voix qui appellent à ne pas traiter la sûreté comme une étape secondaire. Leur position ne revient pas à nier les apports possibles de l’IA. Elle consiste à dire que l’augmentation des capacités doit s’accompagner d’un progrès équivalent dans la compréhension des systèmes, les méthodes de contrôle et les garanties collectives.

L’enjeu se situe donc autant dans la gouvernance que dans la performance. Une entreprise peut annoncer une avancée spectaculaire, mais personne ne dispose aujourd’hui d’une méthode universellement reconnue permettant de prouver qu’une intelligence hypothétiquement supérieure à l’humain restera alignée sur des règles humaines complexes et durables.

Que changerait une interdiction de la superintelligence ?

À ce stade, la déclaration n’est pas une loi. Elle ne crée pas d’obligation pour les laboratoires et ne définit ni autorité de contrôle ni sanction. Son effet immédiat est politique : elle cherche à faire reconnaître le développement de l’ASI comme un choix qui exigerait une autorisation sociale et des garanties scientifiques, plutôt que comme la simple prolongation naturelle de la compétition technologique.

Dans les faits, une interdiction soulèverait plusieurs questions difficiles. Il faudrait d’abord définir les systèmes visés, afin de ne pas confondre l’ASI avec les modèles d’IA avancés existants. Il faudrait ensuite organiser des évaluations indépendantes capables de mesurer les capacités, les limites et les comportements à risque. Enfin, une règle nationale isolée serait peu efficace face à des entreprises et à des infrastructures de calcul réparties dans plusieurs pays.

Le texte met ainsi en lumière une tension fondamentale. Les autorités publiques régulent plus facilement des produits ou des dommages déjà observables. Or la superintelligence est, par définition, un objet prospectif. Ses défenseurs demandent donc d’établir des garde-fous avant son apparition, tandis que ses sceptiques demanderont des critères plus concrets pour déterminer quand et comment les appliquer.

Ce qu’il faut surveiller dans les prochains mois

La prise de position de Harry et Meghan ne règle pas le débat sur la faisabilité de la superintelligence, ni sur son calendrier. Elle contribue en revanche à déplacer la discussion : il ne s’agit plus seulement de savoir si les laboratoires peuvent accroître les performances de leurs modèles, mais de déterminer qui doit avoir le droit de le faire et sous quelles conditions.

Trois évolutions seront particulièrement importantes. La première concerne les engagements réels des entreprises : publier des principes de sécurité ne suffit pas si les objectifs commerciaux poussent à lancer des systèmes toujours plus autonomes. La deuxième porte sur la capacité des chercheurs à concevoir des évaluations crédibles de la contrôlabilité des modèles. La troisième est politique : les gouvernements devront décider si les risques évoqués justifient des règles coordonnées au niveau international.

L’ASI reste un horizon incertain. Mais l’appel réuni autour du Future of Life Institute rappelle une idée simple : lorsque les conséquences potentielles d’une technologie touchent à l’emploi, aux droits fondamentaux, à la sécurité et au pouvoir de décision humain, le débat ne peut pas rester confiné aux seuls laboratoires d’IA.