Sam Altman voit la superintelligence à quelques milliers de jours

Le mot est vertigineux, mais la formule mérite d’être lue avec précision. Dans un texte publié le 23 septembre 2024, Sam Altman, directeur général d’OpenAI, écrit qu’il est « possible » que l’humanité dispose d’une superintelligence « dans quelques milliers de jours ». Il ajoute que cela pourrait prendre plus de temps, tout en se disant confiant dans le fait que ce cap sera franchi un jour.

Cette déclaration ne constitue donc ni l’annonce d’un produit, ni une feuille de route assortie d’une date de livraison. Elle exprime une conviction sur la trajectoire de l’intelligence artificielle. Mais venant du dirigeant de l’entreprise à l’origine de ChatGPT, elle ravive une question qui dépasse largement la Silicon Valley : que se passerait-il si des machines devenaient bien plus capables que les humains dans la plupart des activités intellectuelles ?

« Quelques milliers de jours » : une prédiction, pas une échéance ferme

L’expression employée par Sam Altman est volontairement imprécise. Mille jours correspondent à environ deux ans et neuf mois, mais « quelques milliers » peut couvrir une période bien plus longue. Surtout, le dirigeant ne précise pas ce qui permettrait de déclarer, objectivement, qu’une IA a franchi le seuil de la superintelligence.

Dans son texte, il décrit cette perspective comme une intelligence pouvant être « quelques milliers de fois plus capable » qu’un humain. Il ne fournit toutefois ni unité de mesure, ni protocole de test, ni liste de compétences à atteindre. C’est une difficulté centrale du débat : l’intelligence humaine elle-même ne se résume pas à un score unique. Elle combine notamment le raisonnement, l’apprentissage, la mémoire, la créativité, la faculté de s’adapter à un environnement nouveau et la compréhension des conséquences de ses actes.

L’affirmation s’inscrit dans une vision assumée de l’accélération technologique. Sam Altman considère que les progrès des réseaux de neurones, la disponibilité de davantage de puissance de calcul et l’accumulation de données et de retours d’usage permettront aux systèmes d’IA de gagner rapidement en capacité.

Ce raisonnement reste une projection. Les progrès récents des grands modèles de langage sont spectaculaires sur plusieurs tâches, comme la génération de texte, la programmation, la traduction ou l’analyse de documents. Mais ils commettent encore des erreurs factuelles, peuvent produire des réponses plausibles mais fausses et ne démontrent pas une compréhension générale et fiable du monde comparable à celle d’un être humain.

AGI et superintelligence : de quoi parle-t-on exactement ?

Dans les discussions sur l’IA avancée, deux notions sont souvent confondues : l’intelligence artificielle générale, généralement appelée AGI pour Artificial General Intelligence, et la superintelligence.

L’AGI désigne, dans son sens le plus courant, une intelligence artificielle polyvalente : elle serait capable de transférer ses compétences d’un domaine à l’autre et de réaliser de nombreuses tâches intellectuelles sans être conçue séparément pour chacune. OpenAI donne dans sa charte une définition davantage tournée vers l’économie : des systèmes hautement autonomes qui surpasseraient les humains dans la plupart des travaux ayant une valeur économique.

La superintelligence va plus loin. Elle ne serait pas seulement polyvalente ou comparable à un humain compétent. Elle le dépasserait très largement dans pratiquement tous les domaines pertinents : science, ingénierie, stratégie, création, recherche médicale, résolution de problèmes complexes et peut-être conception de nouvelles IA.

Le passage d’une catégorie à l’autre ne serait pas nécessairement net. Certains chercheurs estiment que les systèmes gagneront graduellement en autonomie et en compétence. D’autres imaginent qu’un système capable d’accélérer la recherche scientifique ou d’améliorer sa propre conception pourrait provoquer une progression beaucoup plus rapide. Ces hypothèses sont au cœur des désaccords sur l’urgence des mesures de sécurité.

Pourquoi cette vision paraît-elle plausible à certains acteurs de l’IA ?

La prédiction de Sam Altman repose sur un constat simple : les capacités des modèles d’IA se sont étendues à une vitesse difficile à ignorer. Les systèmes les plus récents ne se limitent plus à compléter des phrases. Ils peuvent analyser des images, traiter des sons, écrire et corriger du code, résumer de longs documents, répondre à des questions et utiliser certains outils numériques.

Les entreprises du secteur consacrent aussi des moyens considérables aux centres de données et aux puces spécialisées nécessaires pour entraîner puis faire fonctionner ces modèles. L’idée est qu’en associant des modèles plus grands, de meilleures méthodes d’entraînement, des données de meilleure qualité et davantage de capacité de calcul, l’IA poursuivra sa progression.

Mais une extrapolation n’est pas une loi de la nature. La montée en puissance peut se heurter à des limites : coût et disponibilité du matériel, consommation énergétique, rareté de certaines données, difficultés à évaluer les modèles, ou nécessité de trouver de nouvelles idées scientifiques. Une IA qui réussit des exercices de raisonnement ou des tests de programmation ne prouve pas, à elle seule, qu’elle pourra mener des projets scientifiques de façon robuste et autonome.

Le chiffre de 50 milliards de dollars, parfois évoqué dans les commentaires sur le coût de l’AGI, ne figure pas comme une estimation étayée dans le texte de Sam Altman du 23 septembre. Les budgets exacts de développement des modèles de pointe ne sont pas publiés de manière exhaustive. Ce qui est certain, c’est que la course à l’IA de pointe pousse les grands groupes technologiques à investir lourdement dans l’infrastructure de calcul.

OpenAI, Q* et les leçons de la crise de gouvernance

Le débat sur la superintelligence ne peut être séparé de la situation particulière d’OpenAI. En novembre 2023, le conseil d’administration de l’organisation avait soudainement évincé Sam Altman, lui reprochant de ne pas avoir été systématiquement franc dans ses communications avec les administrateurs. Après une crise de plusieurs jours, marquée par la mobilisation d’une grande partie des salariés, il avait repris ses fonctions de directeur général et le conseil avait été remanié.

Cet épisode a exposé au grand jour une tension qui traverse l’ensemble du secteur. OpenAI a été fondée avec une mission de développement d’une IA bénéfique à l’humanité, mais elle opère aussi dans un environnement où la vitesse d’innovation, les investissements et la concurrence sont déterminants. La question n’est pas seulement de savoir qui construira les modèles les plus capables. Elle est aussi de déterminer qui peut ralentir, auditer ou arrêter un projet si un risque sérieux est identifié.

Le nom Q, parfois appelé Q Star, a également nourri de nombreuses spéculations. En novembre 2023, la presse a fait état d’un projet de recherche évoqué dans le contexte de la crise interne d’OpenAI. À la date de publication de cet article, rien ne permet toutefois de présenter Q comme un produit publiquement annoncé par Sam Altman, ni d’en déduire la proximité d’une superintelligence.

Elon Musk, cofondateur d’OpenAI qui a depuis quitté l’organisation, fait partie des personnalités ayant régulièrement alerté sur les risques d’une IA très avancée. Son inquiétude rejoint celle de chercheurs et de responsables publics, mais elle ne dispense pas d’exiger des éléments vérifiables : quelles capacités sont réellement atteintes, quels dangers sont démontrés et quels mécanismes de sécurité ont été testés ?

Quels risques une superintelligence poserait-elle ?

Le risque le plus souvent évoqué est celui de l’alignement. Ce terme désigne la capacité d’un système à poursuivre les objectifs que les humains veulent réellement lui confier, plutôt qu’une interprétation simpliste ou détournée de leurs instructions. Plus un système est autonome et puissant, plus une erreur de conception, un objectif mal formulé ou un usage malveillant peut avoir des conséquences importantes.

Les enjeux ne se limitent pas à une hypothèse de machine incontrôlable. Des outils d’IA moins avancés peuvent déjà poser des problèmes concrets : automatisation de campagnes de désinformation, production de contenus frauduleux, aide à la recherche de vulnérabilités informatiques, atteintes à la vie privée ou concentration du pouvoir entre quelques entreprises et États disposant de capacités de calcul exceptionnelles.

Pour une IA aux capacités réellement supérieures à celles des humains, plusieurs questions deviendraient particulièrement sensibles :

• Comment vérifier qu’elle respecte durablement les instructions et les limites imposées ?
• Qui décide des usages autorisés dans la défense, la santé, la recherche ou l’administration ?
• Comment empêcher qu’un petit nombre d’acteurs contrôlent une technologie aux effets économiques et politiques majeurs ?
• Quels dispositifs internationaux peuvent limiter les usages dangereux sans bloquer les applications utiles ?

La réponse ne peut pas reposer uniquement sur une promesse de prudence des entreprises. Les travaux techniques sur la robustesse et l’évaluation des modèles sont essentiels, mais ils doivent s’accompagner de contrôles indépendants, de règles de transparence adaptées et d’une coopération entre pays.

Que prévoit la régulation à la date de septembre 2024 ?

L’Union européenne dispose désormais de l’AI Act, entré en vigueur le 1er août 2024. Ce règlement adopte une approche graduée selon les risques, avec des obligations plus strictes pour certains systèmes à haut risque et des règles visant les modèles d’IA à usage général.

Il faut néanmoins éviter un raccourci : l’AI Act ne constitue pas une loi conçue spécialement pour une superintelligence qui n’existe pas encore. Ses dispositions s’appliqueront progressivement selon les catégories de systèmes et les obligations concernées. Les premières interdictions sont prévues pour février 2025, tandis que les règles concernant les modèles d’IA à usage général doivent s’appliquer à partir d’août 2025.

La régulation devra donc évoluer avec les capacités réelles des systèmes. Une IA plus autonome pourrait exiger des évaluations plus poussées avant déploiement, des mécanismes de signalement d’incidents, une surveillance humaine effective et des responsabilités clairement attribuées. Ces règles n’empêcheront pas à elles seules les risques, mais elles peuvent rendre les décisions, les contrôles et les recours moins opaques.

Ce qu’il faut surveiller après cette prédiction

La formule de Sam Altman fixe moins une date qu’un horizon de débat. Pour juger si la trajectoire annoncée se rapproche, il faudra regarder autre chose que les démonstrations spectaculaires ou les annonces de produits. Les signaux les plus importants seront la capacité des IA à accomplir des tâches longues de manière fiable, à utiliser des outils sans erreurs graves, à expliquer leurs décisions, à résister à des usages détournés et à être évaluées par des tiers.

Il faudra également suivre les choix de gouvernance d’OpenAI et de ses concurrents. La compétition peut accélérer l’innovation, mais elle peut aussi inciter à publier trop vite des systèmes insuffisamment testés. La crise interne d’OpenAI à la fin de 2023 a montré que ces arbitrages ne sont pas théoriques, y compris au sein des organisations les mieux placées pour développer une IA générale.

Enfin, la discussion sur la superintelligence ne doit pas faire oublier les effets déjà présents de l’IA. Le travail, l’école, l’accès à l’information, la création et la cybersécurité sont d’ores et déjà transformés par des outils moins ambitieux que l’AGI. Préparer un avenir très incertain passe aussi par des règles et des usages responsables pour les technologies qui existent aujourd’hui.