Singularité technologique et AGI : pourquoi ce futur reste incertain

La perspective d’une intelligence capable d’apprendre dans tous les domaines, de raisonner avec souplesse et d’améliorer les outils qui l’entourent fascine autant qu’elle inquiète. Au 10 novembre 2023, elle demeure une hypothèse, mais la diffusion rapide des IA génératives a fait sortir ce débat des laboratoires et de la science-fiction. Derrière les termes de « singularité technologique » et d’« AGI » se cachent des scénarios distincts, dont les échéances comme les conséquences restent profondément incertaines.

Des œuvres de fiction ont depuis longtemps exploré cette idée. La publication d’origine rapprochait notamment cette réflexion de La Nuit des temps, de René Barjavel, et de l’univers de The Culture, créé par Iain M. Banks. Ces récits posent, chacun à leur manière, une même question politique et philosophique : que deviendrait une société si une intelligence non humaine pouvait organiser une grande partie de son fonctionnement ? En 2023, cette interrogation prend une résonance nouvelle avec des logiciels accessibles au grand public, capables de rédiger, traduire, programmer ou synthétiser des informations en quelques secondes.

Singularité technologique et AGI : de quoi parle-t-on exactement ?

La singularité technologique désigne un point théorique à partir duquel les progrès techniques, particulièrement en intelligence artificielle, deviendraient si rapides et si transformateurs que la suite de l’histoire humaine deviendrait difficile à prévoir. L’idée est souvent associée à une boucle d’accélération : une IA très avancée contribuerait elle-même à concevoir des systèmes plus performants, qui accéléreraient à leur tour la recherche et l’innovation.

L’intelligence artificielle générale, souvent désignée par le sigle anglais AGI pour artificial general intelligence, est une notion plus précise. Elle correspondrait à un système en mesure d’apprendre et de mobiliser ses capacités dans une très grande diversité de situations, avec une polyvalence comparable à celle d’un être humain. Elle ne se limiterait donc pas à une fonction unique, comme reconnaître des visages, recommander des vidéos ou jouer à un jeu de stratégie.

Ces deux notions sont liées, mais elles ne sont pas synonymes. Une AGI pourrait être considérée comme une étape susceptible de rendre un scénario de singularité plus crédible. Cela ne signifie pas que son apparition entraînerait automatiquement une rupture incontrôlable, ni qu’un tel basculement est inévitable.

Pourquoi les prévisions sur l’AGI divergent-elles autant ?

Les estimations citées dans la publication d’origine illustrent le désaccord qui traverse le secteur. Environ six mois auparavant, l’informaticien et futurologue Ray Kurzweil estimait que l’AGI pourrait apparaître dans vingt ans. Un dirigeant de Google DeepMind évoquait plutôt un horizon d’une décennie. Plus récemment, un spécialiste de l’IA interrogé par Decrypt Media situait ce délai entre trois et huit ans.

Ce grand écart ne doit pas être lu comme une simple querelle de pronostics. Il révèle d’abord un problème de définition. Pour certains, une machine doit prouver qu’elle peut réussir un large éventail de tâches intellectuelles. Pour d’autres, elle devra aussi faire preuve de planification autonome, de robustesse dans le monde réel, d’apprentissage continu ou d’une capacité à transférer ses connaissances sans entraînement spécifique.

Il n’existe pas, en novembre 2023, de test universellement accepté permettant de déclarer qu’une AGI a été atteinte. Prédire une date suppose donc à la fois d’anticiper des découvertes scientifiques, des moyens informatiques, des choix industriels et la capacité des systèmes à surmonter des limites encore visibles. Une prévision doit être comprise comme un jugement d’expert, non comme un calendrier garanti.

GPT-4 et Llama 2 rapprochent-ils réellement de l’AGI ?

L’intérêt récent pour l’AGI est indissociable des avancées des grands modèles de langage. GPT-4, conçu par OpenAI, et Llama 2, développé par Meta, ont rendu perceptible au public une nouvelle génération de logiciels capables de dialoguer, résumer, produire du code, expliquer des notions ou reformuler des textes avec une fluidité saisissante.

Leur principe général est de traiter de très grandes quantités de données textuelles afin d’identifier des régularités statistiques dans le langage. À partir d’une consigne, ces modèles prédisent la suite la plus pertinente et peuvent produire des réponses structurées. Connectés à des outils ou enrichis d’instructions spécifiques, ils peuvent accomplir davantage de tâches. Cette polyvalence explique qu’ils soient parfois présentés comme des précurseurs de l’AGI.

Mais une capacité impressionnante à manipuler le langage ne suffit pas à établir qu’un système comprend le monde comme un humain ou qu’il sait agir de manière fiable dans n’importe quelle situation. Les modèles peuvent se tromper, inventer des informations plausibles, mal interpréter une demande ambiguë ou échouer face à un problème formulé différemment. Leur performance dépend aussi de leurs données d’entraînement, de leur conception et du contexte fourni par l’utilisateur.

Les avancées de ces modèles ont néanmoins un effet concret sur la course industrielle. Elles attirent des financements, des talents et des infrastructures de calcul vers les entreprises qui poursuivent cet objectif. La publication d’origine cite notamment OpenAI, Google DeepMind et xAI, la société fondée par Elon Musk. Cette concentration de ressources peut accélérer les expérimentations, mais elle renforce aussi la nécessité d’un débat public sur les objectifs poursuivis et sur les garde-fous nécessaires.

Quels effets une AGI pourrait-elle avoir sur l’emploi et l’économie ?

Si une IA générale voyait le jour, ses effets ne se résumeraient pas à la disparition soudaine de métiers entiers. Un emploi est composé de tâches variées : certaines sont répétitives, d’autres exigent un jugement, une responsabilité, une relation de confiance ou une présence physique. L’automatisation transforme donc souvent les activités avant de transformer les intitulés de poste.

Une AGI suffisamment fiable pourrait toutefois étendre l’automatisation à des tâches intellectuelles aujourd’hui associées aux bureaux, aux services, à l’analyse, à la création de documents ou au développement informatique. Elle pourrait accomplir certaines opérations plus vite, à très grande échelle et à moindre coût. Les entreprises pourraient en tirer des gains de productivité, tandis que les salariés devraient adapter leurs compétences et leurs méthodes de travail.

La question centrale serait alors celle de la répartition de ces gains. Qui bénéficierait des nouvelles capacités de calcul, des données, des logiciels et des revenus créés ? Quels métiers seraient augmentés par l’IA, lesquels seraient fragilisés, et quels dispositifs d’accompagnement seraient proposés aux travailleurs ? L’enjeu ne relève pas seulement de la technologie : il dépendrait des politiques d’éducation, de formation, de protection sociale, de concurrence et de fiscalité.

Le défi du contrôle, de l’éthique et des droits individuels

L’hypothèse d’une AGI élargit les interrogations déjà posées par les IA actuelles. Un système très puissant devrait-il pouvoir prendre seul des décisions qui affectent l’accès à un crédit, à un emploi, à des soins, à une information ou à un service public ? Comment vérifier ses raisonnements lorsqu’il produit une recommandation difficile à interpréter ? Qui serait responsable en cas de dommage : le développeur, l’entreprise qui le déploie, l’utilisateur ou l’organisation qui s’appuie sur sa décision ?

La notion d’alignement résume une partie de ce défi. Elle renvoie à la capacité de concevoir un système qui poursuit des objectifs compatibles avec les intentions humaines, les règles collectives et les droits fondamentaux. Cette question n’est pas seulement technique. Même si une IA obéissait parfaitement à une instruction, il faudrait encore déterminer qui formule cette instruction, quelles valeurs elle reflète et quels mécanismes permettent de la contester.

La protection de la vie privée, la lutte contre les discriminations, la sécurité des systèmes et la transparence des contenus produits par IA sont également en jeu. Dans l’Union européenne, les institutions négocient en 2023 un cadre législatif dédié à l’intelligence artificielle, après l’adoption par le Parlement européen de sa position de négociation en juin. Cette dynamique témoigne d’une idée simple : les règles ne peuvent pas être pensées uniquement après la généralisation des usages.

Préparer l’avenir sans confondre anticipation et certitude

Face à un horizon aussi incertain, deux écueils sont possibles. Le premier consiste à considérer la singularité comme inévitable et imminente, en tirant de scénarios hypothétiques des certitudes sur l’avenir. Le second consiste à ignorer les progrès observables au motif que l’AGI n’existe pas encore. Une préparation raisonnable consiste plutôt à suivre les capacités réelles des systèmes, leurs limites, leurs usages et les effets mesurables de leur déploiement.

Cela implique une coopération entre les chercheurs qui évaluent les modèles, les entreprises qui les développent, les responsables politiques qui fixent des règles, les enseignants qui accompagnent les compétences, les syndicats et employeurs qui organisent le travail, ainsi que les citoyens qui subiront ou bénéficieront de ces transformations. La qualité de cette coopération comptera autant que la puissance des logiciels eux-mêmes.

Ce qu’il faut surveiller

Dans les prochaines années, la question la plus utile ne sera pas seulement « quand l’AGI arrivera-t-elle ? ». Il faudra observer si les IA deviennent plus fiables dans des tâches variées, si elles peuvent vérifier leurs résultats, utiliser des outils sans accroître les risques, et fonctionner dans des environnements réels avec des règles strictes.

Il faudra aussi examiner la concentration des capacités de calcul et des données, les conditions d’accès aux modèles les plus puissants, ainsi que l’efficacité des mécanismes de contrôle indépendants. La singularité technologique reste un concept spéculatif. En revanche, la transformation de certains usages du travail, de l’information et de la création par les IA génératives est déjà engagée en novembre 2023. Préparer ce changement avec lucidité est moins spectaculaire que prédire une date, mais beaucoup plus décisif pour que ses bénéfices soient partagés et que ses risques soient maîtrisés.