Ilya Sutskever alerte sur une IA plus puissante, mais moins prévisible

L’intelligence artificielle a longtemps progressé en suivant une recette relativement lisible : davantage de données, davantage de puissance de calcul et des modèles plus grands. Pour Ilya Sutskever, cette période pourrait toutefois laisser place à une phase plus déroutante. L’ancien directeur scientifique et cofondateur d’OpenAI alerte sur l’émergence de systèmes capables de raisonner d’une façon qui rendrait leurs comportements, et donc leurs effets, plus difficiles à prévoir.

Cette mise en garde ne consiste pas à annoncer qu’une machine deviendrait soudainement autonome au sens de la science-fiction. Elle porte sur une difficulté plus concrète : lorsqu’un système gagne en capacité de résolution de problèmes, les concepteurs ne peuvent pas toujours anticiper précisément la stratégie qu’il utilisera, la réponse qu’il produira ou les conséquences de son déploiement à grande échelle. La vitesse des progrès impose alors de traiter la sécurité comme une partie intégrante de la recherche, pas comme une vérification ajoutée à la fin.

Pourquoi Ilya Sutskever parle-t-il d’une IA moins prévisible ?

Ilya Sutskever est l’une des personnalités qui ont marqué la montée en puissance de l’apprentissage profond, cette famille de techniques qui permet aux machines d’apprendre des régularités à partir de très grandes quantités d’exemples. Son parcours scientifique comprend notamment un article marquant publié en 2014, et il a ensuite participé à la création d’OpenAI, devenu l’un des laboratoires les plus influents de l’IA générative.

Son avertissement repose sur un constat simple : les systèmes modernes ne sont pas programmés ligne par ligne pour chaque tâche. Ils sont entraînés. On leur présente de nombreux textes, images, sons, parties de jeu ou autres données, puis leurs paramètres sont ajustés afin qu’ils réussissent mieux une tâche donnée, par exemple prédire le mot suivant dans une phrase ou choisir un coup sur un plateau.

Cette méthode produit des capacités utiles, mais aussi des propriétés dites émergentes. Une aptitude peut apparaître sans avoir été spécifiquement codée sous la forme d’une règle explicite. Les grands modèles de langage, par exemple, peuvent résumer, traduire, rédiger ou répondre à des questions à partir d’un entraînement dont l’objectif initial est principalement la prédiction de texte.

Pour Sutskever, le développement de capacités de raisonnement accentue ce phénomène. Un modèle qui ne se limite plus à donner une réponse immédiate, mais examine plusieurs pistes, vérifie certaines étapes et retient une solution, pourrait obtenir de meilleurs résultats sur des problèmes complexes. Mais sa conduite devient aussi moins intuitive à interpréter pour un humain.

Les données d’Internet ne suffiront pas indéfiniment

Les grands modèles actuels s’appuient très largement sur des données historiques, en particulier des contenus publiés sur Internet. Cette abondance a rendu possible l’essor rapide de l’IA générative. Elle rencontre néanmoins une limite : la puissance de calcul consacrée à l’entraînement augmente rapidement, tandis que les données publiques de qualité ne progressent pas au même rythme.

Le problème n’est pas seulement quantitatif. Répéter indéfiniment les mêmes textes, images ou codes ne garantit pas une amélioration. La fiabilité, la diversité, les droits d’utilisation et la présence de biais dans les jeux de données comptent tout autant. Des données erronées ou déséquilibrées peuvent se retrouver dans les réponses du modèle et, dans certains cas, être amplifiées.

Dans ce contexte, l’industrie doit chercher de nouvelles approches. L’une des pistes consiste à produire des données synthétiques, c’est-à-dire des exemples générés par ordinateur et utilisés ensuite pour l’entraînement ou l’évaluation. Une autre consiste à demander au système d’explorer plusieurs résultats possibles avant de choisir celui qui paraît le plus solide selon des critères définis.

Ces méthodes ne dispensent pas de prudence. Une IA qui apprend à partir de contenus créés par une autre IA peut propager des erreurs si les contrôles sont insuffisants. L’enjeu consiste donc moins à fabriquer artificiellement une quantité illimitée de données qu’à construire des procédures capables d’en vérifier la qualité et l’utilité.

AlphaGo a montré comment une IA peut dépasser les attentes

L’idée qu’un programme puisse générer une part de son propre matériel d’apprentissage n’est pas entièrement nouvelle. L’exemple d’AlphaGo, développé par DeepMind, reste particulièrement parlant. En 2016, ce système a battu Lee Sedol, l’un des meilleurs joueurs mondiaux de go, un jeu réputé pour le nombre immense de positions possibles.

AlphaGo n’a pas uniquement appris en observant des parties humaines. Il a également progressé grâce à des parties jouées contre lui-même, une méthode appelée auto-jeu. Ce mécanisme lui permet d’essayer de nombreuses stratégies, d’observer les résultats et de renforcer celles qui fonctionnent le mieux.

La leçon n’est pas que tous les systèmes d’IA suivront le même parcours. Le go possède des règles précises, un objectif sans ambiguïté et un environnement fermé. Le monde réel est bien plus difficile : les objectifs peuvent être flous, les informations incomplètes et les conséquences d’une erreur très variables selon le domaine. Mais AlphaGo illustre une évolution importante : une machine peut découvrir des stratégies que les humains n’avaient pas nécessairement anticipées.

De l’outil performant au système qu’il faut pouvoir contrôler

Le mot « raisonnement » peut prêter à confusion. Dans le débat sur l’IA, il ne désigne pas forcément une conscience ou une compréhension humaine du monde. Il renvoie à la capacité d’un modèle à décomposer une tâche, à comparer des options, à utiliser des outils ou à vérifier une réponse selon une procédure.

Pour les utilisateurs, cette évolution peut être très utile. Dans la recherche, les services financiers, la santé, l’ingénierie ou le développement logiciel, un système plus performant pourrait traiter des problèmes qui demandent aujourd’hui beaucoup de temps. Mais plus l’IA intervient dans des décisions importantes, plus trois questions deviennent indispensables.

• Quel objectif le système poursuit-il réellement ? Une consigne mal formulée peut conduire à un résultat techniquement cohérent, mais contraire à l’intention humaine.
• Comment vérifier son travail ? Une réponse convaincante n’est pas forcément exacte. Des méthodes d’évaluation, des tests contradictoires et une validation humaine restent nécessaires.
• Qui est responsable en cas d’erreur ? Les entreprises qui conçoivent, déploient ou utilisent l’outil doivent définir clairement leurs rôles, surtout dans les secteurs sensibles.

Le sujet est souvent résumé par le terme d’« alignement » : faire en sorte que le comportement d’un système reste conforme aux objectifs et aux valeurs définis par les humains. Cette recherche est difficile parce qu’il ne suffit pas qu’un modèle se comporte correctement dans des démonstrations préparées. Il faut aussi qu’il reste fiable face à des demandes ambiguës, des usages imprévus ou des tentatives de contournement.

Safe Superintelligence, un laboratoire centré sur la sûreté

Après son départ d’OpenAI en 2024, Ilya Sutskever a cofondé Safe Superintelligence Inc., souvent désignée par le sigle SSI. L’entreprise affiche une mission très ciblée : développer une superintelligence tout en faisant de sa sûreté son objectif central.

Le terme de superintelligence désigne, dans ce contexte, une IA qui dépasserait très largement les capacités humaines dans de nombreux domaines intellectuels. Il s’agit d’un horizon de recherche et non d’une technologie disponible en décembre 2024. Le choix de SSI traduit néanmoins une conviction forte : si des systèmes aussi avancés deviennent possibles, les travaux de sécurité ne peuvent pas être relégués derrière la course aux produits ou aux parts de marché.

Cette position soulève une difficulté pratique. La concurrence entre les laboratoires encourage des cycles de développement rapides, car les modèles les plus performants peuvent offrir un avantage commercial et attirer des financements. Or les études de sûreté, les tests de robustesse et les évaluations indépendantes demandent du temps, des compétences et parfois une retenue dans la diffusion de certaines capacités.

Quels effets économiques une IA plus capable pourrait-elle avoir ?

L’imprévisibilité évoquée par Sutskever ne concerne pas uniquement les chercheurs. Elle pourrait se répercuter sur les entreprises, les travailleurs et les administrations. Les activités qui dépendent fortement de l’apprentissage automatique devront suivre l’évolution des modèles, adapter leurs processus et vérifier que les gains de productivité ne s’accompagnent pas de nouveaux risques.

Les secteurs de la technologie et des services financiers figurent parmi ceux susceptibles d’être particulièrement touchés, tout comme la santé. Dans chacun de ces domaines, l’IA peut accélérer l’analyse d’informations, automatiser certaines tâches ou assister des professionnels. Mais une erreur peut également avoir un coût élevé : décision financière inappropriée, mauvaise interprétation d’un dossier ou diffusion d’une information fausse.

Les projections économiques autour de l’IA générative nourrissent cette dynamique. Le marché pourrait atteindre 100 milliards de dollars d’ici 2028, selon l’estimation évoquée dans ce contexte. Ce chiffre doit toutefois être lu avec prudence : les prévisions de marché ne sont pas des certitudes et dépendent de l’adoption réelle des outils, de leur coût, des règles applicables et de leur capacité à produire des bénéfices durables.

Le principal changement pourrait donc être organisationnel. L’avantage ne reviendra pas automatiquement à l’entreprise qui installe le plus d’outils d’IA, mais à celle qui sait définir les bons usages, former ses équipes, protéger ses données et conserver des mécanismes de contrôle humain adaptés.

La gouvernance doit suivre la vitesse des progrès

Face à ces perspectives, Sutskever insiste sur la nécessité de cadres solides. La gouvernance de l’IA ne relève pas d’un seul acteur. Les laboratoires doivent mesurer les risques de leurs modèles, les entreprises doivent encadrer leurs usages, les chercheurs doivent documenter les limites et les pouvoirs publics doivent fixer des règles applicables.

L’Union européenne a déjà adopté l’AI Act, un règlement qui organise les obligations selon le niveau de risque des systèmes. Ce cadre ne règle pas toutes les questions liées à des modèles toujours plus puissants, mais il illustre l’importance croissante des exigences de transparence, de documentation et de responsabilité.

La coopération internationale reste également essentielle. Une IA développée dans un pays peut être utilisée instantanément dans un autre. Les règles nationales, si elles sont trop éloignées les unes des autres, risquent de compliquer les contrôles sans empêcher les usages problématiques. À l’inverse, des standards communs pour tester les modèles avancés et signaler les incidents pourraient améliorer la sécurité sans bloquer les applications utiles.

Ce qu’il faut surveiller

L’évolution de l’IA dépendra moins d’une annonce spectaculaire que d’une série de choix techniques et politiques. Il faudra observer si les nouvelles méthodes d’entraînement améliorent réellement la fiabilité des systèmes, si les données synthétiques sont contrôlées avec rigueur et si les capacités de raisonnement s’accompagnent d’outils d’évaluation à la hauteur.

La question posée par Ilya Sutskever est en définitive celle de la maîtrise. Des systèmes plus capables peuvent ouvrir des possibilités considérables dans la science, les services et la création. Mais si leurs comportements deviennent plus difficiles à anticiper, la recherche en sécurité, les règles de déploiement et l’information du public devront progresser au même rythme.

L’objectif n’est pas de choisir entre accélération aveugle et immobilisme. Il est de faire en sorte que les avancées soient testées, comprises autant que possible et orientées vers des bénéfices concrets pour la société. C’est à cette condition que la puissance grandissante de l’IA pourra rester un outil au service de décisions humaines responsables.