Projet Q* d’OpenAI : ce que l’on sait des alertes qui ont secoué l’entreprise

OpenAI n’avait jamais connu une crise de gouvernance aussi visible. En l’espace de quelques jours, l’entreprise à l’origine de ChatGPT a évincé son directeur général, Sam Altman, fait face à une fronde massive de ses salariés, puis préparé son retour. Dans ce contexte déjà exceptionnel, des informations publiées le 23 novembre 2023 ont ajouté une dimension beaucoup plus sensible à l’affaire : des chercheurs auraient alerté le conseil d’administration sur une avancée baptisée Q*, susceptible de rapprocher OpenAI d’une intelligence artificielle plus générale.

Il faut toutefois résister aux raccourcis. Les éléments connus ne décrivent ni une machine consciente, ni une intelligence ayant dépassé l’être humain, ni un produit prêt à être commercialisé. Ils font état d’un projet de recherche et d’une lettre interne dont le contenu complet n’a pas été rendu public. La séquence pose néanmoins une question essentielle : comment une entreprise qui développe des systèmes d’IA de plus en plus puissants doit-elle arbitrer entre vitesse d’innovation, impératifs commerciaux et précaution face à des risques encore mal définis ?

Une crise de gouvernance en quatre jours

Le 17 novembre 2023, le conseil d’administration d’OpenAI a annoncé le départ de Sam Altman. Dans son communiqué, il avançait un motif précis : le dirigeant n’aurait pas toujours été franc dans ses communications avec le conseil, ce qui aurait empêché celui-ci d’exercer ses responsabilités. L’annonce a surpris l’industrie de l’IA, les partenaires d’OpenAI et une grande partie des équipes de l’entreprise.

La réaction interne a été immédiate. Près de 90 % des salariés ont menacé de quitter OpenAI si Sam Altman et Greg Brockman, ancien président du conseil et cofondateur, n’étaient pas rétablis. Ce mouvement révélait autant l’attachement des équipes à leur dirigeant que l’inquiétude suscitée par l’instabilité de l’organisation.

Le 21 novembre, OpenAI a annoncé un accord de principe pour le retour de Sam Altman au poste de directeur général et la recomposition du conseil d’administration. Cette issue n’a pas effacé les interrogations sur les raisons profondes du limogeage initial. Le conseil n’a jamais affirmé publiquement que Q* avait été la cause directe de sa décision.

La proximité entre ces deux épisodes, la crise de direction et l’alerte sur Q*, nourrit logiquement les spéculations. Mais proximité ne signifie pas causalité. Les informations disponibles au 24 novembre 2023 ne permettent pas d’établir que le projet a, à lui seul, provoqué l’éviction de Sam Altman.

Que sait-on réellement du projet Q* ?

Q*, qui se prononcerait « Q-Star », désigne un projet interne d’OpenAI sur lequel les informations publiques sont extrêmement limitées. Des chercheurs de l’entreprise auraient envoyé une lettre au conseil d’administration afin de signaler une avancée et les dangers potentiels qu’elle pourrait représenter pour l’humanité.

Le point le plus marquant concerne les mathématiques. Selon les éléments alors rapportés, Q* aurait montré une capacité à résoudre certains problèmes de mathématiques de niveau scolaire. Cette formulation est importante. Elle ne signifie pas que le système résout l’ensemble des problèmes complexes de recherche, qu’il produit des démonstrations inédites ou qu’il rivalise avec les meilleurs mathématiciens humains.

Elle est néanmoins notable, car le raisonnement mathématique reste un test exigeant pour les modèles de langage. Ces systèmes produisent du texte en évaluant les suites de mots les plus plausibles. Ils peuvent expliquer une méthode, calculer correctement dans certains cas ou générer du code, mais ils commettent aussi des erreurs de raisonnement, de calcul ou de logique, parfois avec une grande assurance apparente.

Un système qui réussirait plus régulièrement des tâches mathématiques vérifiables pourrait donc signaler des progrès dans la planification, la vérification d’étapes ou le raisonnement. Mais il serait faux d’affirmer qu’une IA générative est, par nature, incapable de faire des mathématiques, ou qu’un bon résultat sur des exercices scolaires démontre à lui seul une intelligence générale.

Plusieurs inconnues majeures demeurent : la méthode utilisée, la taille du système, les données d’entraînement éventuelles, les types de problèmes concernés et le fait même que Q* soit un seul modèle ou le nom d’un ensemble de travaux. L’astérisque dans son nom peut évoquer des notations utilisées dans la recherche en informatique, mais aucun lien technique précis ne peut être déduit de ce seul symbole.

Q* est-il une preuve de l’arrivée de l’AGI ?

Le débat s’est rapidement focalisé sur l’AGI, pour « intelligence artificielle générale ». Cette expression désigne généralement une IA capable d’effectuer un large éventail de tâches intellectuelles avec une adaptabilité comparable à celle d’un humain. Il n’existe toutefois ni définition universellement acceptée, ni test unique permettant de déclarer qu’un système a atteint ce stade.

La résolution de problèmes mathématiques est souvent considérée comme un jalon intéressant, car elle demande davantage qu’une simple restitution de textes vus pendant l’entraînement. Elle implique, selon les exercices, de manipuler des règles, de suivre plusieurs étapes et d’arriver à une réponse que l’on peut vérifier. Mais une compétence spécialisée, même impressionnante, ne prouve pas qu’une IA comprend le monde, apprend de manière autonome dans toutes les situations ou possède une capacité générale de jugement.

Autrement dit, Q* pourrait être un progrès dans un domaine précis sans être une AGI. La prudence est d’autant plus nécessaire que les noms de projets internes, les résultats préliminaires et les évaluations non publiées ne permettent pas au public ou à la communauté scientifique de reproduire les observations.

L’enjeu ne réside pas seulement dans le niveau de performance. Il dépend aussi de l’autonomie accordée au système, des outils auxquels il peut accéder, des garde-fous qui encadrent ses usages et de la capacité des humains à contrôler ses comportements.

Pourquoi les mathématiques peuvent-elles inquiéter ?

Les mathématiques ne sont pas inquiétantes par elles-mêmes. Au contraire, des outils plus fiables dans ce domaine pourraient aider à l’enseignement, à la recherche, à l’ingénierie ou à la vérification de logiciels. Ce qui suscite les interrogations est le rôle des mathématiques comme indicateur possible d’une IA plus compétente dans des tâches structurées.

Un modèle capable de raisonner de manière plus robuste pourrait, en théorie, améliorer ses performances dans d’autres domaines exigeant planification et précision : programmation, analyse scientifique, optimisation industrielle ou résolution de problèmes techniques. Mais cette extrapolation reste une hypothèse. Une réussite sur une famille d’exercices ne suffit pas à prouver une maîtrise équivalente dans tous les autres domaines.

Les risques évoqués par les spécialistes de la sûreté de l’IA concernent surtout des systèmes très capables, mal évalués ou déployés avec trop d’autonomie. Une IA peut notamment poursuivre un objectif de façon imprévue, exploiter des failles dans une consigne ou être détournée par des personnes malveillantes. À ce stade, rien n’indique que Q* possède de telles capacités. L’alerte rapportée reflète plutôt une crainte : celle que des progrès rapides précèdent la mise en place de mécanismes de contrôle suffisamment solides.

Le désaccord de fond sur la mission d’OpenAI

La crise révèle aussi une tension ancienne dans l’histoire d’OpenAI. L’organisation a été créée avec une mission affichée : faire en sorte que l’intelligence artificielle générale bénéficie à toute l’humanité. Sa structure est particulière, puisque le conseil d’administration de l’entité à but non lucratif contrôle l’activité commerciale de l’entreprise.

Cette organisation vise en principe à éviter que la recherche d’une croissance rapide ou d’un avantage concurrentiel ne l’emporte systématiquement sur la sécurité. Dans les faits, elle peut aussi produire des désaccords difficiles à arbitrer, surtout quand une même entreprise est à la fois un laboratoire de recherche, l’éditeur de produits très populaires comme ChatGPT et un partenaire stratégique majeur de l’industrie technologique.

Une partie des débats autour d’OpenAI est liée au courant de pensée appelé « effective altruism », ou altruisme efficace. Ce mouvement cherche à orienter les ressources vers les actions jugées les plus bénéfiques sur la base de données et de raisonnements rigoureux. Certains de ses membres accordent une place importante aux risques existentiels, dont ceux qu’une IA très avancée pourrait poser à long terme.

Cette vision ne fait pas l’unanimité. Ses détracteurs redoutent qu’elle détourne l’attention de problèmes immédiats, comme les biais, la concentration du pouvoir technologique, la désinformation ou les conséquences de l’automatisation sur l’emploi. À l’inverse, ses défenseurs estiment qu’ignorer les risques liés à des systèmes beaucoup plus puissants serait irresponsable. La question n’est donc pas de choisir entre innovation et sécurité, mais de déterminer qui fixe les priorités et sur quelles preuves.

Quelles garanties attendre des entreprises d’IA ?

L’affaire Q* montre les limites d’une gouvernance reposant principalement sur des informations internes. Lorsqu’un laboratoire affirme avoir franchi une étape significative, les décideurs publics, les utilisateurs et même les chercheurs extérieurs disposent rarement des éléments nécessaires pour en évaluer la portée.

Plusieurs pratiques peuvent réduire cet écart. Elles ne remplacent pas la recherche fondamentale sur la sûreté de l’IA, mais elles rendent les décisions de déploiement plus vérifiables :

• des évaluations rigoureuses avant la mise à disposition d’un modèle ;
• des tests portant sur le raisonnement, la cybersécurité, les comportements imprévus et les possibilités de détournement ;
• des restrictions graduées sur l’accès aux capacités les plus sensibles ;
• des procédures de signalement d’incidents et des audits indépendants ;
• une gouvernance où les responsables de la sécurité peuvent faire entendre leurs objections sans être marginalisés.

Le débat concerne aussi les pouvoirs publics. En novembre 2023, l’Union européenne négocie encore les derniers arbitrages de son règlement sur l’IA, l’AI Act. Aux États-Unis, un décret présidentiel publié fin octobre appelle notamment à des évaluations de sécurité pour certains modèles très puissants. Ces initiatives témoignent d’un changement de perspective : l’IA n’est plus seulement un sujet d’innovation, elle devient un enjeu de sécurité, de concurrence et de responsabilité démocratique.

Ce qu’il faut surveiller après l’affaire Q*

À court terme, le principal enjeu pour OpenAI est de stabiliser sa direction et de clarifier le fonctionnement de son conseil d’administration. L’entreprise devra aussi convaincre ses salariés, ses partenaires et le public que les alertes internes peuvent être entendues sans déclencher une crise institutionnelle.

Sur le plan technologique, les annonces de performances devront idéalement s’accompagner de résultats reproductibles, de protocoles d’évaluation et d’explications sur les limites des systèmes. Une affirmation sur des capacités en mathématiques ne prend réellement son sens que si l’on connaît les exercices utilisés, les taux d’erreur et les conditions du test.

Enfin, Q* rappelle que les grandes avancées en IA se jouent autant dans les laboratoires que dans les conseils d’administration. La capacité à développer des modèles plus performants ne garantit pas la capacité à décider sereinement de leur usage. C’est précisément cet écart entre puissance technique et contrôle collectif qui est devenu, en novembre 2023, l’une des questions centrales de l’intelligence artificielle.