OpenAI accélère ses lancements, les inquiétudes grandissent sur la sécurité de l’IA

La vitesse est devenue l’une des principales armes de la course à l’intelligence artificielle. Dans ce contexte, OpenAI fait face à une interrogation qui dépasse largement le calendrier de sortie de ses produits : peut-on réduire le temps consacré aux tests de sécurité sans diminuer la capacité à détecter les comportements dangereux d’un modèle ? À l’approche du lancement attendu d’o3, cette question prend une importance particulière.

Des informations publiées en avril 2025 font état de procédures d’évaluation fortement accélérées pour les derniers systèmes de l’entreprise. Des équipes internes et des groupes externes n’auraient parfois disposé que de quelques jours pour examiner certains modèles avant leur mise à disposition. OpenAI soutient de son côté avoir amélioré et automatisé une partie de ses évaluations.

Le débat n’oppose pas simplement les partisans du progrès à ceux de la prudence. Il porte sur une difficulté concrète : les modèles les plus avancés peuvent produire des usages utiles, mais aussi révéler des capacités imprévues, être détournés par des utilisateurs malveillants ou amplifier des erreurs à grande échelle. Plus le modèle est généraliste et accessible, plus son évaluation exige des méthodes solides, du temps et une réelle indépendance de jugement.

Pourquoi le temps de test est devenu un sujet central

Avant de déployer un modèle d’IA générative, un laboratoire cherche généralement à répondre à deux questions. La première est technique : le système peut-il accomplir des tâches sensibles, par exemple aider à contourner des protections informatiques, produire des informations dangereuses ou automatiser des actions complexes ? La seconde concerne le produit : les garde-fous mis en place résistent-ils à des formulations détournées, à des enchaînements de requêtes ou à une utilisation à très grande échelle ?

Ces évaluations ne consistent pas uniquement à poser quelques questions au modèle. Elles peuvent inclure des tests adversariaux, souvent appelés red teaming, durant lesquels des spécialistes tentent délibérément de contourner les protections. Elles reposent aussi sur des mesures répétées, des comparaisons entre versions et l’analyse des limites connues du système.

Des délais de quelques jours peuvent suffire à rejouer des tests déjà très structurés, notamment lorsque les capacités du modèle ont été étudiées en amont. En revanche, ils rendent plus difficile l’exploration des comportements rares, des détournements créatifs et des effets qui apparaissent dans des usages prolongés. C’est là que se situe l’inquiétude : le problème n’est pas seulement la quantité de tests, mais la possibilité de poser de nouvelles questions lorsqu’un signal inquiétant apparaît.

Une succession de signaux depuis la crise de gouvernance

Les interrogations sur la sécurité chez OpenAI ne sont pas nouvelles. En novembre 2023, le conseil d’administration avait brièvement évincé Sam Altman de son poste de directeur général avant son retour, quelques jours plus tard. Cet épisode avait mis en lumière les tensions possibles entre la mission initiale de l’organisation, centrée sur le bénéfice de l’IA pour l’humanité, et l’impératif de développer rapidement des produits dans un marché devenu stratégique.

En mai 2024, le départ de Jan Leike, qui codirigeait auparavant l’équipe Superalignment avec Ilya Sutskever, a renforcé ces préoccupations. Leike avait publiquement exprimé son désaccord avec les priorités de l’entreprise, estimant que la sécurité à long terme avait reçu trop peu de ressources au regard de son importance. Son départ intervenait après la dissolution de fait de l’équipe chargée de travailler sur les risques liés à des systèmes très avancés.

Le lancement de GPT-4o, en mai 2024, a également alimenté le débat. Des témoignages rapportés à l’époque ont évoqué un calendrier de sortie très rapide et des équipes de sécurité placées sous une forte contrainte de temps. Le fait que des invitations pour un événement de lancement aient été envoyées avant la finalisation de certains contrôles a été interprété par les critiques comme le signe d’une décision produit déjà largement engagée.

Que reprochent les critiques à OpenAI ?

Le reproche principal n’est pas qu’OpenAI ne réaliserait aucun test. L’entreprise publie des documents sur ses approches de sécurité et a mis en place un cadre de préparation destiné à identifier et gérer des risques graves. Ses évaluations portent notamment sur des domaines comme la cybersécurité, les risques biologiques et chimiques, la persuasion ou l’autonomie des modèles.

Les critiques estiment toutefois que l’organisation du travail compte autant que l’existence de ces dispositifs. Si les équipes chargées de tester un système reçoivent trop tard une version stabilisée, elles disposent de peu de latitude pour demander des modifications importantes. Si la date de lancement est déjà fixée pour des raisons commerciales ou de communication, une alerte peut être plus difficile à traduire en report effectif.

C’est particulièrement sensible avec un modèle tel qu’o3, présenté comme plus performant dans des tâches de raisonnement. Les performances sur des problèmes de mathématiques, de code ou de science ne constituent pas en elles-mêmes un danger. Mais des capacités plus élevées peuvent aussi accroître l’utilité du modèle pour des activités problématiques, selon les outils auxquels il est relié et les garde-fous qui l’entourent.

La notion d’AGI, ou intelligence artificielle générale, ajoute à la confusion. OpenAI emploie cette expression pour désigner un système hautement autonome capable de produire une valeur économique dans la plupart des tâches cognitives. Il ne s’agit pas d’un seuil scientifique universellement défini, ni d’une technologie dont l’existence serait établie en avril 2025. Mais la perspective de systèmes toujours plus polyvalents nourrit l’idée que les méthodes de sécurité doivent progresser aussi vite que les modèles eux-mêmes.

L’automatisation des contrôles est-elle une réponse suffisante ?

OpenAI explique avoir recours à davantage d’automatisation pour effectuer certains contrôles plus rapidement. Cette évolution est compréhensible : lorsqu’un laboratoire entraîne et ajuste fréquemment de nouvelles versions, des évaluations manuelles intégrales deviennent difficiles à répéter à chaque étape.

L’automatisation peut apporter des bénéfices réels. Elle permet de reproduire exactement un protocole, de tester un très grand nombre de réponses et de repérer rapidement une régression connue. Elle peut aussi libérer du temps humain pour les cas complexes. Mais elle présente une limite essentielle : elle mesure surtout ce qu’elle a été programmée pour mesurer.

Un test automatisé peut par exemple vérifier que le modèle refuse une famille précise de demandes dangereuses. Il identifiera moins facilement une stratégie totalement nouvelle de contournement, une interaction inattendue entre plusieurs outils ou un risque qui n’a pas encore été formalisé dans une grille d’évaluation. L’expertise humaine reste donc nécessaire, en particulier lorsque les modèles changent rapidement de comportement ou gagnent de nouvelles capacités.

La concurrence explique-t-elle cette accélération ?

OpenAI évolue dans un environnement nettement plus concurrentiel qu’au moment du lancement de ChatGPT, à la fin de 2022. Google, Anthropic, Meta, xAI et de nombreux autres acteurs développent leurs propres modèles. En Chine, les modèles de DeepSeek ont attiré une attention internationale considérable en démontrant des performances compétitives sur plusieurs évaluations, tout en mettant en avant une approche de développement moins coûteuse.

Cette concurrence peut bénéficier aux utilisateurs, en améliorant les produits et en faisant baisser certains coûts. Elle crée aussi une incitation puissante à annoncer rapidement une nouvelle capacité, à répondre à un concurrent ou à conserver l’attention des développeurs et des entreprises. Dans cette dynamique, la sécurité risque d’être perçue comme un ralentissement plutôt que comme une condition de la confiance à long terme.

Pourtant, un lancement hâtif comporte également un coût économique et réputationnel. Un outil retiré, une faille largement exploitée ou un incident de sécurité peuvent fragiliser durablement la confiance des utilisateurs, des partenaires et des pouvoirs publics. La question n’est donc pas de choisir entre innovation et sécurité, mais de déterminer si les décisions de lancement donnent réellement aux équipes de sécurité le pouvoir et le temps d’influencer le produit.

Risques concrets et scénarios catastrophiques : ne pas tout confondre

Le débat sur l’IA mêle souvent des risques d’horizons très différents. Les plus immédiats sont déjà bien identifiables : fraude, désinformation, production de logiciels malveillants, atteinte à la vie privée, automatisation de campagnes de manipulation ou erreurs commises par des systèmes utilisés sans vérification humaine. Ces risques ne supposent pas une machine consciente ni une intelligence supérieure à l’humain. Ils exigent déjà des protections, des règles d’accès et une vigilance réelle.

D’autres spécialistes, dont le chercheur Roman Yampolskiy, alertent sur un danger beaucoup plus radical : celui d’une intelligence artificielle qui dépasserait la capacité humaine de contrôle et pourrait provoquer des conséquences existentielles. Cette position nourrit les travaux sur l’alignement, c’est-à-dire la recherche de méthodes capables de faire respecter durablement à une IA des objectifs compatibles avec les intérêts humains.

Ces scénarios de catastrophe globale font l’objet de désaccords importants dans la communauté scientifique et technique. Ils ne constituent pas une probabilité établie avec certitude. Ils soulèvent néanmoins une question de précaution : si les capacités des systèmes progressent vite et si les conséquences potentielles sont très graves, quel niveau de preuve de sûreté faut-il exiger avant le déploiement ?

La réponse ne peut pas reposer sur une seule entreprise. Elle implique les laboratoires, les chercheurs indépendants, les entreprises clientes, les régulateurs et les utilisateurs. Elle suppose aussi de publier des informations suffisamment précises sur les méthodes d’évaluation, les limites identifiées et les mesures prises lorsqu’un risque est détecté.

Ce qu’il faut surveiller avant et après le lancement d’o3

À l’approche d’o3, plusieurs éléments permettront de juger la solidité de la démarche d’OpenAI. Le premier sera le niveau de transparence offert sur les capacités du modèle et sur les tests réalisés avant sa diffusion. Un document technique détaillant les risques étudiés, les protections déployées et leurs limites ne répond pas à toutes les questions, mais il donne aux chercheurs et aux utilisateurs des éléments concrets de discussion.

Le deuxième point sera la place donnée à l’évaluation externe. Des experts indépendants, suffisamment informés et disposant d’un délai raisonnable, sont mieux placés pour mettre au jour certains angles morts. Leur rôle est d’autant plus important qu’un laboratoire a intérêt à réussir son lancement.

Enfin, il faudra observer la capacité d’OpenAI à corriger rapidement d’éventuels problèmes, à limiter des fonctionnalités ou à reporter un déploiement lorsque les signaux sont préoccupants. Dans une industrie qui valorise la vitesse, la décision la plus révélatrice n’est pas toujours celle de publier un modèle plus puissant. C’est parfois celle de prendre le temps de vérifier ce qu’il peut réellement faire, et ce qu’il ne faudrait pas le laisser faire.