OpenAI : des anciens employés alertent sur le poids du profit et la sécurité

Au fil de ses lancements, OpenAI est devenue l’une des organisations les plus influentes de l’intelligence artificielle. Ses décisions sur les modèles, les usages et la sécurité ne concernent donc plus seulement ses salariés ou ses investisseurs. Elles peuvent orienter tout un secteur. C’est dans ce contexte que le dossier public intitulé Les Dossiers d’OpenAI rassemble les alertes d’anciens membres de l’organisation, inquiets de voir les impératifs de croissance et de financement prendre le pas sur sa mission originelle.

Le document ne constitue pas une enquête judiciaire et ses accusations ne valent pas, à elles seules, des faits établis. Il met néanmoins en lumière un débat concret, nourri par des départs très médiatisés et par l’évolution de la structure juridique d’OpenAI : comment concilier la mise au point de systèmes d’IA toujours plus puissants, les investissements colossaux qu’ils exigent et des mécanismes de contrôle capables de résister à la pression économique ?

Ce que reprochent les anciens employés à OpenAI

Le cœur de la critique est simple : OpenAI aurait progressivement déplacé son centre de gravité. Créée en décembre 2015 comme organisation à but non lucratif, elle affichait l’ambition de faire en sorte que l’intelligence artificielle générale, souvent désignée par le sigle anglais AGI, bénéficie à l’ensemble de l’humanité.

L’AGI désigne, dans ce débat, une IA qui serait capable de réaliser un large éventail de tâches intellectuelles à un niveau comparable ou supérieur à celui des humains. Une telle technologie n’existe pas aujourd’hui sous une forme avérée. Mais la possibilité d’en approcher certaines capacités est précisément la raison pour laquelle OpenAI a placé la sécurité au centre de son discours public.

Les auteurs et soutiens des Dossiers d’OpenAI estiment que cette priorité se serait affaiblie au fil de la commercialisation des produits et de la compétition avec les autres grands laboratoires. Ils redoutent notamment que des décisions importantes soient prises sous l’influence de la course aux utilisateurs, aux contrats et à la puissance de calcul, plutôt qu’après une évaluation indépendante des risques.

Le dossier relaye également des critiques visant la culture interne et le leadership de Sam Altman, directeur général d’OpenAI. Ces appréciations sont formulées par d’anciens collaborateurs et doivent être comprises comme telles. Elles prolongent surtout une crise de gouvernance devenue publique en novembre 2023, lorsque le conseil d’administration avait brièvement écarté Sam Altman avant son retour à la direction quelques jours plus tard.

Cette séquence a illustré une particularité essentielle d’OpenAI : l’organisation à but non lucratif disposait historiquement du pouvoir de contrôle sur l’entité commerciale. Pour les critiques, cette architecture ne suffit toutefois que si ses administrateurs, ses chercheurs et ses salariés peuvent exercer un véritable contre-pouvoir.

Pourquoi les plafonds de profits sont au centre de la controverse

Pour financer des infrastructures informatiques de plus en plus coûteuses, OpenAI a créé en 2019 une structure dite à « profit plafonné ». Elle devait permettre de rémunérer des investisseurs et des salariés tout en limitant les rendements, contrairement à une société traditionnelle dont les bénéfices peuvent théoriquement être distribués sans plafond.

L’idée répondait à une tension structurelle. Entraîner des modèles de pointe exige des processeurs spécialisés, des centres de données, de l’électricité et des équipes de recherche très qualifiées. Ces dépenses appellent des capitaux considérables. Mais un financement exclusivement orienté vers le rendement peut aussi faire peser une pression sur le rythme de déploiement des produits.

Les Dossiers d’OpenAI présentent l’abandon ou l’assouplissement de ces limites comme un risque de reniement de la mission initiale. La question s’est ravivée avec les discussions sur la transformation de l’organisation.

En mai 2025, OpenAI a précisé que l’organisation à but non lucratif resterait en position de contrôle dans le projet de nouvelle structure. L’entité commerciale devait devenir une public benefit corporation, une forme de société américaine qui inscrit une mission d’intérêt public dans son objet, tout en restant une entreprise capable d’attirer des investisseurs.

Cette annonce répondait en partie aux inquiétudes sur une conversion complète en entreprise classique. Mais elle n’a pas éteint les critiques. Les anciens employés et défenseurs d’une gouvernance plus stricte demandent non seulement le maintien formel du contrôle non lucratif, mais aussi des pouvoirs effectifs, une transparence sur les intérêts économiques en jeu et des garanties explicites sur les garde-fous de sécurité.

Les alertes de Jan Leike et des chercheurs en sécurité

Le départ de Jan Leike en mai 2024 est devenu l’un des symboles de cette controverse. Responsable de l’équipe chargée de la sécurité à long terme, il avait écrit que son équipe avait travaillé « à contre-courant » au cours des mois précédents. Il avait également jugé que la culture et les processus de sécurité avaient été relégués derrière des produits plus attractifs.

Son propos ne signifie pas qu’OpenAI aurait abandonné toute recherche en matière de sûreté. Le laboratoire publie des cadres d’évaluation, des travaux sur l’alignement des modèles et des mécanismes de préparation aux risques. Mais l’alerte de Jan Leike porte sur la hiérarchie réelle des priorités : une équipe de sécurité peut exister sans disposer pour autant des ressources, du temps ou de l’autorité nécessaires pour infléchir une décision de lancement.

L’ancien scientifique en chef et cofondateur Ilya Sutskever, qui a quitté OpenAI en 2024, est lui aussi régulièrement associé à ces préoccupations. Sa place dans la crise de gouvernance de novembre 2023 a souligné les désaccords possibles entre une vision prudente du développement de l’IA et les impératifs opérationnels d’une entreprise en très forte croissance.

Dans les systèmes d’IA avancés, la sécurité ne se résume pas à empêcher un chatbot de produire une réponse inappropriée. Elle peut recouvrir plusieurs niveaux de travail :

• la recherche sur l’alignement, c’est-à-dire la capacité d’un système à suivre des objectifs et des règles définis par les humains ;
• les évaluations de capacités dangereuses, par exemple dans des domaines scientifiques ou informatiques sensibles ;
• les tests adversariaux, souvent appelés red teaming, qui cherchent à contourner les protections avant un déploiement ;
• les règles de gouvernance permettant de retarder ou de suspendre une publication si un seuil de risque est franchi.

Le point soulevé par les critiques est donc moins technologique que décisionnel : qui fixe ces seuils, qui vérifie qu’ils sont respectés et qui peut dire non ?

Une gouvernance crédible suppose des contre-pouvoirs

Les Dossiers d’OpenAI appellent à restaurer une capacité de décision forte pour la structure à but non lucratif et à mettre en place des contrôles plus indépendants. Derrière cette demande se trouve une idée largement partagée dans le secteur : les règles internes ne sont robustes que si les personnes chargées de les appliquer ne dépendent pas entièrement des responsables de la croissance du produit.

Les anciens employés réclament également une culture où les salariés peuvent signaler un problème sans craindre de perdre leur emploi ou de subir des représailles. La protection des lanceurs d’alerte est particulièrement importante dans l’IA, où des informations techniques, des résultats d’évaluation ou des arbitrages de gouvernance restent souvent confidentiels pour des raisons de sécurité et de concurrence.

La spécialiste de la gouvernance de l’IA Helen Toner, ancienne membre du conseil d’administration d’OpenAI, est citée dans le débat comme l’une des voix rappelant la fragilité des garde-fous lorsque des intérêts financiers considérables sont engagés. Son intervention et celles des autres critiques ne tranchent pas à elles seules la question du comportement d’OpenAI. Elles rappellent en revanche qu’une entreprise ne peut pas demander au public de lui faire confiance sans expliquer comment cette confiance est protégée.

Une gouvernance crédible repose notamment sur des éléments vérifiables : des administrateurs réellement indépendants, des processus d’audit documentés, une possibilité de recours lorsqu’un désaccord sérieux apparaît et des critères publics, au moins dans leurs grandes lignes, pour encadrer les déploiements les plus sensibles.

Pourquoi cette affaire dépasse le cas d’OpenAI

La controverse touche OpenAI, mais elle concerne l’ensemble des laboratoires qui développent des modèles de frontière. Ces entreprises doivent financer des calculs toujours plus lourds tout en promettant de réduire les risques d’outils capables d’automatiser, d’amplifier ou d’accélérer des tâches dans de nombreux domaines.

Le problème est particulièrement aigu parce que la concurrence est mondiale. Retarder un lancement pour mener des tests supplémentaires peut représenter un coût commercial. À l’inverse, publier trop vite un système mal évalué peut créer des risques pour les utilisateurs, les entreprises et la société. Cette opposition ne se résout pas par une déclaration de principe : elle demande des règles qui rendent la prudence possible, y compris lorsqu’elle est coûteuse.

Les autorités publiques observent également ces évolutions. En Europe, l’AI Act introduit une approche graduée selon les risques et prévoit des obligations spécifiques pour certains systèmes d’IA. Aux États-Unis, le cadre reste plus fragmenté. Dans tous les cas, la régulation externe ne remplace pas les mécanismes internes : les entreprises détiennent souvent les informations les plus précises sur les capacités de leurs modèles avant leur mise à disposition.

Pour les utilisateurs, le sujet peut sembler abstrait. Il a pourtant des conséquences concrètes. Les choix de gouvernance influencent la manière dont sont testés les outils déployés dans les écoles, les entreprises, les services publics ou la création. Ils déterminent aussi la place laissée à la contestation lorsqu’un chercheur ou une chercheuse estime qu’un risque n’a pas été suffisamment examiné.

Ce qu’il faut surveiller après les Dossiers d’OpenAI

À la date de publication de cet article, le 20 juin 2025, le principal enjeu est de savoir comment les promesses d’OpenAI seront traduites dans sa structure et dans ses pratiques. Le maintien annoncé du contrôle par l’organisation à but non lucratif constitue un point important. Mais les critiques attendent des précisions sur les droits économiques, les plafonds de rendement, les pouvoirs du conseil et l’indépendance des évaluations de sécurité.

Il faudra également suivre les moyens réellement consacrés aux équipes travaillant sur l’alignement, les tests et la préparation aux risques. Les déclarations de Jan Leike ont rendu cette question impossible à ignorer : une politique de sécurité ne se mesure pas seulement à l’existence d’un cadre, mais à la capacité des personnes qui le portent à influencer les choix les plus difficiles.

Enfin, l’affaire pose une exigence de transparence qui dépasse OpenAI. Les laboratoires d’IA demandent au public de leur confier des technologies susceptibles de transformer l’économie et l’accès au savoir. En retour, le public est en droit de demander des preuves de responsabilité : des règles lisibles, des dirigeants comptables de leurs décisions et des garde-fous capables de tenir lorsque les intérêts financiers deviennent les plus pressants.