OpenAI : une fuite évoque un modèle ouvert de 120 milliards de paramètres

Le nom d’OpenAI est surtout associé à des services d’IA accessibles en ligne, comme ChatGPT et ses interfaces de programmation. C’est pourquoi des indices suggérant le retour possible de l’entreprise vers un modèle publiquement téléchargeable suscitent autant d’attention. Le 3 août 2025, des captures d’écran et des fichiers de configuration relayés en ligne alimentent la rumeur d’un lancement prochain sous les noms gpt-oss-120b et gpt-oss-20b.

L’hypothèse est techniquement crédible, mais elle doit être maniée avec méthode. Un nom de dépôt, une capture d’écran ou un fichier de configuration peuvent signaler l’existence de travaux internes, de tests ou de préparatifs de publication. Ils ne prouvent ni qu’un produit sortira effectivement, ni sous quelle licence, ni que ses capacités correspondront aux attentes. OpenAI n’a alors communiqué aucune annonce officielle confirmant ces éléments.

Ce que montrent réellement les éléments qui circulent

Les indices relayés portent sur des dépôts de modèles ensuite supprimés, associés à des membres de l’équipe d’OpenAI. Ils afficheraient deux étiquettes : gpt-oss-120b et gpt-oss-20b. Le suffixe « oss » est couramment lu comme une référence à l’open source, tandis que « 120b » et « 20b » renverraient vraisemblablement à des ordres de grandeur en milliards de paramètres.

Des fichiers de configuration accompagnant ces éléments feraient aussi état d’une architecture de type Mixture of Experts, ou MoE, et de 128 experts. Le modèle principal serait présenté comme un système de 120 milliards de paramètres. D’autres propriétés sont évoquées, notamment un vocabulaire étendu et un mécanisme d’attention par fenêtre glissante, conçu pour traiter de longs textes.

Pour distinguer l’information disponible de l’interprétation, il faut cependant séparer les signaux techniques des conclusions commerciales.

Que représentent 120 milliards de paramètres ?

Dans un modèle de langage, les paramètres sont les très nombreux réglages numériques ajustés pendant l’entraînement. Ils permettent au système de repérer des régularités dans les textes, les codes ou d’autres données. Ils ne correspondent pas à une base de connaissances composée de 120 milliards de faits, ni à une mesure simple de l’intelligence d’une IA.

Le chiffre de 120 milliards de paramètres place néanmoins le modèle évoqué dans la catégorie des grands systèmes. Une telle taille peut contribuer à la richesse d’expression, à la capacité de suivre des consignes variées et à la couverture de nombreux domaines. Mais elle ne suffit pas à prédire la qualité d’un modèle. Les données d’entraînement, les méthodes d’alignement, la qualité du raisonnement, la prise en charge des langues et les tests de sécurité comptent tout autant.

La comparaison entre modèles exige aussi de savoir si ce chiffre décrit tous les paramètres présents dans le système ou uniquement ceux réellement sollicités lors de la génération d’un texte. C’est précisément là qu’intervient l’architecture Mixture of Experts. Dans les éléments actuellement relayés, aucun détail ne permet de déterminer cette répartition ni le volume de calcul requis par requête.

Pour les développeurs, la différence est concrète. Un modèle de grande taille peut être très performant, mais son exécution locale réclame généralement beaucoup de mémoire informatique et des accélérateurs adaptés. Une version plus légère, possiblement suggérée par l’étiquette gpt-oss-20b, serait susceptible de viser d’autres usages. Cette interprétation reste toutefois incertaine tant que les spécifications ne sont pas rendues publiques.

Comment fonctionne une architecture Mixture of Experts ?

La Mixture of Experts peut être comprise comme une organisation du modèle en plusieurs sous-réseaux spécialisés, appelés « experts ». Au lieu de mobiliser exactement les mêmes calculs pour chaque morceau de texte, un mécanisme de routage choisit les experts les plus pertinents pour traiter une partie de la requête.

Dans le cas évoqué par la fuite, le système compterait 128 experts. Cela ne signifie pas qu’il existe 128 assistants distincts, chacun compétent dans un sujet précis comme le droit, les mathématiques ou la médecine. Dans un réseau de neurones, cette spécialisation est généralement plus diffuse et résulte de l’entraînement. Elle n’est pas nécessairement lisible ou contrôlable par un humain.

L’intérêt de cette architecture tient à un compromis : le modèle peut disposer d’un grand nombre total de paramètres tout en n’en activant qu’une fraction lors d’un calcul donné. En théorie, cela permet d’augmenter la capacité du système sans alourdir dans les mêmes proportions le coût de chaque réponse.

Cette promesse s’accompagne de contraintes. Le routage entre experts doit être efficace, la répartition du travail doit éviter qu’une petite partie du modèle soit trop sollicitée, et l’infrastructure doit pouvoir stocker et charger l’ensemble du système. Une MoE n’est donc pas automatiquement plus rapide, moins chère ou meilleure qu’un modèle dense classique. Tout dépend de sa mise en œuvre et du matériel employé.

Pourquoi l’attention par fenêtre glissante compte pour les textes longs

Parmi les caractéristiques techniques attribuées au modèle figure la Sliding Window Attention, souvent traduite par attention par fenêtre glissante. Pour générer ou analyser un texte, un modèle de langage doit décider quelles portions du contexte précédent méritent son attention. Examiner tous les mots précédents de manière exhaustive devient rapidement coûteux lorsque le document s’allonge.

Le principe de la fenêtre glissante consiste à concentrer une partie des calculs sur les segments de texte les plus proches. À mesure que le modèle avance dans le document, sa zone d’attention se déplace. Cette méthode peut réduire les ressources nécessaires et aider à gérer des séquences plus longues de façon pratique.

Elle ne signifie pas, à elle seule, qu’un modèle comprend parfaitement un rapport de plusieurs centaines de pages ou qu’il conservera tous les détails mentionnés au début d’une longue conversation. La longueur de contexte, la façon dont les fenêtres sont combinées et les mécanismes supplémentaires éventuels font une différence déterminante. Les informations relayées ne donnent pas de valeur chiffrée sur ce point.

La mention d’un « vocabulaire étendu » appelle une prudence semblable. Dans un modèle de langage, le vocabulaire désigne les unités, ou tokens, dans lesquelles le texte est découpé. Un vocabulaire mieux adapté peut améliorer l’efficacité pour certaines langues, certains alphabets ou le code informatique. Sans connaître sa taille, sa composition et les langues ciblées, il est impossible d’évaluer l’avantage concret annoncé.

Open source, poids ouverts : une distinction essentielle

Le mot « open source » est souvent employé pour désigner toute IA que l’on peut installer ou examiner. Or, plusieurs niveaux d’ouverture sont possibles. Une entreprise peut publier les poids d’un modèle, c’est-à-dire les fichiers numériques nécessaires à son exécution, sans publier le code complet d’entraînement, les jeux de données, les recettes de post-entraînement ou les méthodes d’évaluation.

À l’inverse, un service propriétaire fonctionne généralement sur les serveurs de son éditeur. Les utilisateurs envoient une requête et reçoivent une réponse via une application ou une interface de programmation, sans accéder aux poids du modèle. La fuite ne permet pas de savoir quel degré d’ouverture OpenAI choisirait, si elle se confirmait.

Dans le débat public, cette nuance est loin d’être juridique seulement. La licence détermine si une organisation peut modifier le modèle, le redistribuer, l’intégrer à un produit commercial ou l’utiliser dans un cadre de recherche. Elle encadre aussi parfois les usages interdits. Sans texte de licence, il serait prématuré de présenter gpt-oss comme un modèle libre au sens strict.

Un mouvement stratégique face à Meta et Mistral AI

Si la rumeur aboutissait à une publication, OpenAI entrerait plus frontalement dans une compétition déjà structurée par les modèles téléchargeables. Meta a fait des modèles Llama un point d’appui important de son écosystème, tandis que Mistral AI s’est imposée en Europe avec plusieurs modèles diffusés avec des degrés d’ouverture variés.

Ces acteurs ont montré l’intérêt stratégique de proposer des modèles que les entreprises, les laboratoires et les développeurs peuvent déployer dans leurs propres environnements. Cela facilite l’expérimentation, l’adaptation à un métier et, dans certains cas, le maintien de données sensibles au sein de l’infrastructure de l’utilisateur. Pour les intégrateurs, c’est aussi une façon de réduire la dépendance à un fournisseur unique d’API.

Une publication de la part d’OpenAI pourrait donc être interprétée comme une réponse aux critiques récurrentes d’une partie de la communauté technique. L’organisation a été fondée avec une mission de recherche tournée vers le bénéfice général, mais ses modèles les plus visibles sont aujourd’hui distribués comme des services hébergés. Un modèle à poids accessibles créerait un nouveau point de contact avec les chercheurs et développeurs qui souhaitent évaluer, modifier ou exécuter un système par eux-mêmes.

Il ne faut pas réduire cette décision hypothétique à un simple retour aux origines. Les modèles ouverts servent aussi des objectifs industriels : ils encouragent la création d’outils compatibles, forment les développeurs à un écosystème et accélèrent la diffusion de certaines architectures. La valeur peut ensuite se déplacer vers le cloud, le support, la sécurité, les modèles plus grands ou les applications spécialisées.

Ce que les développeurs voudront vérifier avant de l’adopter

Même en cas de lancement rapide, l’existence d’un fichier de modèle ne suffirait pas à garantir son adoption. Les équipes techniques attendraient d’abord une documentation claire : matériel nécessaire, formats de poids, compatibilité avec les principaux outils d’inférence, langues prises en charge et limites connues.

Les performances devront également être testées au-delà d’annonces générales. Les comparaisons pertinentes portent sur le raisonnement, le code, la compréhension multilingue, la fidélité aux consignes, la résistance aux hallucinations et la vitesse d’exécution. Les résultats doivent idéalement être reproductibles et complétés par des retours d’usage sur des tâches réelles.

La sécurité constitue un autre point décisif. Un modèle téléchargeable donne davantage de contrôle à son utilisateur, mais il réduit aussi la capacité de l’éditeur à appliquer directement des garde-fous au niveau de l’interface. Les organisations qui l’hébergeraient devraient prévoir leurs propres mécanismes de filtrage, de contrôle d’accès, de journalisation et de protection des données.

Enfin, la taille annoncée peut créer un écart entre l’intérêt théorique et l’usage concret. Un modèle de 120 milliards de paramètres, même optimisé par une architecture MoE, ne se déploie pas nécessairement sur un ordinateur personnel. Les coûts de matériel, de mémoire, d’énergie et d’administration peuvent réserver les configurations les plus complètes à des entreprises, des universités ou des fournisseurs de cloud.

Ce qu’il faut surveiller dans les prochains jours

La première information à attendre est une confirmation formelle d’OpenAI. Elle devra préciser si les noms gpt-oss-120b et gpt-oss-20b correspondent bien à des modèles destinés au public, à des versions de test ou à des projets qui ne seront pas diffusés.

Le deuxième élément déterminant sera la licence. C’est elle qui dira ce que les développeurs auront réellement le droit de faire avec le modèle. La disponibilité des poids, du code d’inférence, d’une carte de modèle et de documents sur la sécurité permettra ensuite de juger le niveau d’ouverture réel de l’initiative.

Il faudra enfin examiner les détails techniques qui manquent encore : nombre de paramètres activés par requête, longueur de contexte, besoins matériels, modalités de quantification, langues prises en charge et résultats d’évaluation. La fuite dessine la possibilité d’un modèle ambitieux, mais seule une publication documentée permettra de savoir s’il constitue un tournant pour OpenAI ou un projet parmi d’autres dans une course très disputée aux modèles de langage ouverts.