Orion d’OpenAI : ce que l’on sait et les questions de contrôle qu’il soulève

Le nom d’Orion concentre, à lui seul, les espoirs et les craintes qui entourent la prochaine génération d’intelligence artificielle. D’un côté, la promesse de systèmes capables de résoudre des problèmes plus complexes, d’assister davantage de métiers et d’accélérer la recherche. De l’autre, une question beaucoup plus concrète que les scénarios de science-fiction : à quelles conditions peut-on confier des tâches, des données et parfois des décisions à des logiciels de plus en plus puissants ?

Au 10 décembre 2024, la prudence est indispensable. Orion est un nom très commenté, mais il ne correspond pas à un produit qu’OpenAI aurait officiellement présenté au public avec une fiche technique, des résultats de tests et des conditions d’accès clairement établies. Il faut donc distinguer les informations disponibles, les ambitions générales d’OpenAI et les spéculations qui accompagnent inévitablement la course aux modèles les plus avancés.

Orion : un nom de code, pas encore une annonce publique

À l’automne 2024, plusieurs médias spécialisés ont rapporté qu’Orion serait le nom de code interne d’un futur grand modèle d’OpenAI. Ces informations évoquaient une possible mise à disposition initiale auprès de Microsoft, partenaire stratégique et fournisseur d’infrastructure cloud d’OpenAI, avant une éventuelle diffusion plus large. Mais l’entreprise n’avait pas confirmé publiquement, au 10 décembre, le nom final du modèle, son calendrier de sortie, ses capacités précises ni ses modalités d’accès.

Cette nuance est décisive. Dans le secteur de l’IA, les noms de code servent à désigner des projets de recherche ou des versions en préparation. Ils peuvent évoluer, être abandonnés ou ne jamais devenir le nom commercial d’un produit. Les rumeurs donnent une indication sur l’intensité de la compétition technologique, pas une garantie sur le contenu d’une annonce à venir.

Une confusion de calendrier mérite aussi d’être levée. ChatGPT a été rendu public le 30 novembre 2022, et non le 27 novembre. Le 27 novembre 2024 ne correspond donc pas au deuxième anniversaire exact de son lancement, ni à une présentation publique officiellement identifiée d’Orion par OpenAI.

Pourquoi OpenAI vise-t-elle l’intelligence artificielle générale ?

Le débat autour d’Orion prend son sens dans l’objectif plus vaste d’OpenAI : l’intelligence artificielle générale, souvent abrégée en IAG. L’expression désigne, dans son sens le plus courant, une IA qui pourrait réussir une grande variété de tâches intellectuelles, s’adapter à des contextes nouveaux et rivaliser avec les humains dans de nombreux domaines, plutôt que d’exceller dans une fonction unique.

Il ne s’agit toutefois pas d’une définition scientifique universellement arrêtée. Dans sa charte, OpenAI décrit l’IAG comme des systèmes hautement autonomes qui dépassent les humains dans la plupart des travaux ayant une valeur économique. Cette formulation est elle-même exigeante. Un modèle capable de rédiger un texte, de générer du code, de résumer des documents ou de répondre à des questions complexes n’est pas automatiquement une IAG.

Sam Altman, directeur général d’OpenAI, résume cette ambition dans une formule souvent reprise : « L’intelligence artificielle générale sera l’outil le plus puissant jamais créé par l’humanité. » L’enjeu, pour les entreprises qui poursuivent cet objectif, est de rendre les modèles plus fiables dans le raisonnement, la planification, l’usage d’outils numériques et la compréhension des informations textuelles, visuelles ou sonores.

L’ambition attribuée à Orion est donc moins celle d’un logiciel magique que celle d’une nouvelle étape dans cette progression : mieux traiter des situations variées, conserver davantage de contexte et aider à résoudre des tâches difficiles. Entre cette ambition et l’existence d’une véritable IAG, il reste cependant une distance considérable.

Une puissance cent fois supérieure à GPT-4 : que vaut cette affirmation ?

L’idée selon laquelle Orion disposerait d’une capacité d’apprentissage profond cent fois supérieure à celle de GPT-4 est spectaculaire. Elle doit pourtant être maniée avec rigueur : aucun document public ne fournit, à cette date, un protocole de mesure, un benchmark ou une fiche technique permettant de vérifier un tel écart.

Dire qu’un modèle est « cent fois plus puissant » peut recouvrir des réalités très différentes. Cela peut désigner le volume de calcul mobilisé pendant l’entraînement, la taille de l’infrastructure, la quantité de données traitées, le coût de fonctionnement ou les résultats à certains tests. Or ces indicateurs ne se confondent pas. Plus de puissance de calcul ne garantit pas mécaniquement une IA cent fois meilleure pour écrire, raisonner, programmer ou éviter les erreurs.

Les grands modèles de langage sont entraînés en amont sur de vastes corpus. Lorsqu’un utilisateur leur pose une question, ils produisent une réponse à partir de cet entraînement et des instructions reçues. Ils ne réécrivent pas spontanément leurs propres paramètres à chaque conversation. Une amélioration réelle devrait donc être évaluée sur plusieurs critères : exactitude, robustesse face aux demandes ambiguës, capacité à reconnaître ses limites, sécurité, coût, rapidité et performance dans des usages professionnels concrets.

Les comparaisons avec GPT-4 devront attendre des éléments vérifiables. Sans résultats reproductibles ni précisions méthodologiques, un chiffre impressionnant ne permet pas à lui seul de mesurer le progrès accompli.

Modèle puissant et système autonome : deux réalités différentes

Les inquiétudes liées à Orion portent souvent sur le risque de « perdre le contrôle » face à une machine. Cette formule recouvre des situations très différentes. Un modèle de langage qui répond à une consigne dans une fenêtre de discussion n’a pas le même niveau de risque qu’un système auquel une entreprise donne accès à une boîte mail, à un logiciel de comptabilité, à un navigateur, à des fichiers sensibles ou à des outils de programmation.

L’autonomie ne dépend donc pas seulement du modèle. Elle dépend aussi des autorisations accordées, des données accessibles, des outils connectés, du nombre d’actions possibles et de l’existence, ou non, d’une validation humaine avant une opération importante.

Un assistant peut sembler autonome parce qu’il enchaîne plusieurs étapes, recherche des informations ou prépare un document. En pratique, son degré de liberté dépend de l’architecture du produit qui l’entoure. Le risque augmente lorsqu’un système peut agir durablement, multiplier les opérations ou engager des ressources sans contrôle humain adapté.

Quels risques une IA plus capable peut-elle accroître ?

Les risques souvent associés à une IA de nouvelle génération sont sérieux, mais ils doivent être analysés selon les usages. La manipulation de l’information, par exemple, ne suppose pas qu’une IA ait une intention propre. Des personnes peuvent se servir de systèmes génératifs pour produire rapidement de faux contenus, imiter des styles, automatiser des campagnes ou multiplier les messages trompeurs. La qualité des garde-fous, l’identification des contenus synthétiques et la vigilance des plateformes deviennent alors essentielles.

La vie privée constitue un autre point de vigilance. Un assistant connecté à des documents professionnels ou personnels peut être très utile, mais l’utilisateur doit savoir quelles données sont traitées, dans quel cadre elles sont conservées et qui peut y accéder. Plus un système reçoit de contexte, plus il peut rendre un service pertinent. Plus il reçoit de données sensibles, plus la protection de ces données devient critique.

L’emploi est également au cœur des interrogations. Les modèles avancés peuvent automatiser une partie de tâches comme la rédaction de brouillons, le tri d’informations, la traduction, la préparation de code ou le service client. Cela ne signifie pas que des professions entières disparaissent instantanément. L’impact dépendra de l’organisation du travail, des règles de responsabilité, de la formation des salariés et du partage des gains de productivité. Le risque le plus immédiat est souvent une transformation rapide de certaines tâches, sans accompagnement suffisant des personnes concernées.

Enfin, les systèmes les plus avancés soulèvent des enjeux de cybersécurité et de sûreté. Une IA peut aider à trouver des vulnérabilités, mais aussi à mieux défendre des systèmes. Elle peut accélérer la recherche scientifique, mais aussi faciliter des usages dangereux si ses capacités sont mal encadrées. C’est pourquoi l’évaluation des risques doit précéder la diffusion large d’un modèle, et non intervenir uniquement après un incident.

La prévision de David Kokotajlo doit être lue comme un scénario

David Kokotajlo, ancien employé d’OpenAI ayant travaillé sur l’analyse des progrès de l’IA, avance une estimation marquante : 50 % de probabilité qu’une IAG apparaisse d’ici 2027. Une telle projection attire l’attention parce que l’échéance est proche, à peine trois ans à compter de décembre 2024.

Elle ne constitue toutefois ni une certitude ni un diagnostic partagé par l’ensemble de la communauté scientifique. Prévoir la vitesse des avancées en IA est particulièrement difficile. Les progrès peuvent être rapides sur certains tests, puis se heurter à des limites de fiabilité, de coût énergétique, de disponibilité des données ou de sécurité. À l’inverse, une découverte technique peut aussi accélérer les capacités plus vite que prévu.

L’intérêt de cette estimation est moins de fixer une date que de poser une question pratique : si des systèmes très polyvalents arrivaient plus tôt qu’attendu, les entreprises, les administrations et les régulateurs auraient-ils déjà les moyens de les évaluer et de les encadrer ? La réponse ne peut pas reposer sur les seules promesses des concepteurs.

Quels garde-fous pour les futurs modèles ?

La gouvernance d’une IA avancée ne se limite pas à une règle unique. Elle suppose plusieurs niveaux de protection, depuis la conception du modèle jusqu’à son usage quotidien. Les développeurs doivent tester les comportements indésirables avant la mise à disposition, notamment par des évaluations de sécurité et des tentatives organisées de contourner les protections. Les entreprises qui déploient ces outils doivent, elles, limiter les accès, journaliser les actions et conserver une validation humaine pour les opérations sensibles.

Quelques principes paraissent particulièrement importants :

• attribuer au système uniquement les accès nécessaires à sa tâche ;
• imposer une confirmation humaine avant un paiement, un envoi massif, une suppression de données ou une modification critique ;
• tester les erreurs, les hallucinations et les tentatives de détournement avant le déploiement ;
• informer clairement les utilisateurs des limites de l’outil et du traitement de leurs données ;
• prévoir des procédures d’arrêt, de signalement et de correction en cas d’incident.

OpenAI a déjà publié des principes de sécurité et un cadre de préparation pour évaluer les risques potentiels de modèles de plus en plus capables. Cela ne permet pas de connaître le dispositif qui serait appliqué à Orion, faute d’annonce technique publique. Mais cela rappelle une réalité : les garde-fous utiles doivent être vérifiables, testés et adaptés aux capacités effectivement mises à disposition.

L’Union européenne ajoute un cadre juridique progressivement applicable. L’AI Act, entré en vigueur le 1er août 2024, prévoit notamment des obligations liées aux modèles d’IA à usage général à partir d’août 2025. Documentation technique, politique de respect du droit d’auteur et informations destinées aux acteurs en aval font partie des exigences attendues. Des obligations renforcées sont prévues pour les modèles présentant un risque systémique.

Ce qu’il faut surveiller

La question centrale n’est pas de savoir si Orion réalisera toutes les promesses qui lui sont prêtées. Au 10 décembre 2024, les informations publiques ne permettent pas de trancher. Les éléments déterminants seront beaucoup plus concrets : OpenAI confirmera-t-elle ce nom ? Le modèle sera-t-il accessible au grand public ou réservé à certains partenaires ? Quels tests indépendants permettront d’évaluer ses performances ? Quelles limites seront imposées à son utilisation avec des outils et des données sensibles ?

Il faudra aussi observer la transparence du secteur. Les annonces de performances ne suffisent pas. Les utilisateurs, les entreprises et les autorités ont besoin de savoir dans quelles tâches un système excelle, dans quelles conditions il échoue, quelles données il traite et quelles protections s’appliquent en cas de mauvaise utilisation.

L’innovation rapide n’est pas incompatible avec la prudence. Mais à mesure que les modèles gagnent en capacité et sont intégrés à des services plus nombreux, la sécurité ne peut plus être un simple argument de communication. Elle devient une condition de confiance, d’adoption durable et de responsabilité collective.