OpenAI face au double défi de l’innovation et de la sécurité de l’IA

L’intelligence artificielle générative ne se résume plus à la capacité de rédiger un texte, produire une image ou répondre à une question. À mesure que les modèles gagnent en puissance et trouvent des usages auprès du grand public comme des entreprises, leurs concepteurs sont aussi attendus sur leur capacité à prévenir les abus. Le 26 octobre 2023, OpenAI a placé cet enjeu au premier plan en annonçant la création d’une unité nommée Preparedness.

Cette initiative intervient dans une période de très forte compétition. OpenAI continue de capitaliser sur la popularité de ChatGPT et de GPT-4, alors qu’Anthropic, soutenue notamment par Google, rassemble des moyens considérables pour développer ses propres modèles. Dans ce contexte, les spéculations autour d’un éventuel GPT-5 illustrent autant l’intérêt pour les prochaines avancées que les inquiétudes qu’elles suscitent.

Preparedness, une équipe pour anticiper les risques extrêmes

La mission de Preparedness est d’évaluer les risques que pourraient présenter les futurs systèmes d’OpenAI, en particulier si des personnes malveillantes s’en servaient. L’idée est de ne pas attendre qu’un modèle soit largement diffusé pour chercher ses failles : les équipes de sécurité doivent tester ses capacités, mesurer les scénarios d’abus plausibles et définir les protections nécessaires avant un déploiement plus large.

OpenAI parle de risques dits « catastrophiques ». Cette expression ne désigne pas les erreurs ordinaires d’un assistant conversationnel, comme une réponse inexacte ou un texte maladroit. Elle renvoie à des scénarios où les capacités d’un modèle pourraient augmenter fortement les possibilités d’action de personnes ou de groupes mal intentionnés.

Parmi les domaines généralement concernés par ce travail figurent :

• la cybersécurité, par exemple la recherche de vulnérabilités ou l’automatisation de certaines étapes d’une attaque ;
• les risques chimiques, biologiques, radiologiques ou nucléaires ;
• la persuasion à grande échelle, lorsque des contenus personnalisés pourraient servir à manipuler une audience ;
• l’autonomie d’un système, c’est-à-dire sa faculté à accomplir des enchaînements de tâches complexes avec une supervision réduite.

Preparedness doit donc associer évaluation technique et réflexion sur les conditions de mise à disposition des modèles. Dans les faits, cela peut conduire à limiter certaines fonctionnalités, à renforcer les contrôles d’accès, à exiger des vérifications supplémentaires pour des usages sensibles ou à différer le déploiement d’un outil tant que ses risques ne sont pas suffisamment compris.

Cette approche ne promet pas le risque zéro. Elle marque toutefois une évolution importante : la sécurité n’est plus seulement une question de modération des réponses visibles dans ChatGPT, mais aussi d’évaluation des capacités les plus avancées avant qu’elles ne deviennent accessibles.

Que sait-on réellement des rumeurs sur GPT-5 ?

Alors que GPT-4 concentre encore l’attention, une fuite relayée sur Twitter, devenu X, affirme qu’OpenAI développerait secrètement GPT-5. Selon cette rumeur, le modèle serait achevé en décembre 2023 et viserait l’intelligence artificielle générale, souvent désignée par le sigle anglais AGI.

Il faut distinguer clairement la spéculation de l’information établie. Au 31 octobre 2023, OpenAI n’a pas confirmé publiquement l’existence, le calendrier ou les caractéristiques d’un produit baptisé GPT-5. Une fuite sur un réseau social ne permet pas, à elle seule, de vérifier une feuille de route industrielle aussi sensible. Elle témoigne néanmoins de l’intensité des attentes autour de la prochaine génération de modèles.

L’AGI est elle-même un concept plus flou qu’il n’y paraît. Dans son acception courante, elle désigne une IA qui pourrait rivaliser avec les capacités humaines dans un très grand nombre de tâches cognitives, plutôt que d’exceller dans un domaine étroit. Or, il n’existe ni définition scientifique universellement acceptée, ni test unique permettant de déclarer qu’un système a atteint ce seuil.

Les grands modèles actuels peuvent déjà écrire, résumer, traduire, programmer ou analyser des documents avec une efficacité parfois impressionnante. Mais ils restent sujets aux erreurs factuelles, peuvent produire des raisonnements fragiles et ne disposent pas d’une compréhension du monde comparable à celle d’une personne. Présenter l’arrivée d’une AGI comme acquise à brève échéance serait donc prématuré.

Une course technologique où Anthropic accélère avec Google

La pression concurrentielle ne vient pas seulement des rumeurs. La start-up américaine Anthropic, créatrice de la famille de modèles Claude, cherche à se rapprocher des acteurs les plus visibles du secteur. En octobre 2023, Google s’est engagé à investir jusqu’à 2 milliards de dollars dans l’entreprise.

L’opération est prévue en deux temps : 500 millions de dollars doivent être investis immédiatement, puis 1,5 milliard de dollars supplémentaires dans les prochains mois, sous la forme d’obligations convertibles en actions. Ce type de financement donne à l’investisseur la possibilité de convertir ultérieurement sa créance en participation au capital, selon des modalités définies par l’accord.

Ces montants donnent la mesure du coût de la compétition dans l’IA générative. Mettre au point un grand modèle exige des équipes de recherche spécialisées, d’immenses volumes de données, des infrastructures de calcul et un accès durable aux puces les plus performantes. Après l’entraînement, il faut encore financer les tests de sécurité, le fonctionnement des services et l’intégration dans des produits utilisables.

Pour Google, soutenir Anthropic permet de renforcer sa présence dans une course où Microsoft, partenaire majeur d’OpenAI, occupe également une place déterminante. Pour Anthropic, l’enjeu est de disposer des ressources nécessaires pour développer des systèmes compétitifs tout en défendant une approche centrée sur la sûreté des modèles.

Peut-on détecter un texte rédigé par ChatGPT ?

L’usage de générateurs de texte dans l’éducation, les recrutements ou la production de contenus soulève une question très concrète : comment savoir si un texte a été produit par une personne ou par une IA ? Pour un enseignant, un employeur ou un éditeur, l’enjeu peut être important lorsqu’il faut évaluer un travail, vérifier une compétence ou garantir l’originalité d’une publication.

La réponse est moins simple qu’on pourrait le croire. Un détecteur de texte généré par IA analyse des régularités statistiques : choix de mots, structure des phrases, prévisibilité de certaines suites de termes. Mais un texte humain peut, lui aussi, présenter ces régularités. À l’inverse, une production de ChatGPT retravaillée par une personne, traduite ou simplement modifiée peut échapper à la détection.

OpenAI avait publié en janvier 2023 un outil expérimental, l’AI Text Classifier, destiné à indiquer si un texte semblait avoir été écrit par une IA. L’entreprise l’a retiré en juillet, en reconnaissant son faible niveau de précision. Ce précédent est essentiel pour comprendre le débat : il n’existait pas, à la date de publication de cet article, de méthode universelle et fiable permettant d’attribuer automatiquement un texte à ChatGPT.

Cela ne rend pas inutile la recherche sur le sujet. Des dispositifs comme le filigrane numérique, qui consisterait à introduire des traces statistiques dans les textes générés, sont étudiés. Leur efficacité dépendrait toutefois de nombreux paramètres : le modèle employé, la longueur du texte, les modifications ultérieures et l’absence de contournement volontaire.

Dans l’éducation, la réponse ne peut donc pas être uniquement technique. Les établissements doivent aussi clarifier les usages autorisés, expliquer les règles de citation et adapter certaines évaluations. L’IA peut servir à reformuler, trouver des pistes ou corriger un texte, mais elle ne doit pas masquer l’absence d’apprentissage lorsque l’objectif est d’évaluer des connaissances personnelles.

L’éthique ne se limite pas aux scénarios catastrophiques

La création de Preparedness répond aux risques les plus graves, mais elle ne couvre pas à elle seule l’ensemble des questions posées par l’IA générative. Les effets les plus immédiats sont souvent plus ordinaires et touchent déjà les utilisateurs : collecte de données, erreurs, biais, droits sur les contenus, désinformation ou dépendance à des outils opaques.

La protection des données est un premier sujet. Lorsqu’une personne saisit un document professionnel, médical, juridique ou personnel dans un assistant, elle doit savoir ce qu’il advient de cette information. Les organisations ont besoin de règles internes, de paramètres adaptés et de solutions qui respectent leurs obligations de confidentialité.

Les biais constituent un autre défi. Un modèle apprend à partir de vastes ensembles de textes et d’images issus du monde réel. Il peut donc reproduire des stéréotypes, privilégier certains points de vue ou fournir des résultats inéquitables. Des tests indépendants, une documentation claire des limites et des mécanismes de recours sont indispensables lorsque ces outils influencent des décisions importantes.

Enfin, la question de la responsabilité se pose à tous les niveaux. Les entreprises qui conçoivent les modèles doivent évaluer et limiter leurs risques. Les plateformes qui les intègrent doivent encadrer leurs usages. Les pouvoirs publics ont un rôle à jouer dans la définition de règles communes, notamment pour les applications à haut risque. Quant aux utilisateurs, ils doivent conserver un regard critique sur les réponses produites.

Ce qu’il faut surveiller dans les prochains mois

Les annonces d’OpenAI, les rumeurs sur GPT-5 et l’investissement de Google dans Anthropic racontent une même histoire : l’IA générative entre dans une phase où la vitesse d’innovation ne peut plus être séparée de la question de son contrôle.

Le premier point à suivre sera la capacité des entreprises à publier des informations crédibles sur leurs tests de sûreté. Annoncer une équipe dédiée est un signal, mais la valeur d’un tel dispositif dépendra de ses méthodes d’évaluation, de son indépendance réelle et des décisions prises lorsque des risques sont identifiés.

Le deuxième sera la consolidation de la concurrence. Les investissements massifs peuvent accélérer les progrès et multiplier les alternatives à ChatGPT. Ils renforcent aussi le poids des grandes entreprises capables de financer l’infrastructure informatique nécessaire. La diversité des acteurs, des modèles et des approches de sécurité restera un enjeu majeur.

Enfin, les outils de détection ne doivent pas être présentés comme une solution magique à la fraude ou à la désinformation. Tant qu’ils produisent des erreurs, la transparence sur l’usage de l’IA, l’éducation aux médias et des procédures humaines équitables demeurent les protections les plus solides. L’enjeu n’est pas de freiner toute innovation, mais de faire en sorte que les gains de capacité s’accompagnent de garanties à la hauteur de leurs effets potentiels.