OpenAI enquête sur DeepSeek, accusé d’avoir distillé ses modèles d’IA

OpenAI se retrouve au cœur d’une affaire qui résume l’une des tensions les plus vives de l’intelligence artificielle générative : comment protéger un modèle très coûteux à développer lorsque ses capacités sont accessibles à distance, par le biais d’une interface en ligne ? Le créateur de ChatGPT examine des soupçons selon lesquels DeepSeek, une start-up chinoise spécialisée dans l’IA, aurait employé ses modèles pour entraîner les siens. Microsoft, partenaire majeur d’OpenAI, aurait également relevé une activité jugée inhabituelle.

Au 30 janvier 2025, il faut toutefois distinguer les faits établis des accusations. OpenAI dit disposer d’indices, voire de « preuves » selon les informations rapportées par la presse, d’une possible distillation non autorisée. Mais l’entreprise n’a pas publié les éléments techniques en question, DeepSeek n’a pas répondu publiquement aux accusations rapportées, et aucune autorité ni aucun tribunal n’a tranché l’affaire. Le terme de « plagiat », souvent employé dans les premières réactions, ne correspond donc pas à une qualification juridique établie.

Ce qu’OpenAI reproche à DeepSeek

OpenAI enquête sur l’hypothèse que DeepSeek ait utilisé les réponses de ses modèles pour améliorer ou entraîner ses propres systèmes. L’entreprise américaine considère que cette pratique pourrait contrevenir à ses conditions d’utilisation lorsqu’elle sert à construire un modèle concurrent.

L’enjeu ne porte pas nécessairement sur la copie d’un code source, d’un jeu de données interne ou des paramètres numériques d’un modèle. Il concerne plutôt les sorties produites par l’IA : réponses à des questions, raisonnements structurés, explications, exemples de code ou classements entre plusieurs options. Collectées à très grande échelle, ces réponses peuvent constituer un matériau utile pour entraîner un autre modèle.

OpenAI a indiqué prendre des mesures pour protéger sa technologie contre les tentatives de reproduction de ses modèles. L’entreprise a aussi fait savoir qu’elle coopérait avec les autorités américaines sur les questions de sécurité liées à ses systèmes. Dans le contexte géopolitique qui entoure les technologies avancées, la nationalité chinoise de DeepSeek ajoute une dimension sensible au dossier, sans pour autant suffire à démontrer les faits allégués.

Les informations rapportées par le Financial Times font état de « preuves » détenues par OpenAI. Leur nature n’a pas été rendue publique. Il peut s’agir, par exemple, de schémas anormaux de requêtes, de comportements automatisés, de volumes inhabituels d’utilisation ou d’indices retrouvés dans des réponses. Sans accès au dossier, il est impossible d’évaluer la solidité de ces éléments ou d’en tirer une conclusion indépendante.

Qu’est-ce que la distillation d’un modèle d’IA ?

La distillation est une méthode connue et largement utilisée en apprentissage automatique. Son objectif est de transférer une partie du savoir-faire d’un grand modèle, souvent appelé modèle enseignant, vers un modèle plus petit, plus rapide ou moins coûteux, appelé modèle élève.

Dans une approche classique, le modèle élève n’apprend pas uniquement à reproduire une bonne réponse finale. Il peut aussi apprendre à imiter les probabilités, nuances et préférences exprimées par le modèle enseignant. Cette transmission peut permettre au modèle élève de généraliser plus efficacement qu’avec des données brutes seules.

La technique n’est donc pas, en elle-même, une fraude. Elle est courante dans la recherche et l’industrie lorsque l’organisation qui possède le grand modèle autorise cet usage ou lorsque le modèle enseignant est ouvert et que sa licence le permet. Le problème potentiel apparaît lorsqu’un acteur interroge massivement un service propriétaire, puis utilise les réponses pour fabriquer un concurrent, en violation des règles contractuelles du fournisseur.

Pourquoi Microsoft est-il cité dans cette enquête ?

Microsoft joue un rôle central dans l’écosystème d’OpenAI. Le groupe est à la fois un partenaire stratégique de la société et l’un des acteurs qui hébergent ses technologies pour les entreprises via des services informatiques à distance. Cette position peut lui permettre d’observer certains comportements d’utilisation, notamment des volumes ou des séquences de requêtes qui sortent de l’ordinaire.

D’après les informations disponibles, Microsoft aurait détecté une activité inhabituelle sur une interface permettant aux entreprises d’adresser des requêtes à des modèles d’IA. Des soupçons portent sur l’extraction d’une quantité importante de données ou de réponses. Les éléments publics ne précisent ni le volume concerné, ni la période exacte, ni la méthode qui aurait été employée, ni l’identité technique des comptes impliqués.

Cette prudence est essentielle. Une forte activité sur une interface de programmation, souvent désignée par l’acronyme API, peut avoir des explications légitimes : évaluation d’un modèle, développement d’un produit, tests de charge ou automatisation interne. Pour passer de l’anomalie à l’accusation étayée, il faut pouvoir démontrer l’origine des requêtes, leur finalité et l’usage fait des résultats obtenus.

Le mot « exfiltration » renvoie habituellement au transfert non autorisé de données hors d’un système. Dans ce dossier, il ne signifie pas nécessairement que des fichiers internes d’OpenAI auraient été dérobés. La question rapportée est plutôt celle d’une possible récupération massive de sorties accessibles via un service, puis de leur utilisation à des fins d’entraînement.

Pourquoi l’essor de DeepSeek inquiète-t-il les acteurs américains ?

Cette enquête intervient alors que DeepSeek attire l’attention par sa capacité à proposer des modèles performants en s’appuyant sur des ressources informatiques présentées comme plus limitées que celles de certains concurrents occidentaux. Cette promesse est stratégique dans un secteur où l’entraînement des modèles de pointe exige généralement des infrastructures coûteuses, des puces spécialisées, une grande quantité de données et des équipes de recherche très qualifiées.

Pour les entreprises qui ont investi des sommes considérables dans leurs modèles, la possibilité qu’un concurrent puisse apprendre indirectement de leurs systèmes change les règles économiques. Un modèle accessible par abonnement ou par API doit répondre à des millions de demandes tout en empêchant qu’un utilisateur transforme ces interactions en vaste jeu de données d’entraînement.

Il ne faut pas en déduire que toute performance obtenue avec moins de moyens prouve une distillation. Les progrès peuvent aussi venir de choix d’architecture, de méthodes d’entraînement plus efficaces, d’une meilleure sélection des données, de modèles spécialisés ou d’optimisations techniques. C’est précisément pourquoi les accusations doivent reposer sur des éléments vérifiables, et non sur le seul niveau de performance d’un concurrent.

Une affaire de contrat, de secret des affaires et de propriété intellectuelle

L’expression « vol de propriété intellectuelle » simplifie une réalité juridique plus complexe. Selon les circonstances, plusieurs sujets pourraient être discutés : respect des conditions d’utilisation d’un service, concurrence déloyale, secret des affaires, accès abusif à un système informatique ou droits sur les contenus générés. Les règles diffèrent selon les pays, les contrats applicables et les éléments de preuve disponibles.

Les conditions d’utilisation des fournisseurs de modèles occupent une place importante. Elles peuvent limiter les usages automatisés, encadrer l’accès aux API et interdire l’emploi des sorties pour développer des modèles concurrents. En cas de violation, l’entreprise concernée peut suspendre des comptes, limiter l’accès à son service ou engager une procédure civile. Mais faire appliquer ces règles à l’international reste difficile, surtout lorsque les infrastructures, les sociétés et les utilisateurs concernés se trouvent dans plusieurs juridictions.

La situation met aussi en lumière une particularité de l’IA générative. Contrairement à un logiciel vendu sous forme de fichier, un modèle est souvent proposé comme un service distant. Ses paramètres restent cachés, mais ses réponses sont visibles. Cette ouverture est indispensable à l’usage commercial du produit, tout en créant une surface d’observation pour d’éventuels imitateurs.

Les protections techniques ont leurs limites

Les éditeurs de modèles disposent de plusieurs moyens pour limiter l’extraction de réponses. Ils peuvent plafonner le nombre de requêtes, détecter les comportements automatisés, vérifier les comptes, surveiller les séquences de prompts répétitives ou suspendre les accès qui semblent anormaux. Des dispositifs de traçabilité peuvent également aider à repérer certains usages.

Aucune de ces protections n’est absolue. Un acteur déterminé peut répartir les requêtes entre de nombreux comptes, modifier la formulation de ses demandes ou passer par des intermédiaires. À l’inverse, des mesures trop strictes risquent de pénaliser des clients légitimes qui testent intensivement un modèle pour développer un service.

La transparence constitue une autre difficulté. Une entreprise qui publie les détails de sa détection peut renseigner les acteurs qu’elle cherche à bloquer. Mais une entreprise qui ne dévoile rien laisse le public et les partenaires sans moyen d’apprécier ses accusations. Cet équilibre explique en partie la communication très mesurée d’OpenAI et de Microsoft dans ce dossier.

Ce qu’il faut surveiller

La première question sera de savoir si OpenAI ou Microsoft rendront publics des éléments techniques plus précis. Des preuves documentées permettraient de mieux distinguer une simple suspicion fondée sur des signaux inhabituels d’une opération organisée de distillation non autorisée.

Il faudra aussi suivre une éventuelle réponse de DeepSeek. Au 30 janvier 2025, aucune position officielle de la société n’est mentionnée dans les informations à l’origine de cette affaire. Une contestation, une explication technique ou l’ouverture d’une procédure modifieraient sensiblement la lecture du dossier.

Enfin, le cas pourrait accélérer l’évolution des règles de marché. Les fournisseurs de modèles ont intérêt à préciser ce que leurs clients peuvent faire des réponses générées, tandis que les entreprises utilisatrices ont besoin de règles lisibles pour savoir si leurs propres jeux de données, évaluations et outils d’entraînement sont conformes. La compétition sur les modèles d’IA se jouera autant sur les capacités techniques que sur la capacité des acteurs à définir et faire respecter ces frontières.