Une image absurde relance le débat sur l’IA dans les revues scientifiques

L’image a provoqué autant de moqueries que de malaise dans la communauté scientifique. Publiée dans une revue spécialisée, elle représentait un rat doté d’un organe génital aux proportions manifestement incompatibles avec son anatomie. Son apparence absurde n’est pas seulement devenue virale : elle a mis en lumière une question très sérieuse, celle de la place des images générées par intelligence artificielle dans des travaux supposés avoir été relus et validés.

L’épisode concerne une étude sur la fertilité animale parue le 13 février 2025 dans la revue Frontiers in Cell Development and Biology. L’article a été retiré moins de deux jours après sa mise en ligne. Au-delà d’une erreur visuelle spectaculaire, ce retrait rappelle que la crédibilité scientifique ne repose pas sur l’apparence professionnelle d’un article, mais sur une succession de contrôles humains, méthodologiques et éditoriaux.

Une publication retirée après une illustration manifestement incohérente

L’étude publiée par Frontiers in Cell Development and Biology s’inscrivait dans le champ de la fertilité animale. Elle était accompagnée de plusieurs illustrations, dont l’une a rapidement retenu l’attention des lecteurs pour de mauvaises raisons. Le schéma montrait un rat avec un organe génital démesuré, sans cohérence avec la biologie de l’animal ni avec les conventions habituelles d’une représentation scientifique.

L’illustration a été identifiée comme étant issue d’une intelligence artificielle générative. Ces outils peuvent produire une image à partir d’une instruction textuelle, en assemblant statistiquement des formes, textures et objets observés dans d’immenses jeux de données. Ils savent imiter le rendu d’un schéma, d’une photographie ou d’une infographie. En revanche, ils ne vérifient pas que la représentation obtenue respecte les règles de l’anatomie, de la physiologie ou de la méthode scientifique.

Le fait qu’un dessin soit étrange ne suffit pas, à lui seul, à juger la qualité de l’ensemble d’un travail scientifique. Mais dans ce cas précis, l’incohérence était si visible qu’elle a posé une question immédiate : comment une figure aussi manifestement erronée a-t-elle pu franchir les différentes étapes de publication ?

Pourquoi une IA peut-elle produire une erreur aussi évidente ?

Une IA générative d’images ne raisonne pas comme un biologiste ou un illustrateur médical. Elle prédit des éléments visuels plausibles à partir de sa demande et des régularités apprises durant son entraînement. Elle peut donc combiner correctement l’idée générale d’un rongeur, d’un organe, d’un schéma cellulaire ou d’un laboratoire, tout en inventant des proportions, des connexions ou des termes dénués de sens.

Ce phénomène est comparable, dans son principe, aux hallucinations des assistants conversationnels : le système livre une réponse qui semble cohérente dans sa forme, mais qui n’est pas forcément exacte sur le fond. Dans une image, l’erreur peut prendre la forme d’un membre en trop, d’une flèche ne pointant vers rien, d’un texte illisible, d’une structure anatomique impossible ou d’un détail démesuré.

Le cas de Frontiers est particulièrement frappant parce que l’anomalie ne demandait pas une expertise très pointue pour être détectée. Un spécialiste de la reproduction animale aurait naturellement dû réagir, mais une simple vérification attentive par plusieurs personnes aurait aussi dû conduire à demander une correction avant publication.

L’identité précise de l’outil utilisé pour générer l’illustration n’est pas établie avec certitude dans les éléments disponibles. Des logiciels tels que Midjourney sont souvent cités pour illustrer ce type de technologie, mais le problème dépasse largement une plateforme particulière. Toutes les IA de génération d’images peuvent commettre des erreurs si leurs créations sont intégrées sans validation humaine compétente.

Que contrôle normalement l’évaluation par les pairs ?

L’évaluation par les pairs, ou peer review, désigne l’examen d’un manuscrit par des chercheurs du même domaine avant sa publication. Son objectif est notamment de tester la solidité d’une étude : la question est-elle pertinente ? Les méthodes sont-elles décrites ? Les résultats soutiennent-ils les conclusions ? Les données et les références sont-elles cohérentes ?

Dans les faits, l’intensité de cette vérification peut varier selon les revues, les disciplines, le nombre d’évaluateurs et le temps disponible. Les relecteurs ne refont pas systématiquement toutes les expériences et ne disposent pas toujours des données brutes. Mais ils sont censés signaler les défauts importants, notamment lorsqu’une figure est centrale pour comprendre un mécanisme biologique.

Cette affaire met en évidence trois niveaux de responsabilité complémentaires :

• Les auteurs doivent fournir des visuels exacts, vérifier toute production assistée par IA et expliquer clairement l’origine d’une figure si celle-ci est synthétique.
• Les évaluateurs doivent examiner la cohérence entre le texte, les résultats annoncés, les graphiques et les illustrations.
• Les équipes éditoriales doivent s’assurer que les fichiers, légendes et figures respectent les exigences de la revue avant et après l’évaluation scientifique.

Une image générée par IA peut sembler soignée à première vue. C’est précisément ce qui rend le contrôle indispensable : le risque n’est pas seulement une image volontairement trompeuse, mais aussi une erreur grossière passée inaperçue parce que chacun suppose qu’une autre personne l’a déjà vérifiée.

Le retrait n’est pas une simple correction

Face à des erreurs limitées, une revue peut publier une correction, par exemple pour modifier une légende, remplacer une figure ou signaler une imprécision. Le retrait répond à une situation plus grave : l’article ne doit plus rester dans le corpus scientifique sous sa forme publiée.

Dans cette affaire, le retrait rapide de l’étude, moins de deux jours après sa publication, témoigne de l’ampleur du problème posé par les illustrations. Il évite aussi que l’article soit cité ou repris durablement sans que les lecteurs aient connaissance de ses défauts.

Il faut toutefois éviter les conclusions hâtives. Le retrait d’un article ne permet pas, à lui seul, d’établir les intentions de ses auteurs ni d’accuser une personne de fraude. Il indique qu’un travail publié ne satisfait plus aux critères nécessaires pour demeurer une référence fiable. C’est une mesure de protection du dossier scientifique, même si elle intervient ici après une défaillance manifeste.

L’IA a-t-elle sa place dans les illustrations scientifiques ?

Oui, à condition de distinguer l’assistance visuelle de la preuve scientifique. L’IA peut aider à préparer une présentation, à reformuler une légende, à concevoir une ébauche de schéma pédagogique ou à améliorer la lisibilité d’un document. Dans ces usages, elle ne doit pas être considérée comme une source de connaissance autonome.

La frontière devient beaucoup plus stricte lorsqu’une image prétend représenter un résultat expérimental, une observation au microscope, une structure biologique précise ou des données mesurées. Dans ce cas, la figure doit être reliée à des données traçables, à un protocole identifiable et à une méthode que d’autres scientifiques peuvent examiner ou reproduire. Une image synthétique ne peut pas remplacer une observation ou une mesure.

Pour un schéma explicatif, la règle essentielle est la validation. Un chercheur qui utilise un outil génératif devrait contrôler chaque élément, faire relire la figure par une personne compétente et conserver les documents permettant d’expliquer comment le visuel a été produit et modifié. La transparence sur l’usage de l’IA est également cruciale : elle permet aux éditeurs et aux lecteurs de savoir ce qu’ils regardent.

Le problème n’est donc pas que l’IA ait été utilisée, mais qu’un contenu généré automatiquement ait apparemment été traité comme un visuel scientifique suffisamment fiable alors qu’il présentait une incohérence flagrante.

Pourquoi cette erreur dépasse le cas d’un seul article

Une publication scientifique est souvent lue bien au-delà de son cercle d’auteurs. Elle peut être citée par d’autres équipes, résumée dans des articles de presse, versée dans des revues de littérature ou utilisée pour orienter de nouveaux travaux. Une erreur visuelle peut ainsi voyager rapidement, surtout lorsqu’elle est attachée à une revue reconnue et à un domaine sensible comme la fertilité.

L’incident risque aussi de nourrir une confusion dommageable entre deux réalités. D’un côté, l’IA peut rendre des services réels à la recherche, notamment pour analyser de grands volumes de données ou accélérer certaines tâches répétitives. De l’autre, ses productions ne deviennent pas scientifiquement exactes parce qu’elles sont détaillées, séduisantes ou techniquement impressionnantes.

Pour le grand public, cette nuance est importante. Une publication dans une revue n’est pas une garantie absolue d’infaillibilité. C’est le résultat d’un processus conçu pour réduire les erreurs, processus qui doit lui-même évoluer lorsque de nouveaux outils introduisent de nouveaux risques.

Ce qu’il faut surveiller dans les revues scientifiques

L’affaire de Frontiers in Cell Development and Biology devrait encourager les revues à préciser leurs procédures à l’égard des images générées ou modifiées par IA. Les questions concrètes sont nombreuses : les auteurs doivent-ils déclarer ces outils ? Les éditeurs doivent-ils exiger les fichiers sources ? Faut-il une vérification spécifique pour les schémas biologiques ou médicaux ? Comment empêcher qu’une image de synthèse soit confondue avec une donnée expérimentale ?

Les réponses ne passeront pas uniquement par des détecteurs automatiques. Ces logiciels peuvent aider à repérer certains indices, mais ils ne remplacent pas le jugement d’un spécialiste capable d’identifier une anomalie anatomique, une interprétation abusive ou une figure incohérente avec les résultats décrits.

Le principal enseignement est simple : plus les outils de création deviennent accessibles et convaincants, plus la rigueur humaine doit être visible à chaque étape. Dans la recherche, l’IA peut assister. Elle ne peut ni assumer la responsabilité d’une publication, ni garantir à elle seule la vérité d’une image.