Autoscience Carl : ce que l’on sait de l’IA scientifique attribuée à Sakana AI

L’idée d’une intelligence artificielle qui imagine une expérience, analyse des résultats et rédige elle-même un article scientifique est désormais prise au sérieux par de nombreux laboratoires. Publiée le 8 mars 2025, l’archive sur Autoscience Carl présente cette IA comme un système capable d’écrire des travaux évalués par des pairs, et l’attribue à la startup tokyoïte Sakana AI. Une promesse spectaculaire, qui mérite toutefois d’être examinée avec précision : dans la science, produire un texte convaincant n’équivaut pas à produire un résultat fiable.

La recherche ne se résume pas à la rédaction d’un article. Elle suppose une question bien posée, des données obtenues selon un protocole explicite, des analyses contrôlables, une interprétation prudente et, souvent, des expériences que d’autres équipes peuvent reproduire. L’IA peut intervenir à chacune de ces étapes, mais son degré réel d’autonomie et la qualité des contrôles humains changent profondément la portée d’une annonce.

Une annonce à replacer dans son contexte

Le texte d’archive décrit Autoscience Carl comme une intelligence artificielle capable de mener des études, de traiter des informations complexes, d’analyser des données et de rédiger des manuscrits académiques. Il affirme aussi que plusieurs articles auraient été soumis à des revues et que certains auraient été acceptés après évaluation par les pairs.

Ces affirmations doivent être distinguées de ce qui est documenté dans le matériau d’archive. Celui-ci ne fournit ni le titre des articles concernés, ni le nom des revues ou conférences, ni les rapports d’évaluation, ni un protocole technique détaillant les données, les logiciels et les interventions humaines. En l’absence de ces éléments, il n’est pas possible d’établir précisément ce que recouvre l’expression « articles évalués par des pairs » dans le cas d’Autoscience Carl.

Sakana AI a, de son côté, rendu public un projet baptisé The AI Scientist, conçu pour automatiser une partie du cycle de recherche : formulation d’idées, écriture de code, exécution d’expériences informatiques, production de graphiques et rédaction d’un article. Cette démarche illustre la montée des « agents scientifiques », des systèmes qui enchaînent plusieurs tâches plutôt que de simplement répondre à une question dans une interface conversationnelle.

Cela ne permet pas, à lui seul, de confirmer qu’Autoscience Carl est le nom officiel d’un produit distinct, ni que l’ensemble des résultats avancés dans l’archive a fait l’objet d’une publication académique identifiable. Le bon réflexe consiste donc à séparer l’ambition technologique, très réelle dans le secteur, des résultats scientifiques qui devraient pouvoir être vérifiés publiquement.

Que peut réellement automatiser une IA scientifique ?

Les grands modèles de langage sont particulièrement efficaces pour synthétiser des textes, résumer des travaux antérieurs, proposer des plans d’étude ou rédiger une première version de manuscrit. Reliés à des outils de programmation et à des bases de données, ils peuvent aussi lancer des calculs, comparer des résultats et produire des tableaux ou des visualisations.

L’archive mentionne notamment Consensus AI, un outil destiné à faciliter l’exploration de la littérature scientifique. Le texte ne détaille toutefois pas l’intégration technique éventuelle de ce service à Autoscience Carl. Plus largement, interroger une base bibliographique n’est pas la même chose que vérifier la robustesse d’une étude : une réponse synthétique dépend de la qualité des publications disponibles, de leur contexte et de la manière dont elles sont interprétées.

Le tableau ci-dessous permet de comprendre pourquoi l’expression « IA scientifique autonome » couvre des réalités très différentes.

Dans certains domaines très numérisés, comme l’apprentissage automatique, les mathématiques computationnelles ou certaines simulations de physique, un agent peut exécuter de nombreuses étapes sans quitter un environnement informatique. Dans d’autres, notamment lorsque la recherche nécessite des patients, des prélèvements, des essais cliniques, du travail de terrain ou des manipulations de laboratoire, l’automatisation rencontre des contraintes matérielles, éthiques et réglementaires bien plus importantes.

L’évaluation par les pairs valide-t-elle automatiquement une IA ?

Non. L’évaluation par les pairs, ou peer review, désigne l’examen d’un manuscrit par des spécialistes choisis par une revue ou une conférence. Ces relecteurs peuvent demander des corrections, des analyses supplémentaires ou recommander le rejet du texte. Le processus vise à filtrer les travaux insuffisamment étayés avant publication, mais il ne constitue pas une garantie absolue de vérité.

Un article peut être évalué par des pairs tout en comportant des faiblesses qui ne seront découvertes qu’ensuite. À l’inverse, un texte bien écrit peut masquer des données incomplètes, un protocole fragile ou une analyse statistique inadaptée. C’est pourquoi la publication n’est qu’une étape dans la vie d’un résultat scientifique. Les tentatives de reproduction indépendantes, les critiques ultérieures et l’accès aux données ou au code jouent également un rôle central.

Pour une IA comme Autoscience Carl, il faudrait pouvoir répondre à des questions très concrètes : qui a choisi le sujet de recherche ? Qui a fourni les données ? Le système a-t-il inventé des références, des valeurs ou des résultats ? Les expériences sont-elles reproductibles ? Des chercheurs humains assument-ils la responsabilité du contenu soumis ?

Dans les pratiques éditoriales académiques, la responsabilité ne se délègue pas à une machine. Les auteurs humains doivent pouvoir expliquer la méthode employée, répondre aux critiques, corriger une erreur et, si nécessaire, retirer un article. Un modèle de langage n’a ni responsabilité juridique ni capacité propre à garantir l’intégrité de ses sorties.

Le défi majeur : éviter les résultats plausibles mais faux

L’atout des IA génératives est aussi leur risque le plus connu : elles produisent des formulations crédibles avec une grande fluidité. Or, en science, une phrase plausible n’a aucune valeur si elle ne correspond pas à une observation, un calcul ou une démonstration vérifiable. Le danger ne se limite pas aux références inventées. Il concerne aussi le choix des variables, la sélection de résultats favorables, l’usage de données biaisées ou une explication causale tirée d’une simple corrélation.

Un système automatisé peut identifier des régularités dans de très vastes ensembles de données. Cette capacité est utile pour suggérer une hypothèse ou repérer une anomalie. Mais trouver un motif n’explique pas nécessairement son origine. Deux variables peuvent évoluer ensemble sans que l’une provoque l’autre. C’est précisément l’un des rôles du chercheur : imaginer des contrôles, tester des explications concurrentes et déterminer ce que les données permettent réellement d’affirmer.

La transparence est donc une condition essentielle. Pour évaluer un article largement produit avec l’aide d’une IA, lecteurs et relecteurs doivent pouvoir connaître, au minimum :

• les données utilisées et leurs limites ;
• les instructions données au système et les outils auxquels il a eu accès ;
• le code, les paramètres et les critères de sélection des résultats ;
• la part exacte du travail réalisée, vérifiée et validée par des humains.

Une aide potentielle pour les chercheurs, pas un chercheur responsable

Présentée avec prudence, l’IA scientifique peut devenir un assistant de recherche puissant. Elle peut réduire le temps consacré à des tâches répétitives : nettoyer certains jeux de données, documenter du code, préparer une revue de littérature, générer des variantes d’une expérience numérique ou mettre en forme un premier brouillon. Ce gain de temps peut permettre aux scientifiques de se concentrer davantage sur le choix des questions, la conception des protocoles et l’interprétation critique des résultats.

L’automatisation ne supprime cependant pas les compétences scientifiques. Elle les déplace, voire les rend plus visibles. Un chercheur doit savoir reconnaître une anomalie, comprendre les hypothèses cachées dans un modèle statistique, repérer une citation inadaptée et décider si une expérience répond vraiment à la question posée. Plus l’outil est autonome en apparence, plus la supervision doit être organisée et documentée.

Cette évolution peut aussi accentuer les inégalités entre équipes. Les laboratoires disposant de moyens de calcul importants, de données de qualité et de spécialistes capables d’auditer les systèmes d’IA pourraient tirer davantage parti de ces outils. Les institutions devront donc réfléchir à l’accès aux infrastructures, à la formation des jeunes chercheurs et aux règles de partage des méthodes.

Comment juger une annonce d’IA appliquée à la science ?

Face à une promesse d’« IA qui fait de la recherche », quelques critères simples permettent de distinguer une démonstration intéressante d’une avancée scientifique solidement établie. Il faut d’abord rechercher un manuscrit complet et identifiable, avec les auteurs responsables, le détail de la méthode et les résultats. Ensuite vient la question de la reproductibilité : les données, le code ou un protocole suffisamment détaillé sont-ils accessibles ?

La nature exacte de l’évaluation compte tout autant. Une prépublication mise en ligne n’a pas été évaluée par des pairs. Un article accepté à un atelier scientifique n’implique pas nécessairement le même niveau de sélection qu’une publication dans une revue établie. Enfin, il est crucial de savoir quelle contribution a réellement été réalisée par l’IA : a-t-elle aidé à rédiger, proposé une hypothèse, analysé des données existantes ou piloté une chaîne complète d’expériences ?

Dans le cas d’Autoscience Carl, les éléments présentés dans l’archive décrivent une ambition de recherche automatisée, mais ne permettent pas de documenter ces points de manière détaillée. Cette réserve n’enlève rien à l’intérêt du sujet. Elle rappelle simplement que, pour la science, l’annonce la plus impressionnante n’est pas forcément la preuve la plus solide.

Ce qu’il faut surveiller dans les prochains travaux

Le développement d’agents capables d’enchaîner recherche documentaire, programmation, analyse et rédaction va probablement continuer à transformer le travail scientifique. La question déterminante ne sera pas seulement de savoir si une IA peut produire plus vite des articles. Elle sera de mesurer si elle aide à produire des résultats plus fiables, plus reproductibles et plus utiles.

Les prochains jalons importants seront la publication de protocoles transparents, les évaluations indépendantes de ces systèmes, les comparaisons avec des équipes humaines sur des problèmes bien définis et l’adoption de règles claires par les revues. La déclaration de l’usage de l’IA, la traçabilité des données et la responsabilité humaine devront rester au cœur de ce cadre.

Autoscience Carl, telle qu’elle est décrite dans l’archive, cristallise déjà ce débat. L’IA peut devenir un accélérateur de découverte. Mais elle ne doit pas transformer la publication scientifique en une usine à textes plausibles. La valeur d’une recherche ne repose pas sur la vitesse à laquelle elle est rédigée, mais sur la possibilité de la vérifier, de la discuter et de la reproduire.