IA et armes biologiques : des séquences dangereuses déjouent les contrôles

L’intelligence artificielle est devenue un outil précieux pour les sciences du vivant. Elle peut aider à imaginer de nouvelles protéines, à accélérer certaines étapes de la recherche pharmaceutique ou à mieux comprendre des mécanismes biologiques complexes. Mais la même capacité à explorer rapidement un immense espace de possibilités moléculaires soulève une question de sécurité : que se passe-t-il lorsqu’un système conçu pour repérer les dangers ne reconnaît que ceux qu’il connaît déjà ?

Une recherche menée par des scientifiques associés à Microsoft met ce problème en lumière. L’équipe a utilisé des programmes d’IA accessibles au public pour générer plus de 76 000 variantes synthétiques de protéines nocives, dont la ricine. Ces variantes n’ont pas été fabriquées dans un laboratoire. Les chercheurs ont conçu, puis testé de manière numérique, les instructions génétiques correspondantes afin de mesurer leur capacité à passer les contrôles appliqués aux commandes d’ADN.

Le résultat appelle une vigilance sérieuse, sans pour autant justifier l’alarmisme. L’étude ne montre pas qu’une arme biologique fonctionnelle a été créée. Elle révèle plutôt une faille dans une étape essentielle de la prévention : les logiciels censés signaler des commandes d’ADN suspectes peuvent être moins efficaces lorsque les séquences sont suffisamment éloignées des références déjà connues.

L’IA transforme la biologie, pour le meilleur comme pour le pire

La biologie moderne produit et analyse d’immenses quantités de données. Une protéine peut être décrite comme une longue chaîne d’éléments dont l’ordre influence sa forme et sa fonction. Explorer toutes les combinaisons possibles dépasse largement les capacités humaines. Les modèles d’intelligence artificielle sont justement capables de proposer, trier ou optimiser très rapidement des candidats parmi un très grand nombre de séquences.

Cette faculté nourrit des perspectives médicales considérables. Elle peut contribuer à la conception de protéines d’intérêt thérapeutique, à la recherche de nouveaux médicaments ou à l’amélioration de certains procédés industriels. L’équipe de chercheurs souligne ainsi : « Nous croyons que l’avancement continu de la conception assistée par IA revêt un potentiel prometteur pour contrer des défis cruciaux en matière de santé et de sciences de la vie ».

Le problème tient au caractère dit « dual » de cette technologie. Un même savoir-faire peut avoir une finalité bénéfique ou être détourné. Dans le cas de la biologie, concevoir des séquences qui ressemblent moins à des substances dangereuses déjà répertoriées peut mettre à l’épreuve les dispositifs chargés de les repérer avant leur synthèse.

Il ne s’agit donc pas de considérer toute recherche assistée par IA comme suspecte. L’enjeu est de maintenir des garde-fous à la hauteur de capacités scientifiques qui progressent vite. Les outils de sécurité doivent pouvoir analyser non seulement les ressemblances évidentes avec des menaces connues, mais aussi des variantes plus éloignées qui pourraient conserver des propriétés préoccupantes.

Comment fonctionnent les contrôles des commandes d’ADN ?

Les entreprises capables de fabriquer des séquences d’ADN sur commande ne traitent pas nécessairement toutes les demandes comme de simples achats ordinaires. Elles peuvent recourir à des logiciels de dépistage de biosécurité, souvent désignés par l’expression anglaise biosecurity screening. Leur rôle est de comparer une séquence demandée avec des bases de données qui recensent des agents pathogènes, des toxines et d’autres éléments considérés comme sensibles.

Cette vérification constitue une barrière importante. Lorsqu’une demande ressemble à une séquence associée à une menace connue, elle peut être signalée pour un examen plus approfondi. Mais son efficacité dépend directement de ce que les bases de données et les algorithmes savent identifier.

C’est là que se situe le point faible mis en avant par les chercheurs. Un système de comparaison est naturellement très performant pour reconnaître un élément déjà catalogué. Il devient plus vulnérable face à une séquence inédite, ou suffisamment modifiée pour ne plus présenter une similarité évidente avec les références disponibles, tout en restant potentiellement préoccupante.

Cette architecture de sécurité ne doit pas être perçue comme inutile parce qu’elle n’est pas parfaite. Le dépistage réduit les risques et permet d’identifier un grand nombre de demandes problématiques. L’étude rappelle toutefois qu’il doit évoluer au même rythme que les outils capables de générer des variantes biologiques inédites.

Plus de 76 000 séquences testées, sans fabrication physique

Pour étudier cette vulnérabilité sans produire de substances dangereuses, les scientifiques ont choisi une approche numérique. Ils ont généré des séquences associées à des protéines nocives, telles que la ricine, puis les ont soumises aux outils de dépistage. Aucune de ces séquences n’a été synthétisée physiquement dans le cadre de cette recherche.

Cette précision est fondamentale. Une prédiction réalisée par ordinateur ne garantit pas qu’une protéine se comporterait de la manière attendue dans le monde réel. Entre une séquence numérique et une substance active, il existe des incertitudes scientifiques, des contraintes expérimentales et de nombreuses étapes que cette étude n’avait pas pour objet de franchir.

En revanche, les chercheurs ont constaté qu’une proportion significative des séquences générées par IA pouvait initialement traverser les filtres. Après les mises à jour apportées aux logiciels, environ 3 % des séquences potentiellement dangereuses parvenaient encore à échapper à la détection. Autrement dit, les correctifs ont amélioré fortement la protection, mais ils n’ont pas éliminé toutes les zones d’ombre.

Le chiffre de 3 % peut sembler faible à première vue. Dans un contexte de biosécurité, il ne doit pourtant pas être lu comme un détail négligeable. Les systèmes de contrôle servent précisément à empêcher que des demandes risquées passent inaperçues. La question n’est pas seulement de savoir si une grande majorité est détectée, mais aussi de comprendre pourquoi le reliquat ne l’est pas et comment réduire encore cette marge.

Des correctifs utiles, mais une défense qui doit rester mobile

Face à ces résultats, l’équipe de Microsoft a travaillé avec des fournisseurs de logiciels de dépistage. La collaboration a porté sur l’actualisation des bases de données de menaces et sur l’ajustement des outils de contrôle. Lors d’un test ultérieur, ces améliorations ont permis de détecter 97 % des séquences les plus dangereuses.

Cette réaction illustre une approche pragmatique de la sécurité technologique. Il n’est pas nécessaire d’attendre un incident réel pour identifier une faiblesse : des tests encadrés peuvent servir à éprouver les mécanismes de défense, puis à les corriger. En cybersécurité, cette logique est familière. Des chercheurs cherchent des vulnérabilités, les signalent aux éditeurs concernés et laissent le temps de déployer des correctifs avant une publication détaillée. La biosécurité peut s’inspirer de ce réflexe, tout en tenant compte de ses particularités.

La difficulté est que les bases de données ne sont jamais figées. Les connaissances scientifiques évoluent, de nouvelles séquences sont étudiées et les modèles génératifs deviennent plus aptes à proposer des variantes. Il ne suffit donc pas de mettre à jour une liste une fois pour toutes. La surveillance doit être continue, les méthodes d’analyse doivent être régulièrement évaluées et les fournisseurs doivent pouvoir partager rapidement les informations pertinentes.

Cette dynamique peut donner l’impression d’une course sans fin entre la conception de nouvelles séquences et les outils chargés de les détecter. Mais elle montre surtout la nécessité d’un dispositif adaptable. Une sécurité figée vieillit vite face à une technologie qui progresse par itérations rapides.

Pourquoi la détection ne peut pas reposer sur un seul filtre

Les logiciels de dépistage constituent une protection importante, mais ils ne peuvent pas porter seuls toute la responsabilité de la biosécurité. Une réponse robuste repose sur plusieurs niveaux complémentaires : l’examen des commandes, l’évaluation des clients lorsque le contexte le justifie, des règles professionnelles partagées par les fournisseurs et une coopération entre chercheurs, industriels et autorités publiques.

L’étude souligne également l’importance de concevoir les modèles d’IA avec la sécurité à l’esprit. Les développeurs d’outils de conception biologique, les laboratoires qui les utilisent et les entreprises qui synthétisent l’ADN ne disposent pas tous des mêmes leviers. Leur coordination est donc essentielle pour éviter qu’une lacune chez l’un devienne une faille pour tous.

Pour les pouvoirs publics, l’enjeu est de définir des règles qui renforcent les pratiques responsables sans paralyser la recherche médicale. Les sciences du vivant ont besoin d’outils puissants pour répondre aux maladies et aux urgences sanitaires. Des obligations de contrôle trop imprécises pourraient être inefficaces, tandis que des restrictions mal calibrées risqueraient de pénaliser des travaux légitimes. Le défi consiste à viser les usages à risque, à encourager les bonnes pratiques et à prévoir des mécanismes de mise à jour.

Ce que cette étude change pour le débat public

Le sujet peut sembler lointain, car il concerne à la fois l’IA, la biologie moléculaire et les chaînes de fabrication de l’ADN. Pourtant, il touche à une question très concrète : comment préserver les bénéfices de l’innovation tout en anticipant ses détournements possibles ?

Les résultats associés à Microsoft invitent à dépasser deux réflexes opposés. Le premier serait de présenter l’IA comme une menace autonome et inévitable. Le second consisterait à considérer que les dispositifs actuels sont suffisants parce qu’ils stoppent déjà de nombreuses demandes suspectes. La réalité est plus nuancée : les outils existants sont utiles, les améliorations ont démontré leur efficacité, mais les tests révèlent des angles morts qui nécessitent un effort permanent.

Cette démarche de transparence contrôlée est elle-même importante. Rendre publiques les faiblesses d’un système sans divulguer les informations qui faciliteraient un détournement est un exercice délicat. Il permet aux acteurs concernés d’améliorer leurs pratiques tout en évitant de transformer une publication scientifique en mode d’emploi.

Ce qu’il faut surveiller

La principale leçon de cette recherche est que la biosécurité doit devenir aussi évolutive que les outils qu’elle cherche à encadrer. Les prochaines étapes à surveiller concernent d’abord la capacité des fournisseurs à déployer rapidement les correctifs et à tester régulièrement leurs outils contre des séquences inédites.

Il faudra aussi suivre la coopération entre les entreprises d’IA, les spécialistes des sciences du vivant, les fabricants d’ADN et les autorités. Le partage responsable d’informations sur les vulnérabilités peut accélérer les correctifs, à condition d’être organisé de façon à ne pas accroître lui-même les risques.

Enfin, le débat réglementaire devra répondre à une exigence simple, mais difficile à appliquer : permettre à l’IA de contribuer à la découverte scientifique et médicale, tout en réduisant les possibilités de détournement malveillant. Le test mis en lumière par cette étude ne ferme pas la porte à la recherche assistée par IA. Il rappelle que, dans un domaine aussi sensible que la biologie, l’innovation et la sécurité doivent avancer ensemble.