IA : pourquoi les chercheurs redoutent un choc comparable à Fukushima

L’intelligence artificielle promet d’accélérer la recherche à une vitesse inédite, mais cette promesse ne suffit pas à garantir que ses effets seront bénéfiques. Lors d’un forum organisé à Londres par Google DeepMind et la Royal Society, chercheurs, industriels et responsables scientifiques ont confronté deux réalités : des applications déjà utiles en biologie, en santé ou dans les matériaux, et des risques qui peuvent toucher la sécurité, l’économie, les libertés et l’environnement.

La référence à Fukushima est volontairement frappante. Elle ne signifie pas qu’une IA provoquerait mécaniquement un accident identique à la catastrophe nucléaire survenue au Japon en mars 2011. Elle sert plutôt à poser une question de prévention : que se passe-t-il lorsqu’une technologie très complexe, intégrée à des systèmes essentiels, est déployée avant que tous ses modes de défaillance, ses usages détournés et ses conséquences en chaîne soient correctement anticipés ?

Le débat ne porte donc pas seulement sur la puissance des algorithmes. Il porte sur la capacité collective à choisir les bons usages, à vérifier les résultats et à fixer des limites avant qu’un problème ne devienne incontrôlable.

Une nouvelle ère de découvertes, selon Google DeepMind

Pour Demis Hassabis, directeur général de Google DeepMind, l’IA pourrait ouvrir une « nouvelle ère de découvertes », comparable à une renaissance scientifique. L’ambition est claire : utiliser les capacités de calcul et de reconnaissance de motifs des modèles pour aider les chercheurs à explorer plus vite des phénomènes complexes, qu’il s’agisse de molécules, de cellules, de matériaux ou de données médicales.

L’intérêt de l’IA scientifique tient à sa faculté de traiter des volumes de données qu’un humain ne pourrait pas parcourir seul. Un système peut par exemple repérer des régularités dans des résultats expérimentaux, proposer des candidats moléculaires ou classer des images médicales. Il ne remplace toutefois ni l’expérience, ni le raisonnement scientifique, ni la validation par des spécialistes.

Hassabis met lui-même en garde contre l’idée d’une technologie providentielle. L’IA n’est pas une « solution miracle ». Pour être utile, elle doit être appliquée à un problème bien défini, alimentée par des données de qualité et conçue avec des méthodes adaptées. Une réponse produite par un modèle, même convaincante, n’est pas automatiquement juste. En science comme dans la vie courante, elle doit être contrôlée.

Des applications déjà visibles, de la protéine aux soins prénataux

Les exemples présentés au forum montrent pourquoi l’enthousiasme autour de l’IA ne relève pas uniquement de projections lointaines. Dans plusieurs domaines, elle sert déjà à raccourcir certaines étapes de recherche ou à élargir l’accès à des outils de diagnostic.

Le cas le plus emblématique est AlphaFold, le programme de Google DeepMind capable de prédire la structure de protéines. Connaître la forme tridimensionnelle d’une protéine aide les scientifiques à mieux comprendre son fonctionnement et peut orienter la recherche biomédicale. Cette avancée ne transforme pas, à elle seule, une hypothèse en médicament, mais elle peut faire gagner un temps précieux dans les premières phases d’étude.

À Nairobi, des chercheurs recourent à l’IA pour réaliser des échographies prénatales, avec l’objectif de faciliter l’accès des femmes enceintes à des examens de santé. À Londres, l’entreprise Materiom s’appuie sur des algorithmes pour développer des matériaux bio-sourcés, une piste susceptible de réduire la dépendance à la pétrochimie. Le laboratoire pharmaceutique suisse Novartis utilise, de son côté, l’IA afin de réduire le temps nécessaire au recrutement de participants pour des essais cliniques.

Ces cas ont un point commun : l’IA est envisagée comme un outil d’assistance dans une chaîne de décisions et de contrôles. Dans le domaine médical en particulier, la vitesse ne doit pas effacer les exigences de fiabilité, de confidentialité et d’égalité d’accès aux soins.

Pourquoi parler d’une catastrophe « à la Fukushima » ?

L’expression ne désigne pas un scénario unique ni une prédiction. Elle renvoie à la crainte d’un choc systémique, provoqué par l’interaction entre une technologie complexe, des décisions humaines insuffisamment préparées et une gouvernance défaillante. Le chercheur et médecin Siddhartha Mukherjee compte parmi les experts qui alertent sur les dangers potentiels d’une IA mal maîtrisée.

Ces risques peuvent prendre des formes très différentes. L’un des sujets les plus graves concerne l’usage malveillant de systèmes capables d’aider à concevoir des armes biologiques. Un autre porte sur les violations de données massives : les outils d’IA sont souvent alimentés par de grandes quantités d’informations, parfois sensibles, ce qui accroît l’enjeu de leur protection.

Les systèmes utilisés dans des infrastructures critiques, les services publics, la finance ou la santé méritent une attention particulière. Une erreur de conception, une donnée biaisée, une attaque informatique ou une confiance excessive accordée à une recommandation automatisée peuvent avoir des conséquences bien plus larges que dans un usage anodin. Dans les marchés financiers, par exemple, des décisions automatisées prises à grande échelle peuvent amplifier une instabilité existante.

Il faut également distinguer deux familles de risques : ceux issus d’un usage normal mais mal préparé, et ceux liés à une volonté de nuire. Un modèle peut donner un résultat erroné sans intention hostile. Il peut aussi être détourné par un acteur qui cherche à contourner des contrôles, à voler des données ou à faciliter une activité dangereuse. Les réponses ne sont pas exactement les mêmes, mais elles exigent toutes deux des tests, des restrictions d’accès et une responsabilité clairement identifiée.

L’IA peut-elle accentuer les inégalités ?

Le risque social est moins spectaculaire qu’un scénario catastrophe, mais il est tout aussi concret. Si les gains de productivité, les données et les capacités de calcul sont concentrés entre les mains d’un petit nombre d’entreprises ou de pays, l’IA peut renforcer des écarts déjà importants. Les organisations disposant des meilleures infrastructures peuvent avancer plus vite, tandis que d’autres deviennent dépendantes de leurs services ou de leurs choix techniques.

La transformation du travail est au cœur de cette inquiétude. L’automatisation peut modifier les tâches, réduire certains besoins de main-d’œuvre et créer de nouvelles compétences recherchées. Mais sans accompagnement, les personnes et les secteurs les plus exposés peuvent subir ces changements plus vite qu’ils ne peuvent s’y adapter. L’enjeu n’est donc pas seulement de créer des outils efficaces, mais de répartir de façon plus équitable leurs bénéfices et leurs coûts.

La qualité des données est également une question de justice. Un système entraîné sur des données incomplètes ou peu représentatives risque de fonctionner moins bien pour certains groupes. Dans la santé, le recrutement d’essais cliniques ou l’accès à un examen assisté par IA, cette exigence est particulièrement forte : une technologie utile ne doit pas devenir une nouvelle source d’exclusion.

Le coût énergétique, un enjeu indissociable de l’IA

Les systèmes d’IA demandent d’importantes ressources informatiques. L’entraînement de grands modèles, puis leur utilisation quotidienne par des millions de personnes, reposent sur des centres de données et des équipements qui consomment de l’électricité. Cette réalité impose de regarder l’IA non seulement comme un logiciel, mais aussi comme une infrastructure matérielle.

L’impact environnemental ne se résume pas à un seul chiffre. Il dépend notamment de la taille des modèles, de la fréquence de leur utilisation, de l’efficacité des puces, du refroidissement des centres de données et de la source d’électricité mobilisée. Réduire le nombre d’opérations nécessaires, choisir des modèles adaptés au besoin réel et alimenter les infrastructures avec des sources d’énergie moins carbonées font partie des pistes souvent évoquées.

Asmeret Asefaw Berhe, ancienne directrice des sciences au Département américain de l’Énergie, critique l’absence de mesures significatives face à la forte demande énergétique de ces technologies. Son avertissement rappelle que les promesses d’efficacité de l’IA ne dispensent pas d’évaluer son coût global. Un outil qui optimise une activité peut, dans le même temps, accroître la consommation si son usage se généralise sans limite.

Google, comme les autres grandes entreprises technologiques, doit concilier ses besoins croissants en puissance de calcul avec les conséquences environnementales de ses activités. La question devient aussi politique qu’industrielle : quels usages justifient ces ressources, et quelles informations les entreprises doivent-elles publier pour permettre un contrôle sérieux ?

Quels garde-fous pour éviter les dérives ?

La prévention commence avant le déploiement. Les développeurs et les organisations qui utilisent une IA doivent évaluer les erreurs plausibles, les personnes susceptibles d’être affectées et les façons dont l’outil pourrait être détourné. Dans les domaines à haut risque, il est nécessaire de prévoir des tests indépendants, une supervision humaine réelle et la possibilité d’arrêter ou de corriger rapidement le système.

Une gouvernance crédible repose sur plusieurs principes complémentaires :

• définir qui est responsable d’une décision ou d’un dommage ;
• documenter les données, les limites et les performances d’un système ;
• protéger les informations sensibles et limiter les accès aux fonctions les plus dangereuses ;
• soumettre les outils à des audits et à des évaluations régulières ;
• associer scientifiques, ingénieurs, juristes, spécialistes de l’éthique et citoyens aux choix qui touchent la société.

Les réglementations ont un rôle essentiel, mais elles ne peuvent pas se limiter à interdire ou autoriser une technologie de manière abstraite. Elles doivent cibler les usages, le niveau de risque, la transparence attendue et les obligations des organisations. Dans l’Union européenne, l’AI Act, entré en vigueur le 1er août 2024, illustre cette volonté d’encadrer les systèmes d’IA selon leur degré de risque, avec une application progressive de ses obligations.

L’objectif n’est pas de ralentir toute recherche. Il est de rendre l’innovation plus robuste, afin qu’un progrès scientifique ne se transforme pas en vulnérabilité collective.

Ce qu’il faut surveiller

La question décisive n’est pas de savoir si l’IA est, par nature, salvatrice ou dangereuse. Elle dépend de ses usages, de ceux qui la contrôlent et des mécanismes capables de détecter ses effets indésirables. Les applications évoquées à Londres montrent qu’elle peut aider à comprendre les protéines, à soutenir des soins prénataux ou à concevoir des matériaux moins dépendants de la pétrochimie.

Mais les alertes sur les armes biologiques, les fuites de données, les inégalités et l’énergie rappellent qu’aucun bénéfice technique n’est automatique. Il faudra surveiller la qualité des évaluations de sécurité, la transparence des entreprises, la consommation réelle des infrastructures et la capacité des pouvoirs publics à imposer des règles applicables.

L’analogie avec Fukushima a au moins une utilité : elle oblige à penser aux conséquences avant la crise. Pour l’IA, la meilleure prévention ne réside pas dans la peur d’un destin inévitable, mais dans des choix documentés, contrôlables et démocratiquement discutés.