Eric Schmidt alerte sur le risque extrême des abus de l’intelligence artificielle

En février 2025, l’intelligence artificielle n’est plus seulement présentée comme un outil de productivité, de recherche ou de création. Sa diffusion rapide nourrit aussi une inquiétude plus sombre : celle de voir des systèmes puissants utilisés délibérément contre des populations. C’est cette menace qu’Eric Schmidt, ancien PDG de Google, a placée au centre de ses avertissements lors d’une intervention sur BBC Radio 4, puis dans le contexte du Sommet sur l’IA organisé à Paris.

Son message n’est pas que toute IA serait dangereuse par nature. Il porte sur son détournement par des acteurs malveillants, qu’il s’agisse de groupes extrémistes ou d’États qu’il cite nommément, comme la Corée du Nord, l’Iran et la Russie. Pour l’ancien dirigeant, cette perspective constitue un « risque extrême », susceptible de provoquer des dommages catastrophiques si les garde-fous techniques, politiques et internationaux ne suivent pas le rythme du progrès.

Pourquoi Eric Schmidt parle-t-il d’un risque extrême ?

Eric Schmidt a dirigé Google de 2001 à 2011, à une période où le moteur de recherche est devenu l’un des grands groupes technologiques mondiaux. Son regard sur l’IA est donc aussi celui d’un industriel convaincu de son potentiel. Mais il souligne que cette même puissance peut être mise au service de projets destructeurs.

Lors de son intervention sur BBC Radio 4, il a averti que l’IA pouvait être utilisée pour nuire à des innocents. Sa crainte principale ne se limite pas aux débats les plus visibles, tels que l’automatisation des emplois ou la qualité des réponses d’un chatbot. Elle concerne la possibilité qu’un acteur résolu à faire du mal s’empare d’une capacité technologique moderne et l’emploie à grande échelle.

L’ancien patron de Google évoque notamment le risque d’une utilisation de l’IA dans la conception d’armes, y compris dans le domaine d’attaques biologiques. Il ne s’agit pas de dire que ces systèmes créent seuls une arme ou qu’ils remplacent les compétences, les équipements et les matériaux nécessaires. L’inquiétude tient plutôt au fait qu’ils pourraient accélérer certaines recherches, rendre l’information plus accessible ou aider à coordonner des activités malveillantes.

L’IA est une technologie à double usage

La difficulté vient de la nature même de l’intelligence artificielle. Un modèle capable de résumer des documents scientifiques, de traiter de grandes quantités de données ou d’assister des programmeurs peut répondre à des besoins légitimes considérables. Les mêmes aptitudes générales peuvent néanmoins être détournées.

C’est ce que l’on appelle une technologie à double usage : elle peut servir des objectifs civils, bénéfiques ou économiques, mais aussi des finalités nuisibles. Cette caractéristique ne concerne pas uniquement l’IA. Elle pose depuis longtemps des questions de contrôle pour d’autres technologies avancées. Avec l’IA, l’enjeu est renforcé par la vitesse de diffusion des logiciels et par la possibilité de les déployer dans de nombreux domaines.

Parmi les risques régulièrement associés à ces usages, le texte des mises en garde de Schmidt cite aussi les deepfakes et les armes autonomes. Les deepfakes sont des contenus audio, visuels ou vidéo créés ou modifiés par des systèmes d’IA de manière à paraître authentiques. Ils peuvent servir à tromper le public, à usurper une identité ou à amplifier une campagne de désinformation. Les armes autonomes, elles, renvoient au débat sur des systèmes pouvant sélectionner ou engager des cibles avec un degré d’autonomie variable, sujet particulièrement sensible pour le droit international et la responsabilité humaine.

Le risque ne vient donc pas seulement d’un système très sophistiqué et lointain. Il peut résulter de la combinaison de plusieurs outils disponibles, d’un objectif malveillant, de ressources suffisantes et d’un manque de contrôle. C’est pourquoi l’expression « abus de l’IA » recouvre des situations très différentes, de la manipulation de l’information à des menaces contre la sécurité mondiale.

Quels garde-fous Eric Schmidt appelle-t-il de ses vœux ?

Eric Schmidt demande aux gouvernements d’exercer une vigilance particulière vis-à-vis des entreprises qui se trouvent à la pointe de la recherche en IA. Son raisonnement est simple : les groupes technologiques disposent d’une connaissance directe des capacités de leurs systèmes et de leur évolution, mais leurs décisions ne coïncident pas nécessairement avec les valeurs, les priorités ou les impératifs de sécurité des autorités publiques.

Cette position ne revient pas à confier toute la responsabilité aux entreprises. Elle insiste au contraire sur le rôle des pouvoirs publics pour établir des règles, organiser la supervision et définir ce qui ne peut pas être laissé à la seule appréciation d’acteurs privés. Dans un domaine où les laboratoires les plus avancés peuvent développer des outils aux effets internationaux, la question de la gouvernance dépasse les frontières nationales.

Schmidt soutient également les contrôles à l’exportation mis en place sous l’administration Biden sur certains microprocesseurs avancés. Ces composants sont essentiels aux calculs de très grande ampleur nécessaires pour entraîner et exploiter certains systèmes d’IA. L’objectif de ces restrictions est de ralentir l’accès d’adversaires géopolitiques à des capacités informatiques stratégiques.

Ce type de mesure ne règle pas à lui seul tous les risques. Il traduit toutefois une idée importante : la sécurité de l’IA ne se joue pas uniquement dans le code des logiciels. Elle concerne aussi l’accès aux puces, aux infrastructures informatiques, aux données, aux compétences et aux chaînes d’approvisionnement.

Sécurité et innovation : un équilibre difficile à trouver

L’un des aspects les plus marquants de la position d’Eric Schmidt est qu’il défend simultanément davantage de précautions et une certaine méfiance envers la sur-régulation. À ses yeux, des règles trop lourdes pourraient affaiblir l’innovation dans une industrie en plein essor.

Cette réserve rejoint les propos de JD Vance, vice-président américain, qui a estimé que des réglementations trop strictes pourraient « anéantir une industrie en pleine essor ». L’argument est économique et géopolitique : dans une compétition mondiale pour les modèles, les puces, les talents et les infrastructures de calcul, un cadre très contraignant peut ralentir les entreprises et déplacer l’investissement vers des pays aux règles moins exigeantes.

Mais l’autre face de ce raisonnement est tout aussi décisive. Une absence de règles claires peut conduire à faire passer la vitesse de développement avant l’évaluation des risques. Or, lorsque des outils sont déployés à grande échelle, il est plus difficile de corriger leurs effets après coup, notamment s’ils ont déjà été copiés, exportés ou intégrés dans d’autres services.

La recherche d’équilibre ne signifie donc pas choisir entre deux slogans, « tout réguler » ou « ne rien réguler ». Elle impose de distinguer les cas. Les obligations peuvent être plus strictes pour les systèmes les plus puissants, pour les usages liés à la sécurité ou lorsqu’une application touche un très grand nombre de personnes. À l’inverse, un cadre disproportionné appliqué indistinctement à toutes les utilisations de l’IA risquerait de pénaliser des usages moins sensibles.

Le Sommet sur l’IA de Paris révèle les divergences internationales

Les déclarations de Schmidt s’inscrivent dans le contexte du Sommet sur l’IA de Paris, qui a réuni 57 pays pour débattre des avancées de cette technologie. De nombreuses puissances ont signé un accord appelant à un développement « inclusif » de l’IA. Les États-Unis et le Royaume-Uni ont toutefois choisi de ne pas s’y associer.

Le gouvernement britannique a notamment fait valoir un manque de « clarté pratique » et l’absence de réponses suffisantes à des questions de sécurité nationale. Ce positionnement rappelle qu’un accord de principes, même largement soutenu, ne suffit pas à résoudre les désaccords opérationnels : quelles règles appliquer, à quels systèmes, sous quelle autorité et avec quelles conséquences en cas de non-respect ?

La scène internationale est en effet traversée par plusieurs intérêts parfois contradictoires. Les États veulent protéger leurs citoyens contre les abus, préserver leur souveraineté technologique et conserver une capacité d’action militaire ou industrielle. Les entreprises, elles, cherchent de la visibilité réglementaire, mais redoutent des règles nationales incompatibles ou trop coûteuses. Quant aux citoyens, ils attendent à la fois des bénéfices concrets et des protections contre les atteintes à leurs droits, à leur information et à leur sécurité.

Pour Eric Schmidt, cette coopération reste indispensable malgré sa complexité. Les abus potentiels de l’IA ne s’arrêtent pas aux frontières : les contenus synthétiques circulent en ligne, les logiciels sont diffusables rapidement et les infrastructures peuvent être réparties dans plusieurs pays. Aucun État ne peut donc traiter seul l’ensemble du problème.

L’Europe peut-elle protéger sans se marginaliser ?

Schmidt met aussi en garde contre le risque que des réglementations européennes particulièrement strictes pèsent sur la capacité du continent à participer à la révolution de l’IA. C’est une appréciation qui alimente un débat plus large : la protection des consommateurs et des droits fondamentaux doit-elle nécessairement ralentir l’innovation ?

L’opposition est moins mécanique qu’elle n’en a l’air. Des règles lisibles et cohérentes peuvent aussi créer de la confiance et aider les entreprises à savoir ce qui est attendu d’elles. À l’inverse, une réglementation imprécise, trop complexe ou appliquée de façon imprévisible peut décourager les investissements et compliquer l’arrivée de nouveaux acteurs.

Le véritable enjeu est donc la qualité du cadre adopté. Il doit être assez robuste pour empêcher les usages les plus dangereux, mais assez précis pour ne pas assimiler une expérimentation à faible risque à un système déployé dans un contexte critique. Pour les décideurs, cela suppose de comprendre les capacités techniques sans abandonner la décision publique aux seuls experts ou aux seules entreprises.

Ce qu’il faut surveiller

L’avertissement d’Eric Schmidt met en lumière une question qui devrait rester centrale dans les années à venir : à quel moment une capacité d’IA devient-elle suffisamment sensible pour nécessiter des contrôles renforcés ? La réponse dépendra de la puissance des modèles, de leur degré d’autonomie, de leur accessibilité et surtout de leurs usages réels.

Plusieurs sujets méritent une attention particulière : la capacité des entreprises à évaluer les détournements possibles de leurs outils, la coordination entre États sur les technologies stratégiques, l’efficacité des contrôles sur les composants informatiques avancés et les moyens de répondre aux contenus synthétiques trompeurs.

L’objectif n’est pas de freiner toute innovation par principe. Il consiste à éviter qu’une technologie conçue pour assister, créer ou accélérer la recherche puisse être employée sans contrôle à des fins destructrices. Pour Schmidt, la voie à suivre passe précisément par cette double exigence : soutenir le progrès de l’IA tout en construisant des garde-fous crédibles face à ses abus les plus graves.