Prix Turing : Hinton, Bengio et LeCun face aux risques de l’intelligence artificielle

L’intelligence artificielle n’est plus seulement une affaire de laboratoires et de démonstrations techniques. Elle produit déjà des textes, des images et des recommandations à grande échelle, et elle intervient dans des décisions qui peuvent affecter l’accès à un emploi, à un crédit, à un service public ou à une information fiable. Face à cette diffusion rapide, les avertissements venus de chercheurs qui ont contribué à bâtir l’IA moderne occupent une place particulière dans le débat public.

Geoffrey Hinton, Yoshua Bengio et Yann LeCun sont fréquemment réunis dans les discussions sur les dangers de l’IA. Tous trois ont reçu le Prix Turing 2018, la distinction la plus prestigieuse de l’informatique, pour des avancées qui ont fait des réseaux de neurones profonds un élément central de l’informatique. Mais les présenter comme un bloc homogène serait réducteur : ils partagent une expertise fondatrice, pas une position unique sur les risques, leur gravité ni les réponses à apporter.

Cette nuance est essentielle pour comprendre les alertes autour de l’IA en mars 2025. Certaines menaces sont déjà documentées dans les usages courants, à commencer par les contenus trompeurs et les biais. D’autres concernent l’évolution possible de systèmes beaucoup plus puissants. Dans les deux cas, la question centrale est la même : comment profiter de cette technologie sans laisser ses effets nocifs se déployer plus vite que les garde-fous ?

Pourquoi le Prix Turing pèse dans le débat sur l’IA

Le Prix Turing est attribué par l’Association for Computing Machinery, ou ACM. En 2018, Geoffrey Hinton, Yoshua Bengio et Yann LeCun ont été distingués pour leurs contributions conceptuelles et techniques ayant permis aux réseaux de neurones profonds de devenir des outils informatiques déterminants.

L’apprentissage profond consiste à entraîner des réseaux de neurones artificiels sur de très grandes quantités de données afin qu’ils repèrent des régularités. Cette méthode est devenue décisive pour la reconnaissance d’images, la traduction automatique, la transcription vocale et, plus récemment, les modèles génératifs capables de produire du texte, du son, du code ou des images.

L’autorité de ces trois scientifiques ne vient donc pas d’une fonction officielle de régulateur, mais de leur rôle dans l’histoire scientifique de la discipline. Lorsqu’ils interviennent dans le débat public, leurs paroles sont écoutées parce qu’ils connaissent les possibilités, mais aussi les limites, des systèmes issus de ces méthodes.

Il convient toutefois de rectifier une formulation souvent reprise : en mars 2025, ils ne sont pas des lauréats « récents » du Prix Turing. Leur récompense commune date de 2018. Ce qui demeure très actuel, en revanche, est l’ampleur prise par les technologies rendues possibles par leurs travaux.

Des inquiétudes communes, mais des diagnostics différents

Les prises de parole de Geoffrey Hinton, Yoshua Bengio et Yann LeCun sont régulièrement associées aux questions de sûreté de l’IA. Elles doivent néanmoins être replacées dans leur contexte.

Geoffrey Hinton a exprimé publiquement ses préoccupations face au rythme des progrès de l’IA générative et à la possibilité que des systèmes très avancés échappent un jour au contrôle humain. Il a quitté Google en 2023 et a notamment insisté sur les risques de désinformation, d’usage malveillant et de concurrence avec les capacités humaines.

Yoshua Bengio plaide de longue date pour une approche prudente et une recherche renforcée sur la sûreté des systèmes d’IA. Il souligne la nécessité d’évaluer les capacités de modèles puissants, d’empêcher les usages dangereux et de bâtir des mécanismes de gouvernance adaptés. Le sujet ne relève pas seulement de l’informatique : il touche aussi aux droits fondamentaux, à la démocratie et à la sécurité.

Yann LeCun, pour sa part, a souvent contesté les récits les plus alarmistes autour d’une IA qui prendrait prochainement le contrôle du monde. Il appelle lui aussi à traiter les dommages concrets, comme les biais, les abus de surveillance ou la désinformation, mais considère que les systèmes actuels sont encore loin d’une intelligence générale autonome comparable à celle des humains.

Cette divergence ne rend pas le débat moins utile. Elle permet au contraire de distinguer plusieurs niveaux de risques. Une vidéo truquée utilisée pour tromper des électeurs, une erreur discriminatoire dans un système de tri de candidatures et un scénario de perte de contrôle d’un système très avancé ne relèvent ni de la même temporalité ni des mêmes réponses réglementaires.

Désinformation : pourquoi l’IA complique l’accès à une information fiable

L’un des risques les plus immédiats concerne la production massive de contenus synthétiques. Les outils génératifs peuvent rédiger des articles crédibles en apparence, imiter une voix, créer une image réaliste ou fabriquer une vidéo trompeuse. Leur problème n’est pas seulement qu’ils peuvent servir à mentir. Ils abaissent aussi fortement le coût et le temps nécessaires pour produire, traduire et diffuser un contenu manipulé.

Cette capacité peut fragiliser la confiance collective. Lorsqu’un internaute ne sait plus si un enregistrement, une image ou une déclaration est authentique, il peut douter d’informations pourtant vérifiées. C’est l’un des effets les plus préoccupants : la prolifération du faux peut aussi discréditer le vrai.

Pour réduire ce risque, aucune mesure isolée ne suffit. Les plateformes, les médias, les administrations et les citoyens ont des responsabilités différentes :

• les concepteurs d’outils doivent anticiper les détournements manifestes et améliorer la traçabilité des contenus quand elle est techniquement possible ;
• les plateformes doivent pouvoir réagir à des campagnes coordonnées de manipulation, notamment en période électorale ;
• les rédactions et institutions doivent expliquer leurs méthodes de vérification et signaler clairement les contenus non authentifiés ;
• les utilisateurs doivent conserver des réflexes simples : vérifier l’origine, chercher une confirmation indépendante et se méfier des contenus émotionnels ou urgents.

L’IA ne crée pas la désinformation, qui existait bien avant elle. En revanche, elle peut en industrialiser la production et rendre certains trucages plus convaincants. L’éducation aux médias et à l’information devient donc un complément indispensable aux mesures techniques.

Biais et décisions automatisées : le risque d’une injustice à grande échelle

Les systèmes d’IA apprennent à partir de données. Si ces données reflètent des inégalités, des discriminations historiques ou des erreurs, le système peut les reproduire, voire les amplifier. Un algorithme n’est pas neutre parce qu’il utilise des calculs : ses résultats dépendent des données retenues, de l’objectif qu’on lui donne et de la façon dont il est utilisé dans une organisation.

Le risque est particulièrement élevé lorsque l’IA contribue à des décisions importantes. Un outil peut, par exemple, classer des candidatures, détecter des fraudes, évaluer un niveau de risque ou guider une décision de recrutement. Même lorsqu’il ne décide pas seul, son score peut influencer fortement la personne chargée de trancher.

L’enjeu n’est pas d’interdire toute automatisation. Dans certains cas, des outils peuvent aider à traiter des volumes de dossiers impossibles à gérer manuellement. Mais leur déploiement doit être proportionné à l’impact sur les personnes. Plus une décision est lourde de conséquences, plus il faut exiger des tests, une documentation, une surveillance humaine et une voie de recours compréhensible.

Surveillance, sécurité et usages sensibles : où placer les limites ?

Les inquiétudes éthiques concernent aussi la surveillance. L’IA peut analyser des images, reconnaître des motifs dans de vastes ensembles de données, croiser des informations ou suivre des comportements à une échelle difficilement atteignable par des équipes humaines. Utilisées sans limites strictes, ces capacités peuvent porter atteinte à la vie privée, à la liberté d’expression et à la liberté de mouvement.

La question n’est pas théorique. Dans une démocratie, les outils de sécurité doivent être encadrés par des règles claires, un contrôle indépendant et une exigence de proportionnalité. Un usage ponctuel et justifié n’a pas les mêmes conséquences qu’une surveillance permanente de la population.

Les applications militaires sont un autre domaine sensible. L’utilisation de systèmes automatisés dans des contextes armés soulève des questions de responsabilité : qui répond d’une erreur, d’une mauvaise identification ou d’un dommage causé par une décision reposant sur un algorithme ? Cette interrogation dépasse la seule technologie. Elle renvoie au droit, aux règles internationales et à la place qui doit rester celle d’une décision humaine dans les situations les plus graves.

L’AI Act européen : une régulation qui entre progressivement en application

L’Union européenne a adopté une approche fondée sur le niveau de risque avec son règlement sur l’intelligence artificielle, souvent appelé AI Act. Le texte est entré en vigueur le 1er août 2024, mais ses obligations ne s’appliquent pas toutes à la même date.

Depuis le 2 février 2025, les premières dispositions sont applicables. Elles comprennent notamment les interdictions visant certaines pratiques jugées inacceptables, ainsi que des obligations liées à la culture et à la compréhension de l’IA au sein des organisations qui développent ou utilisent ces systèmes. D’autres règles, notamment celles touchant certains modèles d’IA à usage général et les systèmes à haut risque, sont prévues selon un calendrier progressif.

Cette méthode cherche à éviter deux écueils. Le premier serait de traiter de la même manière un filtre antispam et un système qui aide à décider de l’accès à un emploi ou à un soin. Le second serait de croire qu’une loi suffit à éliminer tous les risques. La régulation doit être accompagnée de moyens de contrôle, de compétences techniques chez les autorités et d’une capacité à faire appliquer les obligations.

La transparence est un outil important, mais elle n’est pas une solution magique. Expliquer qu’un système utilise de l’IA ne permet pas automatiquement de savoir s’il est fiable, équitable ou sûr. Il faut aussi pouvoir l’évaluer dans des conditions proches de ses usages réels, documenter ses limites et identifier les responsables lorsqu’un dommage survient.

Coût environnemental et formation : deux conditions d’un déploiement responsable

L’IA générative dépend d’infrastructures matérielles considérables. L’entraînement et l’utilisation de grands modèles nécessitent des centres de données, des puces de calcul, de l’électricité et parfois de l’eau pour le refroidissement. L’impact environnemental exact varie selon la taille du modèle, le matériel employé, la durée des calculs et le mix énergétique qui alimente les infrastructures.

Il serait donc trompeur d’attribuer une empreinte carbone unique à toute l’IA. En revanche, il est raisonnable de demander aux organisations de mesurer leurs usages, d’éviter les calculs inutiles, de choisir des modèles adaptés au besoin réel et de rendre compte de leurs choix d’infrastructure. Un modèle gigantesque n’est pas toujours nécessaire pour accomplir une tâche précise.

L’autre condition est la formation. Les professionnels qui utilisent un système d’IA doivent connaître ses capacités, mais aussi ses erreurs possibles. Les citoyens doivent pouvoir comprendre qu’un texte fluide n’est pas nécessairement exact, qu’une image réaliste peut être fabriquée et qu’une recommandation algorithmique n’est pas un jugement impartial.

La culture de l’IA ne signifie pas que chacun doit apprendre à programmer. Elle suppose de savoir poser les bonnes questions : quelles données ont été utilisées ? À quelle fin ? Qui contrôle le résultat ? Peut-on le contester ? Quelles informations ne faut-il pas confier à l’outil ?

Ce qu’il faut surveiller dans les prochains mois

La rapidité du progrès technique ne doit pas conduire à opposer artificiellement innovation et protection. Les systèmes d’IA peuvent aider à traduire, à analyser des informations, à assister des chercheurs ou à automatiser des tâches répétitives. Mais leurs bénéfices ne dispensent pas d’évaluer leurs effets sociaux.

Trois chantiers méritent une attention particulière. D’abord, la capacité à détecter et freiner les campagnes de désinformation synthétique sans restreindre indûment la liberté d’expression. Ensuite, le contrôle des systèmes qui influencent des décisions sensibles, avec des audits effectifs et des recours accessibles. Enfin, la gouvernance des modèles les plus puissants, dont les capacités et les usages évoluent vite.

Le débat entre Geoffrey Hinton, Yoshua Bengio et Yann LeCun rappelle une idée simple : l’IA n’est pas une force abstraite qui déciderait seule de l’avenir. Ses conséquences dépendront des choix de conception, des usages autorisés, des règles adoptées et de la capacité du public à demander des comptes. La prudence ne consiste pas à refuser la technologie. Elle consiste à ne pas attendre qu’un dommage soit généralisé pour décider de le prévenir.