IA en 2024 : des promesses qui ont aussi ébranlé la confiance du public

L’année 2024 n’a pas seulement été celle d’outils d’IA plus visibles. Elle a surtout été celle où leurs ratés ont cessé de sembler lointains ou réservés aux spécialistes. Une réponse absurde dans un moteur de recherche, une publicité qui promet un univers imaginaire, un service client qui se trompe ou une vidéo dont l’authenticité devient incertaine : ces épisodes ont touché à une ressource bien plus fragile que la performance technique, la confiance.

Le fil rouge de ces affaires est simple. Les systèmes d’IA générative savent produire, en quelques secondes, des phrases, des images ou des voix très plausibles. Mais la plausibilité n’est pas une garantie de vérité, de qualité ni de responsabilité. À mesure que ces outils entrent dans les services courants, leurs erreurs prennent une dimension sociale, commerciale et parfois juridique.

Une technologie devenue quotidienne, donc davantage exposée

Les grands modèles de langage, souvent appelés LLM, reposent notamment sur l’architecture des transformateurs. Celle-ci n’est pas nouvelle, mais son déploiement auprès du grand public a été extrêmement rapide depuis l’arrivée de ChatGPT fin 2022. En 2024, ces modèles ne répondaient plus uniquement dans des interfaces conversationnelles : ils alimentaient aussi des moteurs de recherche, des outils de bureautique, des sites de commerce et des assistants intégrés aux systèmes d’exploitation.

Cette diffusion a multiplié les situations où une réponse erronée peut être prise au sérieux. Au printemps, les aperçus générés par IA de Google Search ont ainsi fait parler d’eux après la circulation de recommandations aberrantes, dont certaines évoquaient la consommation de pierres. Ces résultats ont illustré un défaut connu des modèles génératifs : ils peuvent assembler des éléments trouvés en ligne, y compris des plaisanteries, des contenus satiriques ou des sources médiocres, sans comprendre réellement leur fiabilité.

ChatGPT a lui aussi connu un épisode de réponses incohérentes en février 2024. Des utilisateurs ont décrit des messages décousus, répétitifs ou dépourvus de sens, certains parlant avec humour de « crise neurologique » de l’IA. Derrière la formule, l’incident a mis en lumière une difficulté concrète : les internautes dépendent d’infrastructures commerciales complexes dont ils ne voient ni les réglages, ni les changements, ni les causes d’une panne.

Quand l’image fabriquée devient une promesse commerciale

En février 2024, l’expérience écossaise Willy’s Chocolate Experience est devenue l’un des symboles les plus frappants du décalage entre la promesse de l’IA et la réalité. La promotion de l’événement faisait miroiter aux familles un monde enchanteur inspiré de l’univers de Willy Wonka, avec des visuels largement relayés en ligne. Une fois sur place, les visiteurs ont découvert un entrepôt très éloigné de cette mise en scène féerique.

L’affaire n’est pas née uniquement d’une image créée par IA. Elle relève aussi de l’organisation d’un événement et de la responsabilité de ses promoteurs. Mais les illustrations générées ont joué un rôle central : elles donnaient à voir un décor spectaculaire qui pouvait sembler réalisable, alors qu’elles ne correspondaient pas à l’expérience offerte. La déception a ensuite nourri une vague de mèmes, transformant une mésaventure locale en phénomène culturel mondial.

Cet épisode est utile parce qu’il rend tangible une faiblesse des générateurs d’images. Ils excellent à composer une ambiance et à imiter les codes visuels d’une publicité. En revanche, ils ne prouvent ni l’existence d’un lieu, ni la faisabilité d’un décor, ni la qualité d’un produit. Dans une communication commerciale, cette distinction est déterminante : une image séduisante reste une promesse qui doit pouvoir être tenue.

Des erreurs qui comptent aussi dans la science et le droit

Les outils d’IA peuvent également produire des défauts flagrants dans des contextes où l’exigence de rigueur est maximale. En 2024, un article paru dans la revue Frontiers in Cell and Developmental Biology a attiré l’attention à cause d’illustrations comportant des mots déformés et des étiquettes incompréhensibles. L’image, manifestement problématique, a suscité des interrogations sur les étapes de contrôle éditorial et de révision par les pairs. L’article a été retiré par la suite.

Ce type d’incident ne signifie pas que toute l’imagerie scientifique assistée par IA est à proscrire. L’IA peut aider à analyser des données, à améliorer la visualisation ou à accélérer certaines recherches. En revanche, une image utilisée comme preuve ou comme support d’explication doit être vérifiée avec une vigilance particulière. Une erreur graphique peut véhiculer une information fausse, mais aussi fragiliser la confiance dans l’ensemble du travail publié.

La responsabilité a pris une forme très concrète dans l’affaire Air Canada. Un client avait reçu, via le chatbot de la compagnie, une information erronée concernant une politique de remboursement liée à un tarif de deuil. Lorsque la compagnie a refusé d’appliquer cette information, le différend a été porté devant le Civil Resolution Tribunal de Colombie-Britannique.

Le tribunal a donné raison au client. Son raisonnement est important : l’entreprise ne peut pas se décharger des propos de son propre outil automatisé en soutenant que les informations figurant ailleurs sur son site étaient différentes. Pour l’utilisateur, le chatbot représentait la compagnie. Une IA de service client n’est donc pas un simple gadget : elle engage la relation avec le consommateur et doit être supervisée comme telle.

Deepfakes : le doute s’installe dans les images, les voix et les vidéos

L’année 2024 a aussi renforcé le malaise entourant les contenus synthétiques. Les progrès de la génération d’images, de voix et de vidéos rendent possible l’imitation de personnes réelles avec un niveau de réalisme croissant. La circulation de vidéos parodiques créées par IA, y compris autour de célébrités comme Will Smith, a montré à quel point un visage ou une voix peut être détourné de son contexte.

Le problème ne se limite pas aux canulars. Lorsqu’une vidéo devient facile à fabriquer, le public doit se demander qui l’a produite, quand, dans quel but et à partir de quels éléments. Une création peut être explicitement humoristique et ne tromper personne. Elle peut aussi être diffusée sans étiquette, sortir une phrase de son contexte ou attribuer à une personne des propos qu’elle n’a jamais tenus.

La bonne réponse n’est pas de considérer toute image comme fausse. C’est d’adopter des réflexes de vérification, particulièrement pour les contenus émotionnels ou surprenants : retrouver la publication d’origine, chercher si plusieurs médias fiables relatent le fait, examiner le compte qui le diffuse et éviter de partager dans la précipitation. L’IA n’a pas inventé la désinformation, mais elle réduit fortement le coût de production de faux contenus persuasifs.

Recall et les robots armés, deux visages des inquiétudes sur le contrôle

Les débats de 2024 n’ont pas porté uniquement sur ce que l’IA raconte ou montre. Ils ont aussi concerné ce qu’elle peut observer, enregistrer et aider à décider. En mai, Microsoft a présenté Recall, une fonction destinée aux PC Copilot+ sous Windows 11. Son principe était de prendre régulièrement des instantanés de l’activité à l’écran pour permettre à l’utilisateur de retrouver plus facilement une information, un document ou une page consultée.

L’idée d’une mémoire informatique consultable paraît pratique. Elle a pourtant provoqué une vive réaction sur la sécurité et la vie privée : quelles données sensibles peuvent se retrouver dans ces captures ? Qui peut y accéder ? Que se passe-t-il en cas de piratage de l’ordinateur ? Face aux critiques, Microsoft a reporté le déploiement initialement envisagé, annoncé des protections supplémentaires et proposé une préversion aux membres du programme Windows Insider en novembre 2024.

Le débat illustre une règle essentielle : une fonctionnalité peut être utile tout en créant un nouveau risque. La promesse de Recall reposait sur la recherche personnelle et locale, pas sur une surveillance publique. Mais le volume et la sensibilité potentielle des informations enregistrées imposent des garanties techniques robustes, des paramètres compréhensibles et un consentement réel.

Les perspectives d’usage militaire de l’IA inquiètent pour une raison encore plus grave. Des démonstrations et informations concernant des robots quadrupèdes associés à des armes, y compris dans le cadre d’évaluations évoquées par des forces spéciales américaines, ont ravivé la question du contrôle humain sur l’usage de la force. Le point crucial n’est pas seulement la présence d’un robot ou d’un logiciel : il concerne la personne qui décide, autorise et assume une action potentiellement létale.

Enfin, les propos du cofondateur d’Oracle, Larry Ellison, sur la possibilité de réseaux de caméras alimentés par IA ont alimenté les craintes d’une surveillance étendue dans l’espace public. Identifier une personne, suivre ses déplacements ou croiser des données peut sembler efficace pour certaines missions. Sans règles strictes, ces capacités peuvent aussi porter atteinte à la vie privée et modifier profondément le rapport des citoyens à l’espace commun.

Ce qu’il faut surveiller en 2025

Les épisodes de 2024 ne racontent pas une opposition simpliste entre une IA miraculeuse et une IA dangereuse. Ils montrent que la même technologie peut être pratique, créative ou utile, tout en échouant de manière déroutante lorsqu’elle est déployée sans garde-fous adaptés.

En 2025, plusieurs questions devront être suivies de près. Les entreprises expliqueront-elles clairement quand une réponse vient d’une IA et comment elle a été vérifiée ? Les plateformes rendront-elles les contenus synthétiques plus faciles à identifier ? Les éditeurs scientifiques renforceront-ils leurs contrôles ? Et les autorités préciseront-elles les responsabilités des organisations qui confient une partie de leur relation client, de leur sécurité ou de leurs décisions à des systèmes automatisés ?

Pour le public, le principal apprentissage est peut-être le plus sobre : face à une IA, il faut distinguer l’impression de compétence de la compétence démontrée. Cette prudence ne freine pas l’innovation. Elle est la condition pour que des outils puissants puissent être utilisés sans transformer chaque erreur en crise de confiance.