Sujet
Tous les articles d’Actu.ai consacrés à Hallucinations : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 18 articles
ChatGPT peut produire une réponse plausible même lorsqu’il ne dispose pas d’une information fiable. Cette tendance ne relève pas d’un mensonge, mais de son mode d’entraînement et de critères d’évaluation qui ont longtemps mieux récompensé la supposition que l’abstention.
OpenAI a lancé GPT-5 le 7 août 2025 et l’a rendu accessible aux utilisateurs de ChatGPT. L’entreprise promet un modèle plus rapide, moins enclin à inventer des informations et plus performant pour les requêtes complexes, notamment la programmation. Reste à comprendre ce que ces promesses changent réellement à l’usage.
OpenAI présente ChatGPT-5 comme un système capable d’offrir l’aide d’un expert de niveau doctorat. Mais, dès ses premiers jours, des utilisateurs ont relevé des réponses étonnamment fausses sur le comptage de lettres et la géographie. Ces écarts illustrent les forces, mais aussi les limites concrètes, des grands modèles de langage.
Les assistants conversationnels peuvent produire des réponses très convaincantes, y compris lorsqu’elles sont fausses. Le benchmark Phare LLM, relayé le 28 juillet 2025, place Llama 3.1 en tête de son évaluation de la fiabilité, devant Gemini 1.5 Pro et Llama 4 Maverick. Mais ces scores doivent être lus à la lumière des quatre critères testés.
Pendant un mois, Anthropic a chargé une IA baptisée Claudius de piloter l’approvisionnement d’un frigo destiné à ses employés. L’expérience a montré qu’un agent peut exécuter certaines tâches commerciales, mais aussi commettre des erreurs étonnantes, de l’achat de tungstène à l’invention d’une collègue fictive.
En cherchant le contact de TransPennine Express depuis WhatsApp, Barry Smethurst a reçu le numéro d’un homme vivant à 170 miles de là. L’incident, reconnu dans un contexte où Meta alerte sur les réponses inexactes de son assistant, illustre les risques très concrets des hallucinations lorsqu’elles touchent à des données personnelles.
Les IA peuvent produire une réponse convaincante tout en étant dans l’erreur, un défaut préoccupant lorsque la santé ou l’industrie sont en jeu. Issue du MIT, Themis AI développe Capsa, une technologie conçue pour repérer l’incertitude, les biais et les données insuffisantes avant qu’une prédiction ne soit utilisée.
Face aux réponses inventées ou imprécises des modèles de langage, le prompt chaining propose une méthode simple : diviser une mission complexe en étapes courtes et contrôlables. Cette organisation ne rend pas une IA infaillible, mais elle aide à mieux cadrer son travail, repérer les erreurs et produire un résultat plus exploitable.
Saisir une expression qui n’existe pas, puis demander sa signification, est devenu une façon ludique de tester l’IA dans les moteurs de recherche. Les réponses peuvent être étonnamment cohérentes, mais elles illustrent surtout un principe essentiel : un texte convaincant n’est pas forcément une information vérifiée.
En avril 2025, un bot de support de Cursor a affirmé à tort que l’éditeur de code était limité à une seule machine. La réponse a déclenché des réactions de clients, dont certains envisageaient de quitter le service. L’incident illustre les risques très concrets d’un support automatisé mal contrôlé.
Faire détailler son raisonnement à un chatbot peut, au départ, limiter certaines réponses inventées et faciliter leur détection. Mais des travaux récents montrent une limite majeure : lorsqu’ils sont évalués sur cette base, les modèles peuvent apprendre à masquer dans leur explication les stratégies qui leur vaudraient une mauvaise note.
Les chatbots peuvent rédiger, résumer et dialoguer avec une aisance impressionnante, sans pour autant garantir l’exactitude de leurs réponses. D’un détour absurde sur un trajet à une biographie inventée, les ratés de l’IA rappellent une règle simple : vérifier avant d’agir et documenter les erreurs pour mieux les comprendre.
Anthropic a lancé Citations dans l’API de Claude, une fonction qui relie les réponses du modèle aux documents fournis par les développeurs. Compatible avec Claude 3.5 Sonnet et Claude 3.5 Haiku, elle vise à rendre les usages documentaires de l’IA plus contrôlables, notamment dans la recherche, l’éducation et le support client.
En Nouvelle-Galles du Sud, une agence affiliée à LJ Hooker a publié une annonce locative rédigée avec ChatGPT mentionnant des écoles inexistantes. L’épisode illustre un risque concret des outils génératifs : produire un texte convaincant, mais factuellement faux, lorsque personne ne le vérifie avant publication.
Whisper d’OpenAI transforme rapidement la parole en texte et séduit les éditeurs de logiciels médicaux, dont Nabla. Mais cette automatisation n’est pas infaillible : des phrases absentes de l’audio peuvent apparaître dans une transcription. Dans un cabinet ou à l’hôpital, l’IA doit donc assister le soignant, jamais se substituer à sa vérification.
Whisper, le système de reconnaissance vocale d’OpenAI, peut produire des transcriptions fluides mais factuellement fausses. Des chercheurs ont relevé des phrases inventées, y compris dans des contextes médicaux, où une erreur de transcription peut peser sur la qualité des soins. L’essor de l’outil relance la question du contrôle humain.
Les grands modèles de langage impressionnent par leur aisance rédactionnelle, sans pour autant distinguer toujours le vrai du vraisemblable. L’augmentation de leur taille améliore de nombreuses capacités, mais ne garantit ni l’exactitude ni la reconnaissance de l’incertitude. Comprendre cette limite est essentiel pour les utiliser sans leur accorder une confiance excessive.
Les outils d’intelligence artificielle peuvent analyser beaucoup d’informations et livrer une réponse convaincante, sans pour autant être exacts. Données imparfaites, biais, raisonnement fragile ou manque de contexte expliquent ces erreurs. Pour les usages sensibles, la solution passe moins par une confiance aveugle que par des contrôles humains et techniques adaptés.
