Sujet
Tous les articles d’Actu.ai sur le sujet « Fiabilité de l’IA », du plus récent au plus ancien. 9 articles
Les IA peuvent produire une réponse convaincante tout en étant dans l’erreur, un défaut préoccupant lorsque la santé ou l’industrie sont en jeu. Issue du MIT, Themis AI développe Capsa, une technologie conçue pour repérer l’incertitude, les biais et les données insuffisantes avant qu’une prédiction ne soit utilisée.
Une réponse convaincante n’est pas forcément une réponse juste. La jeune pousse issue du MIT Themis AI propose Capsa, un outil destiné à repérer les incertitudes des modèles avant qu’elles ne provoquent des erreurs dans des secteurs sensibles, de la santé à la conduite autonome.
Face aux réponses inventées ou imprécises des modèles de langage, le prompt chaining propose une méthode simple : diviser une mission complexe en étapes courtes et contrôlables. Cette organisation ne rend pas une IA infaillible, mais elle aide à mieux cadrer son travail, repérer les erreurs et produire un résultat plus exploitable.
Une réponse erronée de Le Chat sur l’identité du Premier ministre rappelle une limite décisive des assistants IA : leurs connaissances ne sont pas toujours à jour. Au 25 février 2025, il faut distinguer ce que le modèle sait, ce qu’une recherche web peut vérifier et ce qu’un utilisateur doit contrôler lui-même.
Dans une campagne liée au Super Bowl, Google met Gemini au service de petites entreprises. Mais une phrase générée sur le Gouda, présenté comme 50 à 60 % de la consommation mondiale de fromage, a déclenché les critiques. Au-delà de l’anecdote, l’affaire rappelle pourquoi toute réponse d’IA doit être vérifiée avant diffusion.
Apple a retiré temporairement les résumés de notifications d’actualité et de divertissement dans la bêta d’iOS 18.3. La décision intervient après plusieurs erreurs, dont de fausses informations affichées sous l’apparence de notifications de la BBC. L’épisode pose une question centrale : une IA peut-elle résumer l’information sans en déformer le sens ?
Apple n’a pas supprimé toute son offre d’intelligence artificielle, mais a désactivé temporairement les résumés de notifications d’actualité dans la bêta d’iOS 18.3. La décision intervient après plusieurs erreurs, dont une fausse information attribuée à la BBC au sujet de Rafael Nadal. Elle illustre les limites des résumés automatisés d’informations sensibles.
Une réponse générée par l’AI Overview de Google a conseillé d’ajouter de la colle non toxique à une sauce pizza pour y faire tenir le fromage. Derrière cette recommandation absurde se trouvait une plaisanterie publiée sur Reddit en 2013, reprise sans que son second degré soit compris.
Google a modifié les consignes données à certains sous-traitants chargés d’évaluer les réponses de Gemini. Ils doivent désormais traiter des requêtes qui dépassent parfois leurs compétences, y compris sur des sujets techniques ou médicaux. Cette évolution relance la question centrale du contrôle humain des IA génératives.
