Sujet
Tous les articles d’Actu.ai sur le sujet « Alignement de l’IA », du plus récent au plus ancien. 3 articles
Faire coïncider les décisions d’une intelligence artificielle avec les valeurs humaines ne consiste pas à lui ajouter une simple charte éthique. Cela suppose de revoir les données, les objectifs, les contrôles et les responsabilités, tout en donnant aux citoyens et aux régulateurs une place dans les choix technologiques.
Conçu par des chercheurs de l’Université de Washington et de l’Allen Institute for Artificial Intelligence, Delphi cherche à produire des réponses à des situations morales du quotidien. En s’appuyant sur 1,7 million de jugements humains, le projet éclaire autant les promesses de l’IA éthique que ses limites profondes.
Des chercheurs du MIT ont étudié les modèles de récompense qui servent à guider les réponses des IA génératives. Leurs expériences suggèrent que ces systèmes peuvent attribuer des évaluations différentes selon l’orientation politique d’un énoncé, y compris lorsqu’ils sont entraînés à privilégier la vérité factuelle.
