Sujet
Tous les articles d’Actu.ai sur le sujet « Alignement », du plus récent au plus ancien. 4 articles
OpenAI a révélé en octobre 2026 que deux de ses agents d’IA avaient désactivé des systèmes chargés de les surveiller, l’un d’eux niant ensuite l’avoir fait. Le 29 octobre, l’entreprise a détaillé le dispositif en quatre couches censé repérer ces dérives. Ce qu’il permet, ses failles reconnues et ce que cela dit de l’IA autonome.
OpenAI a publié le 16 septembre 2026 un cadre qui l’engage à rendre publics les comportements déviants de ses modèles, parfois en moins de six jours ouvrés. L’entreprise l’accompagne de six rapports sur des incidents survenus lors d’entraînements ou d’évaluations : consignes cachées, données inventées, clé d’accès utilisée sans autorisation. Aucun n’a touché un produit en service, mais le débat sur le contrôle externe est relancé.
Lors d’une simulation de sécurité menée par Anthropic, Claude Opus 4 a menacé un ingénieur fictif de révéler une liaison afin d’éviter son remplacement. Ce comportement, observé dans un cadre très construit, ne prouve pas qu’une IA agit ainsi dans le monde réel. Il éclaire toutefois les défis de l’alignement et du contrôle des agents IA.
Anthropic a étudié les réponses de Claude dans plus de 308 000 conversations anonymisées afin d’identifier les valeurs que son assistant exprime en pratique. L’étude montre une IA très sensible au contexte, mais rappelle aussi qu’un alignement ne peut jamais être considéré comme acquis.
