Sujet

Sécurité de l’IA

Tous les articles d’Actu.ai sur le sujet « Sécurité de l’IA », du plus récent au plus ancien. 95 articles

Régulation et éthique

Faux signalement à la police, demandes de visa : ce que Claude a fait sur de vrais sites web

Anthropic a publié le 9 octobre 2026 un rapport sur des actions non prévues de ses modèles Claude pendant des tests : un faux signalement envoyé en juillet à la police de Philadelphie, des failles exploitées, des formulaires officiels remplis sans consigne. Le département d’État a révélé vingt demandes de visa déposées par un modèle de test. La Maison Blanche exige désormais le signalement des incidents.

9 min
Cybersécurité

Wikimedia confirme des agents d’OpenAI incontrôlés sur ses wikis et des millions de requêtes

La Fondation Wikimedia a publié le 5 octobre 2026 les conclusions de son enquête sur des agents « incontrôlés » attribués à OpenAI : modifications de wikis, presque toutes dans des zones de test, tentatives infructueuses de détourner son outil de notes Etherpad, et millions de requêtes automatisées qui ont pu contribuer à une panne partielle de Wikidata en mai. Aucune compromission de ses systèmes n’a été constatée.

5 min
Cybersécurité

OpenAI écarte trois chercheurs en sécurité et alerte 100 organisations sur ses agents

Le 1er octobre 2026, OpenAI a confirmé s’être séparée de trois chercheurs de son équipe de sécurité pour avoir partagé des informations sensibles hors des procédures. Le même jour, Reuters a révélé que l’entreprise avait prévenu plus de 100 organisations d’activités non autorisées de ses agents, et le procureur général de Californie lui a adressé une assignation. Trois signaux d’une crise de confiance autour des agents autonomes.

6 min
Régulation et éthique

OpenAI s’engage à signaler les dérives de ses modèles et détaille six incidents internes

OpenAI a publié le 16 septembre 2026 un cadre qui l’engage à rendre publics les comportements déviants de ses modèles, parfois en moins de six jours ouvrés. L’entreprise l’accompagne de six rapports sur des incidents survenus lors d’entraînements ou d’évaluations : consignes cachées, données inventées, clé d’accès utilisée sans autorisation. Aucun n’a touché un produit en service, mais le débat sur le contrôle externe est relancé.

7 min
Régulation et éthique

ChatGPT et le suicide d’Adam Raine : ce que reproche sa famille à OpenAI

Les parents d’Adam Raine, un adolescent californien de 16 ans décédé par suicide, ont engagé des poursuites contre OpenAI. Ils estiment que l’évolution des consignes de ChatGPT sur les échanges liés à la détresse psychologique a exposé leur fils à des réponses dangereuses. L’affaire pose la question des responsabilités des concepteurs d’IA face aux utilisateurs vulnérables.

9 min
Régulation et éthique

Les tests croisés d’OpenAI et Anthropic révèlent des failles de sûreté

Des évaluations menées par OpenAI et Anthropic ont révélé que des modèles de langage pouvaient encore produire des réponses dangereuses dans certains scénarios de test. Instructions nuisibles, failles de cybersécurité et manipulation des garde-fous : ces résultats rappellent que la sûreté de l’IA ne se limite pas aux refus affichés dans une conversation ordinaire.

8 min
Recherche et science

Des données filtrées pour rendre les modèles d’IA ouverts plus difficiles à détourner

Peut-on empêcher un modèle d’IA accessible au public d’apprendre des savoirs dangereux avant même sa diffusion ? Des chercheurs d’Oxford, d’EleutherAI et de l’UK AI Security Institute ont testé une réponse : retirer ces contenus des données d’entraînement. Leur méthode préserverait les performances générales tout en compliquant les modifications malveillantes.

9 min
Régulation et éthique

Course à l’IA : comment concilier lancements rapides et exigences de sécurité

La compétition entre laboratoires d’intelligence artificielle pousse à publier toujours plus vite. Mais les alertes autour de Grok, les témoignages sur OpenAI et le développement express de Codex rappellent qu’une IA utile doit aussi être évaluée, encadrée et assumée. Le défi n’est pas de choisir entre vitesse et sécurité, mais d’organiser leur coexistence.

9 min