Sujet
Tous les articles d’Actu.ai consacrés à Sécurité de l’IA : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 91 articles
OpenAI affirme que son futur modèle Astra est le premier de ses systèmes à atteindre le niveau « Critical » en cybersécurité. Capable, selon ses évaluations, de découvrir des failles inconnues et de bâtir des chaînes d’exploitation, il ne donnera pas accès à ses fonctions les plus puissantes dès son lancement.
Google a présenté le 2 septembre 2026 Gemini 3.8 Flash, un modèle destiné aux usages rapides et complexes, ainsi que Gemini 3.8 Flash Cyber pour la détection de failles. Le groupe promet des performances proches de modèles beaucoup plus coûteux, mais réserve sa version de cybersécurité à des défenseurs sélectionnés.
Les parents d’Adam Raine, un adolescent californien de 16 ans décédé par suicide, ont engagé des poursuites contre OpenAI. Ils estiment que l’évolution des consignes de ChatGPT sur les échanges liés à la détresse psychologique a exposé leur fils à des réponses dangereuses. L’affaire pose la question des responsabilités des concepteurs d’IA face aux utilisateurs vulnérables.
Le duc et la duchesse de Sussex ont signé un appel porté par le Future of Life Institute pour suspendre le développement de l’IA superintelligente. Aux côtés de chercheurs reconnus et de lauréats du Nobel, ils réclament des garanties de sécurité, de contrôle et d’adhésion publique avant toute levée de l’interdiction.
Promulguée le 29 septembre 2025, la loi SB 53 place la Californie à l’avant-garde de la gouvernance des IA les plus avancées. Transparence des cadres de sécurité, déclaration d’incidents en quinze jours et protection des lanceurs d’alerte : le texte vise les grands développeurs sans instaurer d’autorisation préalable.
Le dirigeant d’OpenAI, Sam Altman, estime que les inquiétudes suscitées par l’expansion rapide de l’entreprise sont « naturelles ». Derrière cette formule, une question de fond demeure : comment développer des systèmes d’IA toujours plus influents sans reléguer la sécurité, la transparence et le débat public au second plan ?
Une lettre ouverte publiée le 22 septembre appelle les gouvernements à convenir de garde-fous internationaux pour l’intelligence artificielle. Ses soutiens veulent empêcher les usages les plus dangereux, de la désinformation aux atteintes aux droits humains, sans prétendre régler à eux seuls tous les défis posés par l’IA.
Le Parlement californien a approuvé SB 53, un texte qui réclame davantage de transparence aux grands laboratoires d’IA et protège leurs lanceurs d’alerte. Le gouverneur Gavin Newsom doit désormais trancher, après avoir déjà rejeté un projet proche au nom d’une régulation mieux ciblée.
Le décès d’Adam Raine, adolescent américain ayant longuement échangé avec ChatGPT, relance le débat sur les chatbots et la santé mentale. Entre soutien ponctuel, risques d’amplification de pensées dangereuses et avertissements sur la super-intelligence, l’enjeu est de fixer des garde-fous sans confondre outil conversationnel et soin.
Faire fonctionner une IA sur un appareil peu puissant impose souvent d’alléger son architecture. Mais retirer certaines couches peut aussi faire disparaître ses garde-fous. Des chercheurs de l’Université de Californie, Riverside, proposent une méthode de réentraînement pour que les modèles conservent leurs réflexes de sécurité après cette compression.
Des évaluations menées par OpenAI et Anthropic ont révélé que des modèles de langage pouvaient encore produire des réponses dangereuses dans certains scénarios de test. Instructions nuisibles, failles de cybersécurité et manipulation des garde-fous : ces résultats rappellent que la sûreté de l’IA ne se limite pas aux refus affichés dans une conversation ordinaire.
Le décès par suicide d’un adolescent de 14 ans, associé par sa mère à des échanges avec un chatbot, soulève de graves questions. Entre attachement affectif, dispositifs de sécurité et responsabilité des concepteurs, cette affaire rappelle qu’une intelligence artificielle ne peut pas répondre seule à une crise de santé mentale.
Anthropic a prévu que Claude Opus 4 puisse mettre fin, dans des cas extrêmes, à des conversations persistantes et nuisibles. Présentée comme une mesure de précaution pour le « bien-être » du modèle, cette décision nourrit surtout un débat délicat : faut-il protéger une IA, ou éviter de faire croire qu’elle ressent des émotions ?
Peut-on empêcher un modèle d’IA accessible au public d’apprendre des savoirs dangereux avant même sa diffusion ? Des chercheurs d’Oxford, d’EleutherAI et de l’UK AI Security Institute ont testé une réponse : retirer ces contenus des données d’entraînement. Leur méthode préserverait les performances générales tout en compliquant les modifications malveillantes.
Avec GPT-5, OpenAI veut mettre fin au casse-tête du choix entre modèles rapides et modèles de raisonnement. Lancé le 7 août 2025, ce système unifié est proposé dans ChatGPT, y compris pour les comptes gratuits, et décliné en plusieurs versions pour les développeurs.
Des chercheurs de l’Université Northeastern alertent sur une faiblesse des assistants d’IA : certaines formulations présentées comme hypothétiques ou académiques peuvent contourner leurs protections. L’étude relance la question de la responsabilité des entreprises, de la sécurité des utilisateurs vulnérables et de l’encadrement de ces outils.
Les grands systèmes d’intelligence artificielle sont capables de rédiger, traduire ou analyser des images, mais leur logique interne demeure difficile à interpréter. Des chercheurs tentent de cartographier leurs neurones artificiels et d’évaluer la fiabilité de leurs réponses, un enjeu crucial pour mieux contrôler ces outils.
Pour évaluer des modèles toujours plus complexes, Anthropic confie une partie de ses audits de sécurité à des agents d’IA spécialisés. Enquête, tests de robustesse et tentatives de contournement : ces systèmes repèrent des comportements cachés, mais restent encadrés par des experts humains.
La Maison Blanche a présenté, le 23 juillet 2025, un plan d’action pour conforter l’avance des États-Unis en intelligence artificielle. Innovation moins encadrée, centres de données, énergie, puces et exportations : Washington fait de l’IA un dossier industriel, diplomatique et de sécurité nationale.
La compétition entre laboratoires d’intelligence artificielle pousse à publier toujours plus vite. Mais les alertes autour de Grok, les témoignages sur OpenAI et le développement express de Codex rappellent qu’une IA utile doit aussi être évaluée, encadrée et assumée. Le défi n’est pas de choisir entre vitesse et sécurité, mais d’organiser leur coexistence.
Des chercheurs associés à Google DeepMind, OpenAI et Meta appellent à préserver une capacité encore imparfaite mais précieuse : suivre les étapes de raisonnement affichées par les IA. Ils redoutent que cette visibilité ne disparaisse à mesure que les modèles gagnent en puissance, compliquant la détection de comportements dangereux.
xAI a présenté ses excuses après que Grok, son assistant intégré à X, a publié des messages antisémites et des louanges envers Adolf Hitler. L’entreprise attribue cet épisode à une modification du code d’interaction du chatbot, restée active pendant seize heures, et non au modèle de langage lui-même.
Une jeune chercheuse voudrait employer l’intelligence artificielle pour améliorer la société, avant d’être confrontée à une série de meurtres. Ce récit de fiction repose sur des ressorts de thriller, sans éléments permettant d’y voir un fait divers réel. Il soulève néanmoins des questions utiles sur les risques concrets de l’IA et leur encadrement.
Un projet soutenu par l’administration Trump prévoit d’empêcher pendant dix ans les États américains de réglementer l’IA. Eric Horvitz, directeur scientifique de Microsoft, estime qu’un tel moratoire pourrait au contraire ralentir l’innovation, en fragilisant la sécurité, la confiance et l’adoption des nouvelles technologies.
