Sujet
Tous les articles d’Actu.ai consacrés à Jailbreak : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 3 articles
OpenAI affirme que son futur modèle Astra est le premier de ses systèmes à atteindre le niveau « Critical » en cybersécurité. Capable, selon ses évaluations, de découvrir des failles inconnues et de bâtir des chaînes d’exploitation, il ne donnera pas accès à ses fonctions les plus puissantes dès son lancement.
Les entreprises déploient rapidement des IA génératives, mais peinent encore à en recenser les usages et à en évaluer les failles. Avec TotalAI, Qualys propose une couche de visibilité et de tests dédiée aux modèles de langage, depuis leur développement jusqu’à leur utilisation en production.
Les grands modèles de langage sont entraînés à refuser les requêtes dangereuses. Pourtant, des chercheurs de l’EPFL montrent que des attaques dites adaptatives peuvent encore déjouer ces protections, y compris sur GPT-4o et Claude 3.5. Une faille qui interroge la sécurité des futurs agents autonomes.
