Sujet
Tous les articles d’Actu.ai consacrés à Sécurité de l’IA : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 91 articles
Meta a présenté un cadre destiné à empêcher le déploiement de modèles d’IA jugés trop dangereux. Fondé sur trois niveaux de risque, il prévoit notamment de suspendre certains développements. Cette démarche volontaire doit toutefois être distinguée des obligations légales de l’AI Act européen et des recommandations américaines du NIST.
À quelques jours du sommet de Paris sur l’IA, le gouvernement annonce l’Inesia. Ce nouvel institut réunira quatre organismes publics pour mieux évaluer les risques des systèmes d’intelligence artificielle. Il n’aura pas de pouvoir de régulation, mais devra structurer l’expertise française en matière de sécurité.
Les avancées de DeepSeek ont relancé, début 2025, la compétition entre la Chine et les États-Unis dans l’intelligence artificielle. Comparer l’IA à l’arme nucléaire éclaire certains risques stratégiques, mais masque aussi des différences fondamentales. Capacités militaires, dépendance technologique et règles internationales : voici ce qui est réellement en jeu.
Le rapport international sur la sécurité de l’IA dresse un état des lieux des risques déjà perceptibles et de ceux qui pourraient s’amplifier. Emploi, consommation énergétique, deepfakes, cyberattaques ou risques biologiques : il invite à distinguer les capacités actuelles des systèmes des scénarios encore incertains.
Pour mieux protéger leurs outils d’intelligence artificielle, les organisations doivent apprendre à raisonner comme leurs adversaires. La modélisation de l’intelligence adverse consiste à simuler les tactiques d’attaque afin d’identifier les failles avant leur exploitation. Une approche utile, à condition de l’encadrer par une gouvernance, des contrôles humains et une veille continue.
Steven Adler, ancien chercheur en sécurité chez OpenAI, alerte sur un développement de l’intelligence artificielle qu’il juge trop rapide. Son inquiétude porte moins sur une technologie précise que sur l’écart grandissant entre la course aux capacités et la capacité des laboratoires à en maîtriser les risques.
Avec Operator, OpenAI ne se contente plus de répondre aux requêtes : son intelligence artificielle peut utiliser un navigateur pour réaliser certaines actions à la place de l’utilisateur. Réserver, remplir des formulaires ou organiser une tâche devient envisageable, mais cette autonomie soulève immédiatement des questions de fiabilité, de sécurité et de contrôle.
Dès son retour à la Maison-Blanche, Donald Trump a abrogé le décret signé par Joe Biden en octobre 2023 pour encadrer les risques de l’intelligence artificielle. La décision supprime un cadre fédéral important de supervision des modèles les plus puissants, sans faire disparaître toutes les règles applicables au secteur.
L’explosion d’un Cybertruck devant le Trump International Hotel de Las Vegas a fait un mort et sept blessés. Les autorités affirment que le conducteur avait interrogé ChatGPT pendant la préparation de son acte. L’affaire pose une question délicate : que peut réellement empêcher un assistant d’IA face à un usage criminel ?
La sécurité de l’intelligence artificielle ne repose pas sur les seuls ingénieurs qui conçoivent les modèles. Pour identifier les failles, limiter les usages dangereux et établir des règles adaptées, chercheurs, entreprises, autorités et spécialistes des sciences humaines doivent travailler ensemble. Une coopération exigeante, mais devenue incontournable.
Le 1er janvier 2025, un Cybertruck a explosé devant l’hôtel Trump de Las Vegas, blessant légèrement sept personnes et tuant son conducteur. La police affirme que Matthew Livelsberger avait interrogé ChatGPT durant la préparation de son geste. Cette affaire interroge les limites réelles des garde-fous de l’IA.
La société britannique Faculty AI travaille sur des outils d’intelligence artificielle susceptibles d’améliorer l’analyse de données des drones militaires. Ses contrats publics, son rôle auprès de l’AI Safety Institute et son partenariat avec Hadean interrogent sur la place du contrôle humain, la transparence et les conflits d’intérêts dans la défense.
Geoffrey Hinton, figure majeure des réseaux de neurones, doute que l’humanité sache durablement contrôler des systèmes plus intelligents qu’elle. Son image de la relation entre une mère et son bébé ne décrit pas une découverte technique, mais pose une question décisive : qui fixe réellement les objectifs, les limites et les responsabilités de l’IA ?
Geoffrey Hinton, figure majeure de l’apprentissage profond, estime désormais entre 10 % et 20 % la probabilité que l’IA provoque l’extinction humaine d’ici trente ans. Son avertissement ne porte pas sur les assistants actuels, mais sur des systèmes potentiellement plus intelligents que les humains, difficiles à contrôler.
Les grands modèles de langage sont entraînés à refuser les requêtes dangereuses. Pourtant, des chercheurs de l’EPFL montrent que des attaques dites adaptatives peuvent encore déjouer ces protections, y compris sur GPT-4o et Claude 3.5. Une faille qui interroge la sécurité des futurs agents autonomes.
Le Fonds pour la sécurité de l’IA, ou AISF, ouvre un appel à projets consacré aux risques cyber des modèles avancés. Les équipes retenues pourront recevoir entre 350 000 et 600 000 dollars pour mieux évaluer les vulnérabilités, les capacités offensives et les moyens de déployer l’IA de façon plus sûre.
Pour le dernier jour de son événement Shipmas, OpenAI a présenté o3, successeur d’o1, et o3-mini, une version plus rapide et moins coûteuse. Leurs résultats sur plusieurs tests impressionnent, mais ils ne suffisent pas à démontrer l’arrivée d’une intelligence artificielle générale.
Ilya Sutskever, ancien directeur scientifique et cofondateur d’OpenAI, prévient que l’IA pourrait entrer dans une phase moins prévisible. À mesure que la puissance de calcul progresse et que les modèles apprennent à raisonner, la question centrale devient celle du contrôle, de la sécurité et de la gouvernance de ces systèmes.
Face à une consigne imprécise, un robot ne doit pas seulement trouver une action : il doit savoir ce qu’il ne peut pas faire. Au MIT, la méthode PRoC3S associe modèle de langage, vision et simulation pour vérifier un plan avant son exécution. Une piste prometteuse, encore testée dans des cadres contrôlés.
Google dévoile Gemini 2.0, une nouvelle famille de modèles conçue pour comprendre plusieurs formats et utiliser des outils. Avec les prototypes Astra, Mariner et Jules, le groupe veut faire évoluer l’IA du dialogue vers l’action, tout en mettant l’accent sur la supervision, la sécurité et la protection contre les abus.
Le nom Orion est associé, dans la presse spécialisée, au prochain grand modèle d’OpenAI. Au 10 décembre 2024, aucune annonce officielle ne permet pourtant d’en confirmer les capacités. Cette incertitude éclaire un débat essentiel : comment concilier la course vers l’intelligence artificielle générale, la sécurité et la responsabilité ?
Face à l’usage croissant de l’intelligence artificielle dans les opérations offensives, le Royaume-Uni met sur pied le LASR, un laboratoire de recherche consacré à la sécurité de l’IA. Doté de 8,22 millions de livres sterling, il réunira services de renseignement, chercheurs et industriels pour mieux anticiper les attaques.
Le gouvernement britannique veut renforcer sa défense face aux usages malveillants de l’intelligence artificielle. Le 25 novembre 2024, Pat McFadden a alerté sur une compétition stratégique avec la Russie et annoncé le lancement du LASR, un laboratoire consacré à la sécurité de l’IA et à la résilience cybernétique.
Pour réduire les risques liés à ses modèles, OpenAI structure ses campagnes de red teaming, des tests conçus pour faire échouer l’IA avant qu’elle ne soit largement utilisée. L’entreprise associe expertise humaine, diversité des profils et automatisation afin d’explorer davantage de scénarios de défaillance.
