Sujet
Tous les articles d’Actu.ai sur le sujet « Sécurité de l’IA », du plus récent au plus ancien. 95 articles
L’ancien dirigeant de Google Eric Schmidt juge que le détournement de l’intelligence artificielle par des acteurs malveillants pourrait causer des dommages catastrophiques. Au Sommet sur l’IA de Paris, il a défendu des garde-fous ciblés, sans régulation susceptible selon lui de freiner l’innovation.
Rendre un modèle d’intelligence artificielle accessible peut stimuler la recherche, réduire certaines dépendances et faciliter la personnalisation. Mais l’étiquette « open source » ne garantit ni la transparence sur les données, ni la sécurité des usages, ni l’absence de biais. Tour d’horizon des promesses et des zones de vigilance.
Les systèmes d’IA peuvent être déstabilisés bien avant leur mise en production ou au moment où ils traitent une requête. Empoisonnement des données, extraction d’informations et évasion imposent de sécuriser les modèles, leurs données, leurs fournisseurs et les personnes qui les utilisent.
Pour Yann LeCun, les systèmes d’IA les plus visibles restent loin de pouvoir évoluer avec fiabilité dans le monde réel. Le scientifique de Meta prévoit une nouvelle révolution technologique dans les trois à cinq ans, portée par des avancées permettant notamment de concevoir des robots domestiques et des véhicules vraiment autonomes.
Meta a présenté un cadre destiné à empêcher le déploiement de modèles d’IA jugés trop dangereux. Fondé sur trois niveaux de risque, il prévoit notamment de suspendre certains développements. Cette démarche volontaire doit toutefois être distinguée des obligations légales de l’AI Act européen et des recommandations américaines du NIST.
À quelques jours du sommet de Paris sur l’IA, le gouvernement annonce l’Inesia. Ce nouvel institut réunira quatre organismes publics pour mieux évaluer les risques des systèmes d’intelligence artificielle. Il n’aura pas de pouvoir de régulation, mais devra structurer l’expertise française en matière de sécurité.
Les avancées de DeepSeek ont relancé, début 2025, la compétition entre la Chine et les États-Unis dans l’intelligence artificielle. Comparer l’IA à l’arme nucléaire éclaire certains risques stratégiques, mais masque aussi des différences fondamentales. Capacités militaires, dépendance technologique et règles internationales : voici ce qui est réellement en jeu.
Le rapport international sur la sécurité de l’IA dresse un état des lieux des risques déjà perceptibles et de ceux qui pourraient s’amplifier. Emploi, consommation énergétique, deepfakes, cyberattaques ou risques biologiques : il invite à distinguer les capacités actuelles des systèmes des scénarios encore incertains.
Pour mieux protéger leurs outils d’intelligence artificielle, les organisations doivent apprendre à raisonner comme leurs adversaires. La modélisation de l’intelligence adverse consiste à simuler les tactiques d’attaque afin d’identifier les failles avant leur exploitation. Une approche utile, à condition de l’encadrer par une gouvernance, des contrôles humains et une veille continue.
Steven Adler, ancien chercheur en sécurité chez OpenAI, alerte sur un développement de l’intelligence artificielle qu’il juge trop rapide. Son inquiétude porte moins sur une technologie précise que sur l’écart grandissant entre la course aux capacités et la capacité des laboratoires à en maîtriser les risques.
Avec Operator, OpenAI ne se contente plus de répondre aux requêtes : son intelligence artificielle peut utiliser un navigateur pour réaliser certaines actions à la place de l’utilisateur. Réserver, remplir des formulaires ou organiser une tâche devient envisageable, mais cette autonomie soulève immédiatement des questions de fiabilité, de sécurité et de contrôle.
Dès son retour à la Maison-Blanche, Donald Trump a abrogé le décret signé par Joe Biden en octobre 2023 pour encadrer les risques de l’intelligence artificielle. La décision supprime un cadre fédéral important de supervision des modèles les plus puissants, sans faire disparaître toutes les règles applicables au secteur.
L’explosion d’un Cybertruck devant le Trump International Hotel de Las Vegas a fait un mort et sept blessés. Les autorités affirment que le conducteur avait interrogé ChatGPT pendant la préparation de son acte. L’affaire pose une question délicate : que peut réellement empêcher un assistant d’IA face à un usage criminel ?
La sécurité de l’intelligence artificielle ne repose pas sur les seuls ingénieurs qui conçoivent les modèles. Pour identifier les failles, limiter les usages dangereux et établir des règles adaptées, chercheurs, entreprises, autorités et spécialistes des sciences humaines doivent travailler ensemble. Une coopération exigeante, mais devenue incontournable.
Le 1er janvier 2025, un Cybertruck a explosé devant l’hôtel Trump de Las Vegas, blessant légèrement sept personnes et tuant son conducteur. La police affirme que Matthew Livelsberger avait interrogé ChatGPT durant la préparation de son geste. Cette affaire interroge les limites réelles des garde-fous de l’IA.
La société britannique Faculty AI travaille sur des outils d’intelligence artificielle susceptibles d’améliorer l’analyse de données des drones militaires. Ses contrats publics, son rôle auprès de l’AI Safety Institute et son partenariat avec Hadean interrogent sur la place du contrôle humain, la transparence et les conflits d’intérêts dans la défense.
Geoffrey Hinton, figure majeure des réseaux de neurones, doute que l’humanité sache durablement contrôler des systèmes plus intelligents qu’elle. Son image de la relation entre une mère et son bébé ne décrit pas une découverte technique, mais pose une question décisive : qui fixe réellement les objectifs, les limites et les responsabilités de l’IA ?
Geoffrey Hinton, figure majeure de l’apprentissage profond, estime désormais entre 10 % et 20 % la probabilité que l’IA provoque l’extinction humaine d’ici trente ans. Son avertissement ne porte pas sur les assistants actuels, mais sur des systèmes potentiellement plus intelligents que les humains, difficiles à contrôler.
Les grands modèles de langage sont entraînés à refuser les requêtes dangereuses. Pourtant, des chercheurs de l’EPFL montrent que des attaques dites adaptatives peuvent encore déjouer ces protections, y compris sur GPT-4o et Claude 3.5. Une faille qui interroge la sécurité des futurs agents autonomes.
Le Fonds pour la sécurité de l’IA, ou AISF, ouvre un appel à projets consacré aux risques cyber des modèles avancés. Les équipes retenues pourront recevoir entre 350 000 et 600 000 dollars pour mieux évaluer les vulnérabilités, les capacités offensives et les moyens de déployer l’IA de façon plus sûre.
Pour le dernier jour de son événement Shipmas, OpenAI a présenté o3, successeur d’o1, et o3-mini, une version plus rapide et moins coûteuse. Leurs résultats sur plusieurs tests impressionnent, mais ils ne suffisent pas à démontrer l’arrivée d’une intelligence artificielle générale.
Ilya Sutskever, ancien directeur scientifique et cofondateur d’OpenAI, prévient que l’IA pourrait entrer dans une phase moins prévisible. À mesure que la puissance de calcul progresse et que les modèles apprennent à raisonner, la question centrale devient celle du contrôle, de la sécurité et de la gouvernance de ces systèmes.
Face à une consigne imprécise, un robot ne doit pas seulement trouver une action : il doit savoir ce qu’il ne peut pas faire. Au MIT, la méthode PRoC3S associe modèle de langage, vision et simulation pour vérifier un plan avant son exécution. Une piste prometteuse, encore testée dans des cadres contrôlés.
Google dévoile Gemini 2.0, une nouvelle famille de modèles conçue pour comprendre plusieurs formats et utiliser des outils. Avec les prototypes Astra, Mariner et Jules, le groupe veut faire évoluer l’IA du dialogue vers l’action, tout en mettant l’accent sur la supervision, la sécurité et la protection contre les abus.
