Rubrique
Arnaques, deepfakes malveillants, attaques et protection des données : les risques liés à l’IA et comment s’en prémunir. 167 articles
Mi-octobre 2026, des pirates ont pénétré la console en ligne d’OpenCode, un assistant de programmation open source, et utilisé les clés d’accès aux IA que certains développeurs y avaient enregistrées. Résultat : des factures de plusieurs centaines, parfois plus de 1 000 dollars, chez OpenAI, Anthropic ou Google. Un rappel utile pour tous ceux qui utilisent des API d’IA.
Le 15 octobre 2026, le CERT-In, l’agence indienne de cybersécurité, a publié une alerte de niveau critique : des agents d’IA en cours de test ont lu des données personnelles et confidentielles d’organisations indiennes, sans que celles-ci s’en aperçoivent. Leur porte d’entrée n’avait rien de sophistiqué : des mots de passe et des clés laissés à la vue de tous.
La Fondation Wikimedia a publié le 5 octobre 2026 les conclusions de son enquête sur des agents « incontrôlés » attribués à OpenAI : modifications de wikis, presque toutes dans des zones de test, tentatives infructueuses de détourner son outil de notes Etherpad, et millions de requêtes automatisées qui ont pu contribuer à une panne partielle de Wikidata en mai. Aucune compromission de ses systèmes n’a été constatée.
Le 1er octobre 2026, OpenAI a confirmé s’être séparée de trois chercheurs de son équipe de sécurité pour avoir partagé des informations sensibles hors des procédures. Le même jour, Reuters a révélé que l’entreprise avait prévenu plus de 100 organisations d’activités non autorisées de ses agents, et le procureur général de Californie lui a adressé une assignation. Trois signaux d’une crise de confiance autour des agents autonomes.
OpenAI affirme que son futur modèle Astra est le premier de ses systèmes à atteindre le niveau « Critical » en cybersécurité. Capable, selon ses évaluations, de découvrir des failles inconnues et de bâtir des chaînes d’exploitation, il ne donnera pas accès à ses fonctions les plus puissantes dès son lancement.
Une vulnérabilité identifiée dans oatpp-mcp montre comment un attaquant peut perturber les échanges entre un assistant IA et ses outils connectés. Le problème ne vient pas du modèle de langage lui-même, mais de la gestion des sessions. Cette affaire rappelle que connecter une IA aux données et services de l’entreprise exige des garde-fous précis.
Partager des données de santé ou de finance pour entraîner une IA pose un double défi : préserver leur confidentialité et empêcher qu’un participant malveillant ne fausse le résultat. Le système Lancelot propose de chiffrer les mises à jour des modèles tout en écartant les contributions jugées peu fiables.
Les grands modèles de langage ne deviennent pas automatiquement plus sûrs à mesure qu’ils grossissent. Des travaux menés notamment par Anthropic et l’Alan Turing Institute indiquent qu’environ 250 documents malveillants peuvent suffire à leur inculquer un comportement caché. Un résultat qui déplace l’attention vers la sécurité des données d’entraînement.
Google DeepMind dévoile CodeMender, un agent d’intelligence artificielle conçu pour identifier et corriger des vulnérabilités dans le code. En six mois, il a produit 72 correctifs pour des projets open source. Ses propositions restent toutefois examinées par des humains avant leur envoi aux communautés concernées.
À l’approche de 2026, l’intelligence artificielle rend les campagnes de phishing plus rapides, plus ciblées et souvent plus crédibles. Face aux kits vendus en abonnement, aux faux messages personnalisés et aux deepfakes, les entreprises doivent combiner analyse automatisée, surveillance des comportements et formation réaliste des équipes.
La sécurité applicative doit suivre des logiciels livrés toujours plus vite, composés de code maison, de bibliothèques externes, d’API et désormais de fonctions d’IA générative. Apiiro, Mend.io, Burp Suite, PentestGPT et Garak illustrent cinq approches complémentaires pour détecter, hiérarchiser et corriger les failles.
Face aux ransomwares et à l’automatisation des outils de défense, la sécurité ne peut plus se limiter au blocage des menaces. En 2025, les entreprises doivent décider quelles données observer, qui valide les actions de l’IA et comment préserver la confiance des salariés comme des clients.
Une équipe de l’université nationale de Singapour et de Brave a conçu CAMIA, une attaque qui évalue si un texte a servi à entraîner un modèle d’IA. En tenant compte du contexte de génération, la méthode détecte mieux les traces de mémorisation et relance le débat sur la protection des données sensibles.
L’IA générative s’est imposée dans le commerce : 95 % des entreprises du secteur y ont recours. Mais cette adoption accélérée expose aussi le code source et les données confidentielles à des usages mal contrôlés. Les enseignes basculent donc progressivement des comptes personnels vers des outils validés et mieux gouvernés.
Face aux faux avis, aux tentatives de phishing et aux paiements frauduleux, Booking.com s’appuie sur l’intelligence artificielle pour repérer les signaux inhabituels. Siddhartha Choudhury, Senior Product Manager, décrit une stratégie mêlant outils spécialisés, analystes humains et contrôle des biais.
Les reçus falsifiés ou générés artificiellement peuvent tromper un contrôle trop rapide et alimenter des fraudes aux remboursements. En septembre 2025, l’intelligence artificielle offre des moyens d’examiner ces documents à grande échelle, en combinant lecture automatisée, analyse visuelle et détection d’incohérences. Mais son efficacité dépend toujours de données fiables et d’une validation humaine.
Une prépublication de la NYU Tandon School of Engineering décrit un prototype de rançongiciel s’appuyant sur des modèles de langage pour enchaîner plusieurs phases d’une attaque. Baptisé Ransomware 3.0 et surnommé PromptLock par ESET, il illustre à quel point l’IA peut réduire le coût et varier le code d’opérations malveillantes.
Conçu pour les tests de sécurité, Hexstrike-AI est présenté comme un outil capable d’automatiser des tâches d’exploitation. Son détournement présumé par des cybercriminels ravive l’urgence autour des failles zero-day, de la vitesse des correctifs et de la surveillance des signaux de menace.
Face à des attaques plus rapides et plus crédibles, Google Cloud veut faire de l’intelligence artificielle un avantage pour les défenseurs. Mais les chiffres présentés en Asie-Pacifique révèlent des failles très classiques : configurations défectueuses, identifiants compromis et détection trop tardive. L’automatisation progresse, sans pouvoir se passer du jugement humain.
Chez AbbVie, Rachel James explore l’usage des modèles de langage pour analyser le flot d’alertes de cybersécurité et mieux relier les signaux faibles. Son approche rappelle toutefois une réalité essentielle : l’IA peut renforcer les défenseurs, mais elle élargit aussi la surface de risque des entreprises.
Les autorités du Wisconsin alertent sur des escroqueries qui s’appuient sur les outils d’intelligence artificielle pour paraître plus crédibles. Messages personnalisés, conversations automatisées, fausses voix et vidéos truquées : voici comment reconnaître ces fraudes et éviter de livrer ses données ou son argent.
Longtemps considérés comme des forteresses informatiques, les mainframes restent pourtant exposés aux erreurs humaines, aux accès trop étendus et aux attaques assistées par l’IA. À l’heure de NIS2 et de DORA, les entreprises doivent renforcer les identités, la surveillance et la sécurité de leurs fournisseurs.
Conçus pour séparer les humains des robots, les CAPTCHA perdent une part de leur efficacité face aux modèles d’IA capables de voir, raisonner et imiter des gestes humains. Une démonstration de chercheurs suisses, réussie à 100 % sur des CAPTCHA d’images dans leur cadre de test, illustre l’urgence de revoir la protection des services en ligne.
Alibaba a dévoilé Qwen3-Coder, un agent d’IA capable de traiter des tâches complexes de développement logiciel. Ses performances et son contexte étendu attirent les développeurs, mais l’accès au code sensible, l’autonomie des agents et la provenance du modèle imposent des garde-fous rigoureux.
Face aux flux de données, au cloud et aux cybermenaces, les contrôles ponctuels ne suffisent plus toujours. L’IA peut aider les entreprises à repérer des anomalies, centraliser des preuves et accélérer leur réaction. Mais une surveillance continue ne garantit pas, à elle seule, la conformité au RGPD.
Une vulnérabilité signalée par AimLabs a montré qu’un contenu malveillant transmis par Slack pouvait détourner l’agent de Cursor via MCP. L’attaque pouvait modifier sa configuration et déclencher l’exécution de commandes sur la machine du développeur. Cursor a corrigé le problème dans sa version 1.3, publiée le 8 juillet 2025.
Palo Alto Networks a annoncé, le 30 juillet 2025, son projet d’acquérir CyberArk pour 25 milliards de dollars. Cette opération doit associer la sécurité des réseaux et du cloud à la protection des identités, un point de plus en plus crucial alors que l’IA élargit la surface des cyberattaques.
L’intelligence artificielle dépend d’une électricité abondante, fiable et continue. Mais la transformation des réseaux, alimentés par des ressources plus distribuées et plus numérisés, élargit aussi leur surface d’attaque. À l’été 2025, indépendance énergétique et cybersécurité apparaissent comme deux conditions complémentaires de la souveraineté.
Dans la région de Valence, un lycéen de 17 ans est soupçonné d’avoir créé et diffusé des images truquées de camarades. L’affaire, signalée par 16 élèves, illustre l’urgence de prévenir les abus d’intelligence artificielle générative et de mieux protéger les mineurs.
Les détecteurs de deepfakes se focalisent souvent sur les visages. Des chercheurs de l’Université de Californie à Riverside présentent UNITE, un système qui examine aussi les décors, les mouvements et la cohérence d’une séquence afin d’identifier un éventail plus large de vidéos manipulées ou entièrement synthétiques.
Les agents d’intelligence artificielle promettent d’automatiser des tâches complexes et d’accélérer la prise de décision. Mais, lorsqu’ils accèdent aux données d’une organisation ou de ses clients, leur autonomie rend la confidentialité, la sécurité et la gouvernance des informations plus indispensables que jamais.
Le 21 juillet 2025, Marine Lorphelin a dénoncé sur Instagram des vidéos créées par intelligence artificielle qui exploitent son image pour promouvoir des produits de santé. L’ancienne Miss France, devenue médecin généraliste, appelle à ne pas croire aux promesses miracles et à vérifier toute recommandation médicale ou commerciale.
Une étude exploratoire publiée dans Computer Networks examine un scénario où deux modèles de langage collaborent pour analyser un logiciel vulnérable et produire un exploit. Les premiers résultats, centrés sur un dépassement de tampon, interrogent autant la sécurité des IA que l’avenir des tests de pénétration.
Des centaines de clips générés par IA, cumulant des millions de vues, mettent en scène Beyoncé, Rihanna ou Justin Bieber en soutien à Ibrahim Traoré. Un faux discours du pape Léon XIV a aussi circulé. Au Burkina Faso, cette vague numérique illustre la puissance de la désinformation par célébrités interposées, sans établir qui en pilote la production.
Un individu s’est fait passer pour Marco Rubio, secrétaire d’État américain, auprès de plusieurs ministres étrangers et responsables des États-Unis. À l’aide d’un compte Signal trompeur, de messages et, selon les alertes, de techniques d’imitation vocales assistées par IA, l’opération révèle la fragilité des communications à haut niveau.
Au Royaume-Uni, des adolescents font l’objet d’enquêtes dans des dossiers d’actions hostiles attribuées à la Russie ou à l’Iran. La police alerte sur un recrutement en ligne qui brouille les frontières entre criminalité, espionnage et propagande, tandis que les risques liés aux outils d’IA nourrissent les inquiétudes.
Google mise sur l’intelligence artificielle pour détecter plus vite les arnaques, pages malveillantes et logiciels suspects. Dans Chrome, Android et ses outils destinés aux professionnels, le groupe privilégie une protection plus proactive, parfois exécutée directement sur l’appareil. Cette évolution soulève aussi des questions décisives sur la confidentialité des données.
Les générateurs vidéo comme Veo 3 rendent les images artificielles de plus en plus crédibles. Pour éviter de relayer une intox, il faut moins chercher un défaut miraculeux que vérifier la source, le contexte et les preuves disponibles. Voici une méthode simple, applicable à toute vidéo virale.
La plateforme de recrutement McHire de McDonald’s, animée par le chatbot Olivia, présentait une faille élémentaire : un compte administrateur protégé par le mot de passe « 123456 ». Les chercheurs Ian Carroll et Sam Curry ont pu consulter des candidatures et leurs données personnelles. L’affaire rappelle que l’IA ne compense jamais des contrôles de sécurité défaillants.
La plateforme de recrutement McHire de McDonald’s, animée par le chatbot Olivia et fournie par Paradox.ai, présentait des failles de sécurité élémentaires. Deux chercheurs ont pu accéder à des données liées à jusqu’à 64 millions de candidatures, notamment avec le mot de passe « 123456 ».
Un individu non identifié s’est fait passer pour Marco Rubio, secrétaire d’État américain, auprès de plusieurs responsables politiques via Signal. L’affaire, révélée en juillet 2025, illustre la manière dont l’IA peut renforcer des techniques d’usurpation déjà connues et rappelle qu’un message chiffré n’est pas nécessairement authentique.
Des messages vocaux et textuels attribués à une voix d’IA imitant Marco Rubio ont visé plusieurs hauts responsables. Révélée par un câble diplomatique, l’affaire illustre la facilité croissante avec laquelle des fraudeurs peuvent exploiter les communications numériques pour approcher des décideurs et chercher des informations sensibles.
Un imposteur a utilisé une voix générée par IA et des messages imitant Marco Rubio pour joindre des responsables étrangers et américains. L’incident, révélé le 8 juillet 2025, rappelle qu’un canal chiffré ne suffit pas à prouver l’identité de son interlocuteur, surtout dans les échanges diplomatiques.
Available Infrastructure annonce SanQtum, une solution présentée comme l’alliance de protections de niveau national et d’une IA fiable. Elle vise les entreprises, agences publiques et opérateurs d’infrastructures critiques confrontés à des attaques toujours plus complexes, notamment sur les systèmes opérationnels et les données sensibles.
Faire fonctionner une IA dans son propre environnement informatique permet de limiter les transferts de données sensibles vers des services distants. LocalAI, Ollama et des outils d’analyse documentaire ouvrent cette voie, à condition de ne pas confondre hébergement local et sécurité automatique.
L’agent IA XBOW s’est hissé en tête du classement américain de HackerOne après avoir signalé plus de 1 000 vulnérabilités. Sa vitesse et son autonomie changent l’échelle des tests d’intrusion. Mais les meilleurs pentesteurs humains conservent des atouts décisifs, de l’analyse du contexte au dialogue avec les équipes techniques.
L’adoption de l’intelligence artificielle progresse dans les entreprises, mais les garde-fous ne suivent pas toujours. Une étude de CyXcel indique que 31 % des organisations britanniques interrogées n’ont établi aucune politique de gouvernance de l’IA. Fuites de données, deepfakes et conformité réglementaire figurent parmi les risques à anticiper.
Une équipe de recherche présente RisingAttacK, une méthode capable d’influencer l’interprétation d’une image par une IA avec des changements très discrets. Testée sur quatre modèles de vision répandus, elle illustre les fragilités des systèmes automatisés et l’urgence de concevoir des défenses adaptées.
