Rubrique
Arnaques, deepfakes malveillants, attaques et protection des données : les risques liés à l’IA et comment s’en prémunir. 163 articles
OpenAI affirme que son futur modèle Astra est le premier de ses systèmes à atteindre le niveau « Critical » en cybersécurité. Capable, selon ses évaluations, de découvrir des failles inconnues et de bâtir des chaînes d’exploitation, il ne donnera pas accès à ses fonctions les plus puissantes dès son lancement.
Une vulnérabilité identifiée dans oatpp-mcp montre comment un attaquant peut perturber les échanges entre un assistant IA et ses outils connectés. Le problème ne vient pas du modèle de langage lui-même, mais de la gestion des sessions. Cette affaire rappelle que connecter une IA aux données et services de l’entreprise exige des garde-fous précis.
Partager des données de santé ou de finance pour entraîner une IA pose un double défi : préserver leur confidentialité et empêcher qu’un participant malveillant ne fausse le résultat. Le système Lancelot propose de chiffrer les mises à jour des modèles tout en écartant les contributions jugées peu fiables.
Les grands modèles de langage ne deviennent pas automatiquement plus sûrs à mesure qu’ils grossissent. Des travaux menés notamment par Anthropic et l’Alan Turing Institute indiquent qu’environ 250 documents malveillants peuvent suffire à leur inculquer un comportement caché. Un résultat qui déplace l’attention vers la sécurité des données d’entraînement.
Google DeepMind dévoile CodeMender, un agent d’intelligence artificielle conçu pour identifier et corriger des vulnérabilités dans le code. En six mois, il a produit 72 correctifs pour des projets open source. Ses propositions restent toutefois examinées par des humains avant leur envoi aux communautés concernées.
À l’approche de 2026, l’intelligence artificielle rend les campagnes de phishing plus rapides, plus ciblées et souvent plus crédibles. Face aux kits vendus en abonnement, aux faux messages personnalisés et aux deepfakes, les entreprises doivent combiner analyse automatisée, surveillance des comportements et formation réaliste des équipes.
La sécurité applicative doit suivre des logiciels livrés toujours plus vite, composés de code maison, de bibliothèques externes, d’API et désormais de fonctions d’IA générative. Apiiro, Mend.io, Burp Suite, PentestGPT et Garak illustrent cinq approches complémentaires pour détecter, hiérarchiser et corriger les failles.
Face aux ransomwares et à l’automatisation des outils de défense, la sécurité ne peut plus se limiter au blocage des menaces. En 2025, les entreprises doivent décider quelles données observer, qui valide les actions de l’IA et comment préserver la confiance des salariés comme des clients.
Une équipe de l’université nationale de Singapour et de Brave a conçu CAMIA, une attaque qui évalue si un texte a servi à entraîner un modèle d’IA. En tenant compte du contexte de génération, la méthode détecte mieux les traces de mémorisation et relance le débat sur la protection des données sensibles.
L’IA générative s’est imposée dans le commerce : 95 % des entreprises du secteur y ont recours. Mais cette adoption accélérée expose aussi le code source et les données confidentielles à des usages mal contrôlés. Les enseignes basculent donc progressivement des comptes personnels vers des outils validés et mieux gouvernés.
Face aux faux avis, aux tentatives de phishing et aux paiements frauduleux, Booking.com s’appuie sur l’intelligence artificielle pour repérer les signaux inhabituels. Siddhartha Choudhury, Senior Product Manager, décrit une stratégie mêlant outils spécialisés, analystes humains et contrôle des biais.
Les reçus falsifiés ou générés artificiellement peuvent tromper un contrôle trop rapide et alimenter des fraudes aux remboursements. En septembre 2025, l’intelligence artificielle offre des moyens d’examiner ces documents à grande échelle, en combinant lecture automatisée, analyse visuelle et détection d’incohérences. Mais son efficacité dépend toujours de données fiables et d’une validation humaine.
Une prépublication de la NYU Tandon School of Engineering décrit un prototype de rançongiciel s’appuyant sur des modèles de langage pour enchaîner plusieurs phases d’une attaque. Baptisé Ransomware 3.0 et surnommé PromptLock par ESET, il illustre à quel point l’IA peut réduire le coût et varier le code d’opérations malveillantes.
Conçu pour les tests de sécurité, Hexstrike-AI est présenté comme un outil capable d’automatiser des tâches d’exploitation. Son détournement présumé par des cybercriminels ravive l’urgence autour des failles zero-day, de la vitesse des correctifs et de la surveillance des signaux de menace.
Face à des attaques plus rapides et plus crédibles, Google Cloud veut faire de l’intelligence artificielle un avantage pour les défenseurs. Mais les chiffres présentés en Asie-Pacifique révèlent des failles très classiques : configurations défectueuses, identifiants compromis et détection trop tardive. L’automatisation progresse, sans pouvoir se passer du jugement humain.
Chez AbbVie, Rachel James explore l’usage des modèles de langage pour analyser le flot d’alertes de cybersécurité et mieux relier les signaux faibles. Son approche rappelle toutefois une réalité essentielle : l’IA peut renforcer les défenseurs, mais elle élargit aussi la surface de risque des entreprises.
Les autorités du Wisconsin alertent sur des escroqueries qui s’appuient sur les outils d’intelligence artificielle pour paraître plus crédibles. Messages personnalisés, conversations automatisées, fausses voix et vidéos truquées : voici comment reconnaître ces fraudes et éviter de livrer ses données ou son argent.
Longtemps considérés comme des forteresses informatiques, les mainframes restent pourtant exposés aux erreurs humaines, aux accès trop étendus et aux attaques assistées par l’IA. À l’heure de NIS2 et de DORA, les entreprises doivent renforcer les identités, la surveillance et la sécurité de leurs fournisseurs.
Conçus pour séparer les humains des robots, les CAPTCHA perdent une part de leur efficacité face aux modèles d’IA capables de voir, raisonner et imiter des gestes humains. Une démonstration de chercheurs suisses, réussie à 100 % sur des CAPTCHA d’images dans leur cadre de test, illustre l’urgence de revoir la protection des services en ligne.
Alibaba a dévoilé Qwen3-Coder, un agent d’IA capable de traiter des tâches complexes de développement logiciel. Ses performances et son contexte étendu attirent les développeurs, mais l’accès au code sensible, l’autonomie des agents et la provenance du modèle imposent des garde-fous rigoureux.
Face aux flux de données, au cloud et aux cybermenaces, les contrôles ponctuels ne suffisent plus toujours. L’IA peut aider les entreprises à repérer des anomalies, centraliser des preuves et accélérer leur réaction. Mais une surveillance continue ne garantit pas, à elle seule, la conformité au RGPD.
Une vulnérabilité signalée par AimLabs a montré qu’un contenu malveillant transmis par Slack pouvait détourner l’agent de Cursor via MCP. L’attaque pouvait modifier sa configuration et déclencher l’exécution de commandes sur la machine du développeur. Cursor a corrigé le problème dans sa version 1.3, publiée le 8 juillet 2025.
Palo Alto Networks a annoncé, le 30 juillet 2025, son projet d’acquérir CyberArk pour 25 milliards de dollars. Cette opération doit associer la sécurité des réseaux et du cloud à la protection des identités, un point de plus en plus crucial alors que l’IA élargit la surface des cyberattaques.
L’intelligence artificielle dépend d’une électricité abondante, fiable et continue. Mais la transformation des réseaux, alimentés par des ressources plus distribuées et plus numérisés, élargit aussi leur surface d’attaque. À l’été 2025, indépendance énergétique et cybersécurité apparaissent comme deux conditions complémentaires de la souveraineté.
