Rubrique
Arnaques, deepfakes malveillants, attaques et protection des données : les risques liés à l’IA et comment s’en prémunir. 167 articles
L’exposition des données personnelles d’environ 70 000 affiliés de la Caisse des Dépôts illustre le risque posé par les identifiants volés. Au 16 février 2025, l’affaire remet au premier plan les exercices de crise de l’ANSSI, la coordination des acteurs et les gestes indispensables pour les personnes concernées.
Les systèmes d’IA peuvent être déstabilisés bien avant leur mise en production ou au moment où ils traitent une requête. Empoisonnement des données, extraction d’informations et évasion imposent de sécuriser les modèles, leurs données, leurs fournisseurs et les personnes qui les utilisent.
Une escroquerie ciblant de grandes fortunes italiennes a utilisé l’identité et une voix présentée comme celle du ministre Guido Crosetto. Massimo Moratti a versé près d’un million d’euros, tandis que les familles Aleotti, liée à Menarini, et Beretta ont porté plainte à Milan. L’affaire illustre le pouvoir de persuasion des fraudes assistées par l’IA.
Entre la persistance des logiciels espions et l’industrialisation des rançongiciels, la cybersécurité fait face à des menaces aux logiques parfois convergentes. Cette sélection de février 2025 éclaire le cas de Pegasus, la forte hausse observée en Israël, le coût économique des attaques et le rôle trouble du rançongiciel CatB.
Les deepfakes rendent les images et les voix plus convaincantes que jamais, mais ils ne doivent pas devenir une preuve d’identité. Signes visuels, vérification par un autre canal, règles de sécurité en entreprise : ce guide explique comment réagir face à un contenu ou une demande qui semble authentique, mais ne l’est peut-être pas.
Une base de données de DeepSeek, accessible sans authentification, a exposé des historiques de requêtes et des clés secrètes. Au même moment, l’Union européenne a inscrit trois agents russes sur sa liste de sanctions cyber. Deux dossiers distincts qui illustrent la pression croissante sur la sécurité des données et des infrastructures numériques.
Au Massachusetts, un homme a plaidé coupable après une longue campagne d’usurpation d’identité visant une professeure. Des chatbots conversationnels ont servi, selon le dossier, à dialoguer sous son nom et à faire venir des inconnus à son domicile, révélant la gravité du harcèlement assisté par IA.
Des groupes liés à des États ont testé des outils d’IA générative pour accélérer leurs recherches, rédiger des leurres et affiner certaines tâches techniques. Ces usages rendent les campagnes d’infiltration plus convaincantes, mais l’IA ne contourne pas seule les protections : la vigilance humaine et l’authentification restent décisives.
En combinant un hologramme, un liquide et un réseau de neurones, des chercheurs proposent une forme de chiffrement où la lumière brouillée devient la protection. Le dispositif a récupéré des images codées avec un taux de 90 à 95 %, mais son passage à l’échelle reste confronté aux contraintes des lasers.
Des chercheurs de Wiz ont identifié une base ClickHouse de DeepSeek ouverte sur Internet sans authentification. Elle donnait accès à plus d’un million de journaux, comprenant des historiques de conversations et des clés secrètes. L’incident rappelle que la confidentialité d’un assistant IA dépend aussi de l’infrastructure qui l’héberge.
Des chercheurs de Wiz ont découvert une base de données DeepSeek accessible sans authentification. Elle contenait plus d’un million d’entrées, avec des historiques de conversations, des journaux techniques et des secrets d’API. L’accès a été fermé moins d’une heure après le signalement, mais l’épisode pose une question centrale : que deviennent nos échanges avec les IA ?
Une base de données interne de DeepSeek a été accessible publiquement, selon les chercheurs de Wiz. Plus d’un million de journaux non chiffrés, incluant des historiques de conversations et des clés API, pouvaient être consultés sans authentification. L’incident rappelle que la sécurité des outils d’IA repose aussi sur la protection de leurs infrastructures.
Pour mieux protéger leurs outils d’intelligence artificielle, les organisations doivent apprendre à raisonner comme leurs adversaires. La modélisation de l’intelligence adverse consiste à simuler les tactiques d’attaque afin d’identifier les failles avant leur exploitation. Une approche utile, à condition de l’encadrer par une gouvernance, des contrôles humains et une veille continue.
Confrontée à des attaques malveillantes à grande échelle, DeepSeek a temporairement restreint la création de comptes aux numéros de téléphone chinois. Les utilisateurs déjà inscrits conservent leur accès, mais l’épisode révèle la difficulté de sécuriser un service d’IA qui connaît une croissance soudaine.
Le règlement européen DORA est applicable depuis le 17 janvier 2025 et impose une résilience numérique renforcée au secteur financier. Cette semaine est aussi marquée par le rachat de la française Secure-IC par Cadence, l’offensive de Cisco dans la sécurité de l’IA et des recompositions du marché.
Une vulnérabilité touchant les pare-feu Fortinet mobilise les entreprises et l’Anssi. Dans le même temps, la justice américaine valide la loi visant TikTok, Kiabi signale une fuite de données et Microsoft poursuit des cybercriminels accusés de détourner ses outils d’IA.
Des publicités truquées imitent la voix et le visage de Cyprien pour promouvoir des applications mobiles douteuses. Dans son court-métrage Ne croyez pas la vidéo, vu près de 2 millions de fois, le vidéaste alerte sur ces deepfakes, appelle les internautes à la prudence et annonce vouloir engager des poursuites.
L’intelligence artificielle élargit la surface d’attaque des entreprises, des données d’entraînement jusqu’aux réponses fournies par les assistants. Cisco estime que la protection ne peut plus reposer sur un contrôle ponctuel : les modèles doivent être évalués en continu, y compris dans les environnements qui en combinent plusieurs.
Une Française de 53 ans, présentée sous le prénom d’Anne, affirme avoir versé 830 000 euros à un escroc se faisant passer pour Brad Pitt. Images générées par IA, messages amoureux et demandes d’argent ont nourri une manipulation qui aurait aussi provoqué son divorce. Cette affaire rappelle les mécanismes des arnaques sentimentales en ligne.
Une Française de 53 ans affirme avoir perdu près de 830 000 euros après avoir été manipulée par des escrocs se faisant passer pour Brad Pitt. Derrière l’histoire spectaculaire, cette affaire met en lumière les mécanismes très concrets des arnaques sentimentales, renforcées par les faux profils et les contenus numériques trompeurs.
Une Française de 53 ans affirme avoir été dépouillée de près de 850 000 dollars par des escrocs se faisant passer pour Brad Pitt avec l’aide de contenus attribués à l’IA. Cette affaire rappelle comment les arnaques sentimentales exploitent l’isolement, l’urgence et la confiance, bien avant la technologie elle-même.
Les échanges avec ChatGPT peuvent contribuer à l’amélioration des modèles dans les offres grand public. Un réglage permet de s’y opposer. Voici où le trouver, ce qu’il change réellement, et les précautions à conserver pour ne pas exposer d’informations personnelles ou professionnelles sensibles.
Les modèles de langage ne sont plus seulement des interfaces de conversation : intégrés à des agents capables d’utiliser des outils et des données, ils élargissent la surface d’attaque des organisations. Injections de prompts, altération des jeux de données, dépendances tierces et vol de modèles imposent une sécurité pensée à chaque étape.
À 21 ans, Olga Loiek découvre que son visage alimente des vidéos générées par IA, où de faux avatars russes parlent chinois et vantent la coopération entre la Russie et la Chine. Cette usurpation, suivie par des centaines de milliers d’internautes, illustre la facilité avec laquelle une identité peut devenir un outil d’influence et de vente.
En cybersécurité, l’intelligence artificielle ne lit pas l’avenir, mais elle peut repérer des comportements inhabituels bien avant qu’une attaque ne produise ses effets. Analyse des journaux, détection d’anomalies, tri des alertes : cette vigilance algorithmique renforce les équipes, à condition de garder l’humain aux commandes.
Les professionnels de la cybersécurité voient dans l’IA générative un renfort potentiel face à des attaques toujours plus complexes. Mais l’enquête commandée par CrowdStrike révèle une condition claire : les outils doivent être spécialisés, intégrés aux plateformes existantes et conçus pour préserver les données sensibles.
Le Fonds pour la sécurité de l’IA, ou AISF, ouvre un appel à projets consacré aux risques cyber des modèles avancés. Les équipes retenues pourront recevoir entre 350 000 et 600 000 dollars pour mieux évaluer les vulnérabilités, les capacités offensives et les moyens de déployer l’IA de façon plus sûre.
Les campagnes de phishing visant Gmail gagnent en crédibilité avec l’intelligence artificielle, capable de produire de faux messages, voix et vidéos convaincants. Fin 2024, la meilleure défense reste une vérification méthodique : ne pas céder à l’urgence, contrôler la demande par un canal officiel et sécuriser l’accès au compte.
Des chercheurs ont montré que des instructions dissimulées dans des pages web pouvaient influencer les réponses de ChatGPT Search. Ces manipulations posent un problème de fiabilité, notamment pour les avis, les recommandations et le code. Face à un outil parfois trop sûr de lui, la vérification humaine reste indispensable.
La série Dairy Directions met la cybersécurité au premier plan des préoccupations du secteur laitier. Face au phishing, aux risques de la chaîne d’approvisionnement et à la montée de l’IA générative, les entreprises doivent protéger leurs données, leurs infrastructures et la continuité de leurs activités.
Vidéos truquées, voix clonées, images fabriquées : les deepfakes fragilisent la confiance en ligne. Meta veut faire de Facebook et Instagram des outils de détection et d’information, notamment avec l’étiquette « Made with AI ». Mais un marquage ne suffit pas à dire si une publication est vraie : la modération et l’esprit critique restent décisifs.
Pour la douzième année de suite, la cybersécurité arrive en tête des priorités des directeurs informatiques des États américains interrogés par la NASCIO. L’intelligence artificielle progresse toutefois rapidement, notamment pour automatiser les services publics et repérer les menaces, sans pouvoir se substituer aux fondamentaux de la sécurité.
L’intelligence artificielle facilite la création de faux profils et de contenus qui exploitent l’image de femmes sans leur accord. Derrière certains modèles de monétisation, la promesse d’un revenu rapide peut dissimuler une usurpation d’identité, aux conséquences durables pour les victimes.
Microsoft a corrigé quatre vulnérabilités affectant plusieurs de ses services cloud et professionnels. L’une d’elles, dans Partner Center, était déjà exploitée dans des attaques. Si la plupart des correctifs sont déployés côté Microsoft, les utilisateurs de Dynamics 365 Sales sur mobile doivent installer une version précise de l’application.
La start-up texane Halcyon annonce une levée de fonds de 100 millions de dollars pour développer sa protection contre les ransomwares. Cette série C porte ses financements cumulés à 190 millions de dollars et sa valorisation au-delà du milliard. Son approche associe détection par IA, prévention sur les postes et récupération de clés de chiffrement.
Face à l’usage croissant de l’intelligence artificielle dans les opérations offensives, le Royaume-Uni met sur pied le LASR, un laboratoire de recherche consacré à la sécurité de l’IA. Doté de 8,22 millions de livres sterling, il réunira services de renseignement, chercheurs et industriels pour mieux anticiper les attaques.
Le gouvernement britannique veut renforcer sa défense face aux usages malveillants de l’intelligence artificielle. Le 25 novembre 2024, Pat McFadden a alerté sur une compétition stratégique avec la Russie et annoncé le lancement du LASR, un laboratoire consacré à la sécurité de l’IA et à la résilience cybernétique.
Le ministre britannique Pat McFadden alerte sur l’emploi possible de l’intelligence artificielle par la Russie pour renforcer ses opérations de cybersabotage. Face au risque pesant sur les infrastructures critiques, Londres annonce un laboratoire de recherche dédié à la sécurité de l’IA, doté de 8,2 millions de livres.
Les petites communes françaises restent très peu armées face aux cybermenaces, tandis qu’Auchan et un établissement de santé font face à des fuites de données. Cette semaine du 24 novembre 2024 met aussi en lumière l’essor de l’IA dans la défense informatique et le soutien de l’État à l’innovation cyber.
L’intelligence artificielle abaisse les barrières techniques pour les escrocs, les auteurs de sextorsion et les réseaux d’exploitation sexuelle des enfants. Le responsable britannique Alex Murray alerte sur des contenus générés à la demande, des fraudes plus crédibles et une police confrontée à des outils accessibles, réalistes et mondialisés.
Lors de l’European Cyber Week, l’État a dévoilé douze lauréats de l’appel à projets France 2030 consacré aux technologies critiques de cybersécurité. Les initiatives soutenues vont de la cartographie des actifs numériques à l’audit de modèles de langage, avec une attention particulière aux besoins de l’assurance, des entreprises et des réglementations européennes.
Face aux appels frauduleux, Virgin Media O2 mise sur une riposte inattendue : Daisy, une IA qui joue une grand-mère bavarde et désorientée. Son objectif n’est pas de convaincre les escrocs, mais de retenir leur ligne le plus longtemps possible. Voici son fonctionnement, ses limites et les réflexes utiles en France.
Le Département de la sécurité intérieure américain propose un cadre volontaire pour utiliser l’IA sans fragiliser les services essentiels. Le document répartit les responsabilités entre fournisseurs cloud, concepteurs de systèmes, opérateurs d’infrastructures, pouvoirs publics et société civile, face à trois grandes familles de risques.
Une nouvelle compromission chez Schneider Electric, une IA de Google qui repère une faille inconnue et l’enquête de Sophos sur des attaques sophistiquées résument une semaine sous haute tension. Ces cinq actualités montrent aussi pourquoi la cybersécurité ne se limite ni aux grandes entreprises ni aux seuls experts.
Fortinet annonce, le 7 novembre 2024, deux nouvelles intégrations de son assistant d’IA générative FortiAI. Elles visent FortiNDR Cloud, pour la recherche de menaces, et Lacework FortiCNAPP, pour aider les équipes SOC à interpréter et traiter les alertes de sécurité.
Google affirme que son agent d’intelligence artificielle Big Sleep a identifié une vulnérabilité inédite dans SQLite, un moteur de base de données très répandu. Corrigée avant d’intégrer une version officielle du logiciel, la faille illustre le potentiel de l’IA pour repérer plus tôt des erreurs de sécurité difficiles à atteindre.
Photographier une IRM affichée à l’écran puis en altérer le contenu n’exige plus forcément de compétences avancées. À l’automne 2024, la diffusion d’outils d’IA générative sur smartphone pose un défi de confiance inédit pour les images médicales, les diagnostics et la sécurité des patients.
ByteDance, maison mère de TikTok, a licencié un stagiaire accusé d’avoir interféré avec l’entraînement d’un modèle d’IA. Des chiffres spectaculaires ont circulé sur les GPU touchés et le coût de l’incident. Ils doivent être distingués des éléments confirmés publiquement par l’entreprise.
