Rubrique
Arnaques, deepfakes malveillants, attaques et protection des données : les risques liés à l’IA et comment s’en prémunir. 163 articles
Les deepfakes rendent les images et les voix plus convaincantes que jamais, mais ils ne doivent pas devenir une preuve d’identité. Signes visuels, vérification par un autre canal, règles de sécurité en entreprise : ce guide explique comment réagir face à un contenu ou une demande qui semble authentique, mais ne l’est peut-être pas.
Une base de données de DeepSeek, accessible sans authentification, a exposé des historiques de requêtes et des clés secrètes. Au même moment, l’Union européenne a inscrit trois agents russes sur sa liste de sanctions cyber. Deux dossiers distincts qui illustrent la pression croissante sur la sécurité des données et des infrastructures numériques.
Au Massachusetts, un homme a plaidé coupable après une longue campagne d’usurpation d’identité visant une professeure. Des chatbots conversationnels ont servi, selon le dossier, à dialoguer sous son nom et à faire venir des inconnus à son domicile, révélant la gravité du harcèlement assisté par IA.
Des groupes liés à des États ont testé des outils d’IA générative pour accélérer leurs recherches, rédiger des leurres et affiner certaines tâches techniques. Ces usages rendent les campagnes d’infiltration plus convaincantes, mais l’IA ne contourne pas seule les protections : la vigilance humaine et l’authentification restent décisives.
En combinant un hologramme, un liquide et un réseau de neurones, des chercheurs proposent une forme de chiffrement où la lumière brouillée devient la protection. Le dispositif a récupéré des images codées avec un taux de 90 à 95 %, mais son passage à l’échelle reste confronté aux contraintes des lasers.
Des chercheurs de Wiz ont identifié une base ClickHouse de DeepSeek ouverte sur Internet sans authentification. Elle donnait accès à plus d’un million de journaux, comprenant des historiques de conversations et des clés secrètes. L’incident rappelle que la confidentialité d’un assistant IA dépend aussi de l’infrastructure qui l’héberge.
Des chercheurs de Wiz ont découvert une base de données DeepSeek accessible sans authentification. Elle contenait plus d’un million d’entrées, avec des historiques de conversations, des journaux techniques et des secrets d’API. L’accès a été fermé moins d’une heure après le signalement, mais l’épisode pose une question centrale : que deviennent nos échanges avec les IA ?
Une base de données interne de DeepSeek a été accessible publiquement, selon les chercheurs de Wiz. Plus d’un million de journaux non chiffrés, incluant des historiques de conversations et des clés API, pouvaient être consultés sans authentification. L’incident rappelle que la sécurité des outils d’IA repose aussi sur la protection de leurs infrastructures.
Pour mieux protéger leurs outils d’intelligence artificielle, les organisations doivent apprendre à raisonner comme leurs adversaires. La modélisation de l’intelligence adverse consiste à simuler les tactiques d’attaque afin d’identifier les failles avant leur exploitation. Une approche utile, à condition de l’encadrer par une gouvernance, des contrôles humains et une veille continue.
Confrontée à des attaques malveillantes à grande échelle, DeepSeek a temporairement restreint la création de comptes aux numéros de téléphone chinois. Les utilisateurs déjà inscrits conservent leur accès, mais l’épisode révèle la difficulté de sécuriser un service d’IA qui connaît une croissance soudaine.
Le règlement européen DORA est applicable depuis le 17 janvier 2025 et impose une résilience numérique renforcée au secteur financier. Cette semaine est aussi marquée par le rachat de la française Secure-IC par Cadence, l’offensive de Cisco dans la sécurité de l’IA et des recompositions du marché.
Une vulnérabilité touchant les pare-feu Fortinet mobilise les entreprises et l’Anssi. Dans le même temps, la justice américaine valide la loi visant TikTok, Kiabi signale une fuite de données et Microsoft poursuit des cybercriminels accusés de détourner ses outils d’IA.
Des publicités truquées imitent la voix et le visage de Cyprien pour promouvoir des applications mobiles douteuses. Dans son court-métrage Ne croyez pas la vidéo, vu près de 2 millions de fois, le vidéaste alerte sur ces deepfakes, appelle les internautes à la prudence et annonce vouloir engager des poursuites.
L’intelligence artificielle élargit la surface d’attaque des entreprises, des données d’entraînement jusqu’aux réponses fournies par les assistants. Cisco estime que la protection ne peut plus reposer sur un contrôle ponctuel : les modèles doivent être évalués en continu, y compris dans les environnements qui en combinent plusieurs.
Une Française de 53 ans, présentée sous le prénom d’Anne, affirme avoir versé 830 000 euros à un escroc se faisant passer pour Brad Pitt. Images générées par IA, messages amoureux et demandes d’argent ont nourri une manipulation qui aurait aussi provoqué son divorce. Cette affaire rappelle les mécanismes des arnaques sentimentales en ligne.
Une Française de 53 ans affirme avoir perdu près de 830 000 euros après avoir été manipulée par des escrocs se faisant passer pour Brad Pitt. Derrière l’histoire spectaculaire, cette affaire met en lumière les mécanismes très concrets des arnaques sentimentales, renforcées par les faux profils et les contenus numériques trompeurs.
Une Française de 53 ans affirme avoir été dépouillée de près de 850 000 dollars par des escrocs se faisant passer pour Brad Pitt avec l’aide de contenus attribués à l’IA. Cette affaire rappelle comment les arnaques sentimentales exploitent l’isolement, l’urgence et la confiance, bien avant la technologie elle-même.
Les échanges avec ChatGPT peuvent contribuer à l’amélioration des modèles dans les offres grand public. Un réglage permet de s’y opposer. Voici où le trouver, ce qu’il change réellement, et les précautions à conserver pour ne pas exposer d’informations personnelles ou professionnelles sensibles.
Les modèles de langage ne sont plus seulement des interfaces de conversation : intégrés à des agents capables d’utiliser des outils et des données, ils élargissent la surface d’attaque des organisations. Injections de prompts, altération des jeux de données, dépendances tierces et vol de modèles imposent une sécurité pensée à chaque étape.
À 21 ans, Olga Loiek découvre que son visage alimente des vidéos générées par IA, où de faux avatars russes parlent chinois et vantent la coopération entre la Russie et la Chine. Cette usurpation, suivie par des centaines de milliers d’internautes, illustre la facilité avec laquelle une identité peut devenir un outil d’influence et de vente.
En cybersécurité, l’intelligence artificielle ne lit pas l’avenir, mais elle peut repérer des comportements inhabituels bien avant qu’une attaque ne produise ses effets. Analyse des journaux, détection d’anomalies, tri des alertes : cette vigilance algorithmique renforce les équipes, à condition de garder l’humain aux commandes.
Les professionnels de la cybersécurité voient dans l’IA générative un renfort potentiel face à des attaques toujours plus complexes. Mais l’enquête commandée par CrowdStrike révèle une condition claire : les outils doivent être spécialisés, intégrés aux plateformes existantes et conçus pour préserver les données sensibles.
Le Fonds pour la sécurité de l’IA, ou AISF, ouvre un appel à projets consacré aux risques cyber des modèles avancés. Les équipes retenues pourront recevoir entre 350 000 et 600 000 dollars pour mieux évaluer les vulnérabilités, les capacités offensives et les moyens de déployer l’IA de façon plus sûre.
Les campagnes de phishing visant Gmail gagnent en crédibilité avec l’intelligence artificielle, capable de produire de faux messages, voix et vidéos convaincants. Fin 2024, la meilleure défense reste une vérification méthodique : ne pas céder à l’urgence, contrôler la demande par un canal officiel et sécuriser l’accès au compte.
