Rubrique
Arnaques, deepfakes malveillants, attaques et protection des données : les risques liés à l’IA et comment s’en prémunir. 163 articles
Des chercheurs ont montré que des instructions dissimulées dans des pages web pouvaient influencer les réponses de ChatGPT Search. Ces manipulations posent un problème de fiabilité, notamment pour les avis, les recommandations et le code. Face à un outil parfois trop sûr de lui, la vérification humaine reste indispensable.
La série Dairy Directions met la cybersécurité au premier plan des préoccupations du secteur laitier. Face au phishing, aux risques de la chaîne d’approvisionnement et à la montée de l’IA générative, les entreprises doivent protéger leurs données, leurs infrastructures et la continuité de leurs activités.
Vidéos truquées, voix clonées, images fabriquées : les deepfakes fragilisent la confiance en ligne. Meta veut faire de Facebook et Instagram des outils de détection et d’information, notamment avec l’étiquette « Made with AI ». Mais un marquage ne suffit pas à dire si une publication est vraie : la modération et l’esprit critique restent décisifs.
Pour la douzième année de suite, la cybersécurité arrive en tête des priorités des directeurs informatiques des États américains interrogés par la NASCIO. L’intelligence artificielle progresse toutefois rapidement, notamment pour automatiser les services publics et repérer les menaces, sans pouvoir se substituer aux fondamentaux de la sécurité.
L’intelligence artificielle facilite la création de faux profils et de contenus qui exploitent l’image de femmes sans leur accord. Derrière certains modèles de monétisation, la promesse d’un revenu rapide peut dissimuler une usurpation d’identité, aux conséquences durables pour les victimes.
Microsoft a corrigé quatre vulnérabilités affectant plusieurs de ses services cloud et professionnels. L’une d’elles, dans Partner Center, était déjà exploitée dans des attaques. Si la plupart des correctifs sont déployés côté Microsoft, les utilisateurs de Dynamics 365 Sales sur mobile doivent installer une version précise de l’application.
La start-up texane Halcyon annonce une levée de fonds de 100 millions de dollars pour développer sa protection contre les ransomwares. Cette série C porte ses financements cumulés à 190 millions de dollars et sa valorisation au-delà du milliard. Son approche associe détection par IA, prévention sur les postes et récupération de clés de chiffrement.
Face à l’usage croissant de l’intelligence artificielle dans les opérations offensives, le Royaume-Uni met sur pied le LASR, un laboratoire de recherche consacré à la sécurité de l’IA. Doté de 8,22 millions de livres sterling, il réunira services de renseignement, chercheurs et industriels pour mieux anticiper les attaques.
Le gouvernement britannique veut renforcer sa défense face aux usages malveillants de l’intelligence artificielle. Le 25 novembre 2024, Pat McFadden a alerté sur une compétition stratégique avec la Russie et annoncé le lancement du LASR, un laboratoire consacré à la sécurité de l’IA et à la résilience cybernétique.
Le ministre britannique Pat McFadden alerte sur l’emploi possible de l’intelligence artificielle par la Russie pour renforcer ses opérations de cybersabotage. Face au risque pesant sur les infrastructures critiques, Londres annonce un laboratoire de recherche dédié à la sécurité de l’IA, doté de 8,2 millions de livres.
Les petites communes françaises restent très peu armées face aux cybermenaces, tandis qu’Auchan et un établissement de santé font face à des fuites de données. Cette semaine du 24 novembre 2024 met aussi en lumière l’essor de l’IA dans la défense informatique et le soutien de l’État à l’innovation cyber.
L’intelligence artificielle abaisse les barrières techniques pour les escrocs, les auteurs de sextorsion et les réseaux d’exploitation sexuelle des enfants. Le responsable britannique Alex Murray alerte sur des contenus générés à la demande, des fraudes plus crédibles et une police confrontée à des outils accessibles, réalistes et mondialisés.
Lors de l’European Cyber Week, l’État a dévoilé douze lauréats de l’appel à projets France 2030 consacré aux technologies critiques de cybersécurité. Les initiatives soutenues vont de la cartographie des actifs numériques à l’audit de modèles de langage, avec une attention particulière aux besoins de l’assurance, des entreprises et des réglementations européennes.
Face aux appels frauduleux, Virgin Media O2 mise sur une riposte inattendue : Daisy, une IA qui joue une grand-mère bavarde et désorientée. Son objectif n’est pas de convaincre les escrocs, mais de retenir leur ligne le plus longtemps possible. Voici son fonctionnement, ses limites et les réflexes utiles en France.
Le Département de la sécurité intérieure américain propose un cadre volontaire pour utiliser l’IA sans fragiliser les services essentiels. Le document répartit les responsabilités entre fournisseurs cloud, concepteurs de systèmes, opérateurs d’infrastructures, pouvoirs publics et société civile, face à trois grandes familles de risques.
Une nouvelle compromission chez Schneider Electric, une IA de Google qui repère une faille inconnue et l’enquête de Sophos sur des attaques sophistiquées résument une semaine sous haute tension. Ces cinq actualités montrent aussi pourquoi la cybersécurité ne se limite ni aux grandes entreprises ni aux seuls experts.
Fortinet annonce, le 7 novembre 2024, deux nouvelles intégrations de son assistant d’IA générative FortiAI. Elles visent FortiNDR Cloud, pour la recherche de menaces, et Lacework FortiCNAPP, pour aider les équipes SOC à interpréter et traiter les alertes de sécurité.
Google affirme que son agent d’intelligence artificielle Big Sleep a identifié une vulnérabilité inédite dans SQLite, un moteur de base de données très répandu. Corrigée avant d’intégrer une version officielle du logiciel, la faille illustre le potentiel de l’IA pour repérer plus tôt des erreurs de sécurité difficiles à atteindre.
Photographier une IRM affichée à l’écran puis en altérer le contenu n’exige plus forcément de compétences avancées. À l’automne 2024, la diffusion d’outils d’IA générative sur smartphone pose un défi de confiance inédit pour les images médicales, les diagnostics et la sécurité des patients.
ByteDance, maison mère de TikTok, a licencié un stagiaire accusé d’avoir interféré avec l’entraînement d’un modèle d’IA. Des chiffres spectaculaires ont circulé sur les GPU touchés et le coût de l’incident. Ils doivent être distingués des éléments confirmés publiquement par l’entreprise.
Face aux arnaques qui détournent l’image de célébrités, Meta remet la reconnaissance faciale à l’essai sur Facebook et Instagram. Le groupe veut repérer plus vite les publicités frauduleuses, souvent créées ou amplifiées par l’IA générative, tout en promettant des garde-fous sur les données biométriques.
Face au flux d’alertes et à la rapidité des attaques, l’intelligence artificielle aide les équipes de sécurité à trier les signaux et à agir plus tôt. Ces outils promettent de raccourcir les délais de réponse, à condition de rester supervisés, bien configurés et protégés contre leurs propres failles.
Autour de Yahya Sinwar, les images créées ou modifiées par l’IA illustrent une mutation du récit de guerre sur les réseaux sociaux. Plus réalistes et plus rapides à produire, elles peuvent soutenir une mise en scène politique, mais aussi brouiller la distinction entre document, montage et fiction.
À l’automne 2024, les responsables de la sécurité des systèmes d’information font face à une pression durable, tandis que les menaces d’intrusion se diversifient. Près de 24 % envisageraient de changer de poste. Voici cinq constats pour comprendre ce que cette tension révèle des priorités de cybersécurité des entreprises.
