Cybersécurité et IA : pourquoi tant d’organisations restent insuffisamment préparées

L’intelligence artificielle ne transforme pas seulement les logiciels de défense. Elle donne aussi aux attaquants la capacité de rédiger, traduire, personnaliser et diffuser leurs pièges à grande échelle. Pour les entreprises, les administrations et les associations, le risque ne consiste donc pas uniquement à empêcher une intrusion : il faut également comprendre où l’IA est utilisée, quelles données elle manipule et comment une attaque pourrait contourner les protections existantes.

Le constat est préoccupant. Les cyberattaques auraient connu une croissance de près de 600 % durant la pandémie de Covid-19, selon le chiffre cité dans la publication d’origine. L’essor des usages numériques a élargi les surfaces d’attaque, notamment avec le travail à distance, le recours accru aux services en ligne et la multiplication des comptes et appareils connectés. L’IA s’inscrit dans ce contexte : elle ne crée pas toutes les menaces, mais elle peut en accélérer et en affiner l’exécution.

L’IA rend-elle les cyberattaques plus dangereuses ?

Oui, surtout parce qu’elle réduit le coût et le temps nécessaires pour préparer certaines opérations malveillantes. Les attaques ne deviennent pas automatiquement indétectables ou infaillibles. En revanche, un fraudeur peut s’en servir pour produire des messages dans une langue irréprochable, adapter un scénario à l’activité d’une entreprise ou tester rapidement de nombreuses variantes d’un même leurre.

Le phishing, ou hameçonnage, illustre particulièrement ce changement. Cette technique vise à pousser une personne à communiquer un mot de passe, ouvrir une pièce jointe, verser de l’argent ou cliquer sur un lien malveillant. Les fautes grossières et les formulations maladroites constituaient parfois des signaux d’alerte faciles à repérer. Avec des outils génératifs, les courriels frauduleux peuvent désormais être plus cohérents, mieux contextualisés et rédigés dans la langue de leur destinataire.

L’IA peut également aider à automatiser des tâches répétitives dans une campagne : reformuler un message, créer plusieurs versions destinées à des publics différents ou analyser des informations publiques pour rendre un prétexte crédible. Cela ne dispense pas les attaquants de trouver une faille, mais cela leur permet de concentrer davantage d’efforts sur les cibles qui répondent.

Le manque de personnel fragilise la réponse aux incidents

La technologie ne remplace pas les équipes chargées de la sécurité. Or, plus de 60 % des professionnels européens de la cybersécurité considèrent que leur équipe ne dispose pas de suffisamment de ressources humaines pour faire face à la flambée des attaques, d’après les données citées dans la publication d’origine.

Ce déficit a des effets très concrets. Une équipe sous pression doit trier les alertes, traiter les vulnérabilités signalées, vérifier les accès, accompagner les utilisateurs et enquêter lorsqu’un comportement paraît anormal. Si les capacités manquent, les correctifs peuvent être installés trop tard, les droits d’accès obsolètes restent actifs et les signaux faibles se perdent dans le volume des événements techniques.

L’arrivée d’outils d’IA dans l’organisation ajoute du travail plutôt qu’elle n’en retire systématiquement. Il faut décider quels usages sont autorisés, évaluer les prestataires, identifier les informations qu’un salarié peut saisir dans un assistant, surveiller les connexions entre les outils et les systèmes internes, puis savoir réagir en cas de fuite. Ces missions exigent des compétences techniques, mais aussi des responsables métiers, juridiques et des ressources humaines.

Une erreur fréquente serait de croire qu’un logiciel de détection suffit à combler le manque. Les outils peuvent aider à prioriser des alertes ou à repérer des anomalies. Mais il faut toujours des personnes capables d’interpréter le signal, de décider si une action est légitime et de coordonner la réponse sans bloquer inutilement l’activité.

Les menaces internes ne doivent pas être réduites à la malveillance

Une cyberattaque ne vient pas forcément de l’extérieur. Un salarié, un prestataire ou un ancien collaborateur disposant d’un accès peut provoquer un incident par négligence, erreur ou acte volontaire. La publication d’origine rappelle que ces menaces d’initiés sont souvent sous-estimées et renvoie notamment au rapport Verizon de 2019.

Le cas le plus évident est celui d’une personne qui abuse délibérément de ses privilèges. Mais le risque quotidien tient souvent à des gestes beaucoup plus ordinaires : transmettre un document au mauvais destinataire, conserver un compte actif après un changement de poste, réutiliser un mot de passe ou copier dans un outil d’IA public des données confidentielles pour résumer un texte ou préparer une présentation.

Les organisations doivent donc éviter deux écueils. Le premier serait de surveiller indistinctement tous les salariés, ce qui peut porter atteinte à la vie privée et détériorer la confiance. Le second serait de considérer qu’un accès accordé une fois est nécessairement justifié indéfiniment. La bonne pratique consiste à donner à chacun les seuls droits nécessaires à sa fonction, à revoir régulièrement ces droits et à journaliser les actions sensibles.

Que sont les attaques par évasion contre une IA ?

Les attaques par évasion, appelées evasion attacks en anglais, visent un système d’IA déjà déployé. Leur principe est de fournir une entrée conçue pour contourner le comportement ou les contrôles attendus. Autrement dit, au lieu d’attaquer uniquement le réseau ou le poste de travail, l’adversaire cherche à tromper le modèle lui-même.

Dans le cas d’un système qui analyse des contenus, l’attaquant peut tenter de présenter des données de manière à ne pas être détecté. Dans le cas d’un assistant conversationnel relié à des documents ou à des outils internes, il peut chercher à lui faire ignorer des consignes, révéler des informations auxquelles il ne devrait pas accéder ou effectuer une action non prévue. Ces situations dépendent fortement de la manière dont l’outil a été conçu, paramétré et connecté au reste du système d’information.

La défense ne consiste pas à faire entièrement confiance aux réponses d’un modèle. Avant le déploiement, les organisations doivent tester le système avec des scénarios hostiles et des requêtes inhabituelles. Elles doivent aussi limiter les données et les actions auxquelles l’outil peut accéder. Un assistant qui peut lire tous les dossiers de l’entreprise ou déclencher des opérations sensibles sans validation humaine présente un risque plus élevé qu’un outil limité à une base documentaire soigneusement sélectionnée.

Pourquoi une politique d’IA est devenue un élément de sécurité

Au Canada, environ 68 % des organisations déclarent ne disposer d’aucune politique relative à l’IA, selon le chiffre rapporté dans la publication d’origine. Ce type d’absence ne signifie pas forcément que les salariés n’utilisent pas d’outils d’IA. Au contraire, il peut révéler que les usages se développent sans règles communes, au gré des initiatives individuelles ou des abonnements souscrits par les équipes.

Une politique utile ne doit pas être un document abstrait rangé dans un dossier. Elle répond à des questions simples et opérationnelles :

• quels outils sont autorisés pour un usage professionnel ;
• quelles informations ne doivent jamais être saisies dans un service d’IA externe ;
• qui valide la mise en service d’un nouvel outil et ses connexions aux données internes ;
• quelles vérifications sont exigées avant d’utiliser une réponse générée ;
• comment signaler une erreur, une fuite présumée ou un comportement inhabituel.

Cette gouvernance est également une question de conformité. Dans l’Union européenne, le règlement sur l’intelligence artificielle, ou AI Act, est entré en vigueur le 1er août 2024. Il instaure un cadre fondé sur le niveau de risque des systèmes. En parallèle, les obligations de cybersécurité ne disparaissent pas : la directive NIS2 doit être transposée par les États membres au plus tard le 17 octobre 2024. Les organisations concernées ont intérêt à traiter ces sujets ensemble, car un système d’IA mal sécurisé peut aussi devenir une source de risques réglementaires et opérationnels.

La réglementation fixe un cadre et peut encourager l’adoption de pratiques minimales. Elle ne remplace toutefois pas l’évaluation technique de chaque outil. Une entreprise conforme sur le papier reste vulnérable si elle laisse des comptes trop ouverts, si ses équipes ne savent pas reconnaître une fraude ou si elle n’a jamais testé sa capacité à répondre à un incident.

Comment améliorer concrètement sa préparation ?

Le premier objectif est de connaître son exposition réelle. Cela suppose de dresser un inventaire des outils d’IA utilisés par l’organisation, y compris ceux adoptés par les métiers sans validation centrale. Il faut ensuite déterminer quelles données sont consultées, stockées ou transmises à des fournisseurs externes, et quels systèmes peuvent être interrogés ou commandés par ces outils.

La préparation peut s’organiser autour de cinq priorités :

1. Former régulièrement les utilisateurs. Les simulations de phishing et les rappels ciblés doivent apprendre à vérifier une demande inhabituelle, pas seulement à repérer des fautes d’orthographe.
2. Protéger les identités. L’authentification multifacteur, la suppression rapide des comptes inutiles et la limitation des privilèges réduisent l’impact d’un mot de passe volé.
3. Séparer les données selon leur sensibilité. Les informations personnelles, financières, stratégiques ou couvertes par le secret des affaires ne doivent pas être introduites dans n’importe quel assistant.
4. Tester les systèmes d’IA avant et après leur déploiement. Les tests doivent chercher les contournements, les accès indus et les comportements imprévus, puis être répétés lorsque l’outil évolue.
5. Préparer la réponse à l’incident. Les responsables doivent savoir qui alerter, comment isoler un système, préserver les éléments utiles à l’enquête, restaurer l’activité et informer les personnes concernées.

Un plan de réponse n’est crédible que s’il a été exercé. Une simulation permet de révéler des questions très pratiques : qui peut couper un accès en dehors des heures de bureau, où se trouvent les sauvegardes, qui s’adresse aux clients ou aux autorités, et comment continuer à travailler si un outil essentiel est indisponible. Ces réponses doivent être définies avant une crise, non pendant celle-ci.

Ce qu’il faut surveiller

Le sujet central des prochains mois sera moins l’existence de l’IA dans les organisations que la maturité de son encadrement. Les équipes de sécurité devront suivre simultanément deux réalités : des attaquants capables de rendre les fraudes plus crédibles et des outils internes qui peuvent ouvrir de nouvelles voies d’accès aux données.

La coopération entre entreprises, autorités et pays est appelée à jouer un rôle important, car les campagnes malveillantes franchissent les frontières et les vulnérabilités d’un fournisseur peuvent toucher de nombreux clients. Mais cette coopération ne dispense aucune organisation de ses responsabilités immédiates.

Le bon réflexe n’est ni d’interdire indistinctement l’IA, ni de la déployer sans contrôle au nom de la productivité. Il consiste à associer innovation et sécurité dès le départ : identifier les risques, réduire les accès inutiles, former les personnes et prévoir une réponse rapide. C’est à cette condition que l’IA pourra soutenir la cybersécurité sans devenir elle-même un angle mort majeur.