IA et cybersécurité : pourquoi la course au déploiement fragilise les données

L’intelligence artificielle s’installe à grande vitesse dans les logiciels professionnels, les services publics et les usages du quotidien. Cette dynamique apporte des outils de recherche, d’automatisation et d’analyse puissants. Mais elle peut aussi élargir la surface d’attaque d’une organisation lorsque les données, les accès et les décisions sont confiés à un système mal évalué. En février 2025, l’enjeu n’est donc plus seulement d’adopter l’IA, mais de savoir dans quelles conditions le faire sans affaiblir la sécurité des informations.

La course à l’innovation pousse de nombreuses entreprises à présenter des produits « alimentés par l’IA ». Or, ajouter un assistant conversationnel, relier un modèle à une base documentaire ou automatiser une tâche métier ne constitue pas une simple mise à jour technique. Chaque connexion peut créer un nouveau chemin vers des informations sensibles, ou donner au modèle la capacité d’agir sur un système. Dans la banque, la santé ou la défense, où les données et les conséquences d’une erreur sont particulièrement importantes, cette question devient centrale.

Une adoption rapide peut ouvrir de nouvelles failles

Un système d’IA n’est pas isolé. Pour être utile, il doit généralement recevoir des documents, consulter une base de données, communiquer avec des logiciels internes ou répondre à des utilisateurs. Ces échanges sont autant de points à examiner. Si les droits d’accès sont trop larges, si les données ne sont pas suffisamment protégées ou si le prestataire est mal connu, l’outil peut devenir une porte d’entrée supplémentaire pour un attaquant.

Le risque ne vient pas uniquement du modèle lui-même. Il dépend de tout son environnement : l’application qui l’intègre, les personnes autorisées à l’utiliser, les données qu’elles lui transmettent, les connecteurs vers d’autres logiciels et les règles de conservation des échanges. Une entreprise peut ainsi disposer d’un modèle performant tout en créant une vulnérabilité par une configuration hâtive.

L’erreur la plus fréquente consiste à traiter un outil conversationnel comme un moteur de recherche classique. Lorsqu’un salarié colle un contrat, un dossier médical, un code informatique ou une information financière dans une interface en ligne, il doit se demander ce que devient ce contenu : est-il conservé, où est-il hébergé, qui peut y accéder et peut-il servir à améliorer le service ? Ces interrogations devraient précéder l’usage, et non apparaître après une fuite.

Injections, jailbreaks, exfiltration : de quoi parle-t-on ?

Les menaces associées à l’IA ont des noms parfois techniques, mais elles décrivent souvent des mécanismes simples. Les modèles génératifs sont conçus pour interpréter des instructions et produire une réponse plausible. Des personnes malveillantes peuvent chercher à détourner cette capacité, soit en formulant des requêtes destinées à contourner les règles, soit en cachant des instructions dans des contenus que le modèle doit lire.

Le tableau ci-dessous distingue plusieurs risques régulièrement évoqués dans les déploiements d’IA générative.

L’injection de prompt est particulièrement importante lorsque l’IA lit des fichiers, des courriels ou des pages web. Une consigne placée dans ce contenu peut tenter de persuader l’assistant de faire autre chose que ce qui était prévu. Si l’assistant peut ensuite accéder à des données ou exécuter une action, les conséquences peuvent dépasser la simple production d’un mauvais texte.

Le jailbreak, lui, désigne les tentatives visant à contourner les limitations imposées par le fournisseur du modèle. Aucun garde-fou n’est infaillible. Les organisations doivent donc éviter de confier à un modèle seul des décisions irréversibles ou des autorisations trop larges. La sécurité ne peut pas reposer sur la seule promesse qu’un chatbot refusera une demande problématique.

Enfin, l’exfiltration de données désigne la sortie non autorisée d’informations. Dans le contexte de l’IA, elle peut provenir d’un pirate, d’une mauvaise configuration, d’une intégration insuffisamment contrôlée ou d’un usage imprudent par un collaborateur. Une fois qu’une donnée confidentielle a été copiée hors de l’environnement prévu, il devient très difficile d’en reprendre le contrôle.

DeepSeek, un cas qui a ravivé les inquiétudes

Le chatbot chinois DeepSeek a illustré, au début de l’année 2025, les préoccupations croissantes sur la sécurité et la confidentialité des services d’IA. Les interrogations portent notamment sur la protection des échanges et sur le traitement de données susceptibles d’être routées vers des entités situées en Chine. Pour les utilisateurs, le sujet dépasse les seules performances du modèle : il concerne aussi le lieu de stockage des informations et les conditions dans lesquelles elles sont traitées.

La politique de confidentialité du service indique que les informations collectées sont stockées sur des serveurs situés en République populaire de Chine. Cette donnée ne permet pas, à elle seule, de qualifier tous les usages de dangereux. Elle impose en revanche une évaluation claire aux organisations qui manipulent des informations sensibles, régulées ou stratégiques. Elles doivent savoir quelles données sont transmises, à quel fournisseur et sous quelle juridiction elles sont conservées.

Le 31 janvier 2025, le gouverneur du Texas, Greg Abbott, a annoncé l’interdiction de DeepSeek et de RedNote sur les appareils du gouvernement de l’État. Cette décision illustre une réponse fondée sur la réduction du risque dans les environnements administratifs. Elle ne règle pas pour autant toute la question : l’utilisation d’outils d’IA sur des appareils personnels ou hors des réseaux officiels peut aussi exposer des documents de travail, si les règles internes sont floues ou ignorées.

Passer de la frénésie à une approche par les risques

La sécurité ne suppose pas de renoncer à l’IA. Elle demande de choisir les usages avec discernement, de les tester avant une généralisation et d’ajuster les protections à la sensibilité des informations concernées. Un assistant chargé de reformuler un texte public n’appelle pas le même niveau de contrôle qu’un outil relié à des dossiers médicaux ou à une base de clients.

Une démarche utile commence par un inventaire simple : quel outil est utilisé, par qui, pour quelle tâche, avec quelles données et quels droits d’accès ? Cette cartographie permet de repérer les situations à risque, notamment les assistants connectés à des bases documentaires ou capables de lancer des actions dans un logiciel métier.

Les organisations peuvent ensuite classer leurs usages selon leur criticité. Les données personnelles, financières, médicales, juridiques ou relevant du secret des affaires exigent des précautions renforcées. Les décisions qui affectent directement un client, un patient ou un salarié doivent également conserver une supervision humaine adaptée.

Les protections concrètes à mettre en place

Une politique de sécurité de l’IA ne se limite pas à interdire quelques services. Elle doit combiner des mesures techniques, organisationnelles et humaines. La première règle est celle du moindre privilège : un assistant ne doit accéder qu’aux données et aux fonctions strictement nécessaires à sa mission. Lui ouvrir toute une base documentaire ou lui donner la possibilité d’envoyer des messages sans validation augmente inutilement le risque.

Le chiffrement des données sensibles, la gestion rigoureuse des identités et la journalisation des accès restent des fondations essentielles. Il faut aussi pouvoir savoir qui a utilisé un outil, quelles données y ont été importées et quelles actions ont été effectuées. Ces traces sont précieuses pour détecter un incident et en mesurer l’ampleur.

Avant de déployer un service, les équipes informatiques et de sécurité ont intérêt à le soumettre à des tests réalistes. Il s’agit notamment d’essayer des injections de prompts, des tentatives de contournement et des scénarios où un contenu malveillant est introduit dans les documents que l’assistant consulte. Ces exercices ne garantissent pas l’absence de faille, mais ils révèlent souvent les accès excessifs et les comportements inattendus.

La formation est tout aussi déterminante. Les salariés doivent savoir qu’un chatbot public n’est pas nécessairement un espace approprié pour des documents internes. Ils doivent également reconnaître les limites d’une réponse générée, signaler un comportement suspect et connaître les outils autorisés par leur organisation. La sensibilisation du grand public répond à la même logique : avant de partager une donnée personnelle, il faut comprendre pourquoi elle est demandée et ce qu’elle peut devenir.

La transparence, condition de la confiance

La confiance dans l’IA ne peut pas reposer sur une adhésion aveugle à la nouveauté. Les entreprises qui fournissent ou déploient ces services ont la responsabilité d’expliquer clairement où les données sont hébergées, combien de temps elles sont conservées, quels sous-traitants interviennent et quelles mesures de sécurité protègent les échanges.

Cette transparence est utile à plusieurs niveaux. Elle permet aux responsables informatiques de sélectionner un service compatible avec leurs contraintes. Elle donne aux utilisateurs les éléments nécessaires pour décider s’ils peuvent y transmettre une information. Elle facilite aussi la responsabilité en cas d’incident : sans visibilité sur les flux de données et les accès, il devient difficile de comprendre ce qui s’est passé et de corriger la faille.

Les pouvoirs publics ont un rôle à jouer par l’établissement de règles de sécurité et de protection de la vie privée. Les interdictions ciblées, comme celle décidée au Texas pour les appareils gouvernementaux, peuvent réduire une exposition précise. À plus long terme, la question porte aussi sur les standards communs, les exigences de transparence et les mécanismes permettant de vérifier que les promesses de sécurité sont effectivement tenues.

Ce qu’il faut surveiller

L’IA générative va continuer à se diffuser dans les outils de travail et les services numériques. L’enjeu des prochains déploiements sera moins de savoir si les organisations utilisent l’IA que de déterminer quelles données elles lui confient, quelles actions elles lui permettent d’effectuer et quels contrôles elles maintiennent.

La coopération entre fournisseurs, entreprises, experts en cybersécurité et autorités publiques sera essentielle pour faire évoluer les protections face à des menaces qui changent rapidement. Pour les utilisateurs comme pour les décideurs, la bonne attitude n’est ni l’enthousiasme sans réserve ni le rejet systématique. C’est une vigilance informée : comprendre l’outil, limiter les données partagées, vérifier les garanties proposées et prévoir la réponse à un incident avant qu’il ne survienne.