Conformité de l’IA : passer de la veille réglementaire aux actions concrètes

L’intelligence artificielle entre dans les organisations par de multiples portes : un assistant conversationnel adopté par une équipe, un outil de tri de candidatures, un service cloud enrichi d’algorithmes ou un logiciel de sécurité capable de repérer une activité inhabituelle. Cette diffusion rapide a une conséquence très concrète : la conformité ne peut plus se limiter à lire des textes de loi ou à rédiger une charte générale. Elle suppose de savoir quels systèmes sont effectivement utilisés, avec quelles données, pour quelles décisions et sous le contrôle de qui.

À la date du 29 décembre 2024, les entreprises européennes approchent d’une première échéance importante. Le règlement européen sur l’intelligence artificielle, plus couramment appelé AI Act, est entré en vigueur le 1er août 2024. Ses règles ne s’appliquent toutefois pas toutes au même moment. Le 2 février 2025, certaines pratiques d’IA seront interdites dans l’Union européenne et les organisations devront aussi prendre des mesures pour assurer un niveau suffisant de culture de l’IA parmi les personnes qui utilisent ou exploitent ces systèmes.

Cette distinction est essentielle. Il ne s’agit pas d’une date à laquelle toute IA devrait soudain être certifiée conforme, mais du début d’un calendrier progressif. Pour les directions générales, informatiques, juridiques et de la sécurité, le défi consiste donc à transformer la veille réglementaire en procédures concrètes.

2025, première étape d’un calendrier qui s’étale sur plusieurs années

L’AI Act adopte une approche fondée sur le risque. Plus un système est susceptible d’affecter la sécurité, les droits fondamentaux ou l’accès d’une personne à une opportunité importante, plus les exigences sont élevées. Cette logique vise autant les entreprises qui développent une IA que celles qui l’achètent, l’intègrent ou l’utilisent dans leurs activités.

Le calendrier européen est progressif. Il donne aux organisations du temps pour adapter leurs pratiques, mais ce délai ne doit pas être confondu avec une période sans obligations.

L’échéance de février 2025 a donc une portée symbolique et opérationnelle. Elle oblige les entreprises à se demander si certains usages sont déjà incompatibles avec le droit européen, et si leurs collaborateurs savent reconnaître les limites d’un outil d’IA.

Quelles pratiques seront interdites par l’AI Act ?

Le règlement ne bannit pas l’intelligence artificielle en bloc. Il prohibe des utilisations considérées comme inacceptables au regard des droits fondamentaux. Le texte regroupe huit catégories d’interdictions, qui couvrent des pratiques parfois présentées comme neuf cas distincts selon la façon de les détailler.

Parmi elles figurent notamment la manipulation susceptible de causer un préjudice significatif, l’exploitation de vulnérabilités liées par exemple à l’âge ou au handicap, et la notation sociale. Cette dernière consiste à classer des personnes selon leur comportement social ou des caractéristiques personnelles, afin de leur appliquer un traitement défavorable sans rapport justifié avec le contexte initial.

Sont aussi visés certains usages de données biométriques : la constitution non ciblée de bases d’images faciales à partir d’images disponibles en ligne ou de vidéosurveillance, ainsi que des systèmes destinés à déduire des caractéristiques sensibles à partir de données biométriques. L’identification biométrique à distance et en temps réel dans les espaces accessibles au public par les autorités répressives est également très strictement encadrée, avec des exceptions limitées prévues par la loi.

La détection des émotions au travail ou dans les établissements d’enseignement fait également partie des pratiques interdites, hors raisons médicales ou de sécurité. Il faut bien distinguer cette technologie d’une enquête de satisfaction ou d’un outil d’analyse agrégée du climat social. Un système prétendant inférer l’état émotionnel d’une personne à partir de son visage, de sa voix ou de son comportement soulève des enjeux bien plus sensibles.

Enfin, les systèmes qui évaluent le risque qu’une personne commette une infraction sur la seule base d’un profilage ou de traits de personnalité sont prohibés. Ces règles rappellent une idée simple : une technologie techniquement possible n’est pas nécessairement acceptable dans une société démocratique.

Commencer par cartographier les usages réels de l’IA

La conformité commence rarement par un logiciel. Elle commence par un inventaire. Or, dans de nombreuses organisations, personne ne possède une vision complète des outils d’IA employés. Une équipe marketing peut recourir à un générateur de texte, un service client à un assistant de réponse, une direction des ressources humaines à une plateforme de présélection, tandis que les équipes techniques utilisent des assistants de programmation ou d’analyse.

Cette dispersion nourrit le phénomène de l’IT de l’ombre : des applications sont utilisées hors des processus officiels de validation informatique, parfois avec des données professionnelles. L’IA rend ce phénomène plus délicat encore, car un salarié peut copier dans une interface externe un extrait de contrat, une fiche client, du code, un document interne ou une information concernant un collègue sans toujours mesurer les conséquences.

Une cartographie utile répond à quelques questions concrètes :

• Quel outil est utilisé, par quel service et dans quel objectif ?
• Le système est-il développé en interne, acheté auprès d’un fournisseur ou accessible gratuitement en ligne ?
• Quelles données lui sont envoyées, et où sont-elles hébergées ou conservées ?
• Le résultat du système sert-il à informer un humain, à recommander une action ou à prendre une décision ayant un effet sur une personne ?
• Qui peut interrompre l’usage du système lorsqu’un problème est détecté ?

Un CASB, pour Cloud Access Security Broker, peut aider à identifier les services cloud utilisés dans une organisation et à appliquer des règles d’accès. Il ne résout pas à lui seul le problème de conformité, mais peut révéler des usages jusqu’alors invisibles. Cette visibilité permet ensuite à la direction informatique, au responsable de la protection des données et aux équipes métiers d’évaluer les risques au cas par cas.

Protéger les données des clients et des collaborateurs

La protection des données est l’un des points de contact les plus immédiats entre IA, cybersécurité et droit. Les systèmes génératifs ont besoin d’instructions, de documents ou d’exemples pour produire une réponse utile. Mais ces données d’entrée peuvent contenir des informations personnelles, confidentielles ou stratégiques.

Les outils de prévention des fuites de données, souvent désignés par l’acronyme DLP pour Data Loss Prevention, peuvent détecter des catégories d’informations sensibles, suivre leur circulation et, dans certains cas, bloquer leur envoi vers un service non autorisé. Les données bancaires, les identifiants, les dossiers médicaux, les informations de ressources humaines, les secrets d’affaires ou le code source peuvent ainsi faire l’objet de règles spécifiques.

Cette protection doit être pensée avant le déploiement, et non après un incident. Elle implique de savoir si les contenus transmis à un fournisseur peuvent être conservés, utilisés pour entraîner un modèle ou transférés hors de l’Union européenne. Elle suppose aussi de limiter les données au strict nécessaire. Demander à un assistant de résumer un contrat ne justifie pas forcément de lui transmettre l’intégralité d’un dossier contenant des informations non pertinentes.

Le RGPD apporte déjà plusieurs repères utiles : déterminer une finalité précise, définir une base légale, informer les personnes concernées, sécuriser les traitements et évaluer les risques élevés lorsque cela est nécessaire. L’IA ajoute une difficulté : les usages évoluent vite, et un outil initialement adopté pour rédiger des textes peut être détourné vers l’analyse de profils ou l’aide à une décision sensible.

Sécurité : les outils d’IA doivent aussi être défendus

La conformité ne se réduit pas à la vie privée. Un outil d’IA connecté aux données ou aux logiciels de l’entreprise devient une composante du système d’information, avec ses vulnérabilités. Les attaquants peuvent chercher à extraire des données, à contourner les garde-fous ou à faire produire au système des résultats trompeurs.

L’injection de prompt illustre ce risque. Il s’agit de consignes malveillantes formulées pour pousser un modèle à ignorer ses instructions initiales, à révéler des informations ou à accomplir une action non prévue. Le danger augmente lorsque l’IA est reliée à une base documentaire, à une messagerie, à un outil de gestion de la relation client ou à des fonctions capables d’agir dans un environnement informatique.

Des outils d’analyse du comportement des utilisateurs et des entités, appelés UEBA pour User and Entity Behavior Analytics, peuvent contribuer à repérer une activité inhabituelle : connexions anormales, volumes de téléchargement inattendus ou accès incohérents avec les habitudes observées. Ces mécanismes produisent des scores de risque liés à la sécurité d’un écosystème informatique.

Il ne faut pas les confondre avec la notation sociale interdite par l’AI Act. L’intention, le contexte, les données utilisées et les conséquences pour la personne comptent. Un signal de sécurité destiné à déclencher une vérification technique n’a pas la même nature qu’un classement général d’individus utilisé pour leur refuser un droit, un service ou une opportunité.

L’éthique se joue dans les choix de conception et d’usage

Les obligations réglementaires donnent un cadre minimal. L’éthique invite à aller plus loin, en examinant les effets réels d’un système sur les personnes. Un outil peut respecter une procédure interne tout en produisant des résultats inéquitables, opaques ou difficiles à contester.

Les entreprises ont intérêt à tester leurs systèmes sur des cas concrets : réponses erronées, biais envers certains groupes, contenus nuisibles, exposition de données ou décisions impossibles à expliquer. Dans les domaines sensibles, comme l’emploi, l’éducation, la finance, l’assurance ou la santé, il est particulièrement important de préserver une intervention humaine réelle et la possibilité de remettre en cause une décision.

L’enjeu dépasse la seule prévention des sanctions. Une étude commandée par la Confédération internationale des sociétés d’auteurs et compositeurs, la CISAC, et menée par PMP Strategy, estime que l’IA générative pourrait entraîner d’ici 2028 une perte potentielle de 24 % des revenus des créateurs de musique et de 21 % des revenus des créateurs audiovisuels. Ces chiffres soulignent que la conformité touche aussi aux équilibres économiques, aux droits d’auteur et à la juste rémunération des créateurs.

Ce qu’il faut surveiller avant février 2025

Pour les entreprises, la priorité n’est pas de promettre une conformité abstraite, mais de bâtir une capacité durable à gouverner l’IA. Cela passe par des responsabilités identifiées entre les métiers, l’informatique, la sécurité, les juristes et la protection des données. Il faut également documenter les décisions : pourquoi un outil a-t-il été choisi, quelles données peut-il recevoir, quelles limites lui sont imposées et comment un incident doit-il être traité ?

Les premières mesures à suivre sont claires : éliminer les usages interdits, former les personnes exposées aux outils d’IA, réduire les échanges de données sensibles, contrôler les applications non validées et prévoir une évaluation des cas les plus risqués. L’AI Act continuera ensuite de déployer ses effets jusqu’en 2027. Les organisations qui auront installé ces réflexes dès 2025 seront mieux préparées à concilier innovation, sécurité et respect des droits fondamentaux.