AI Act : les interdictions du 2 février 2025 et les priorités des entreprises

Le règlement européen sur l’intelligence artificielle, couramment appelé AI Act, franchit une première étape concrète le 2 février 2025. Six mois après son entrée en vigueur, le texte européen rend applicables ses premières règles : l’interdiction de certains usages de l’IA considérés comme inacceptables et une obligation de développer la culture de l’IA dans les organisations concernées.

Pour une entreprise, l’enjeu n’est pas de considérer toute intelligence artificielle comme interdite ou « à haut risque ». L’AI Act repose au contraire sur une logique graduée : plus un système est susceptible d’affecter la sécurité, les droits fondamentaux ou les décisions qui concernent une personne, plus ses obligations sont fortes. À cette date, la priorité consiste donc à repérer les usages prohibés, à organiser la formation des équipes et à préparer les prochaines échéances.

Ce qui s’applique à partir du 2 février 2025

L’AI Act est un règlement de l’Union européenne. À la différence d’une directive, il s’applique directement dans les États membres, même si les autorités nationales doivent encore mettre en place certains mécanismes de contrôle et de sanction.

Le 2 février 2025, deux ensembles de règles deviennent applicables : les interdictions visant les pratiques d’IA présentant un risque inacceptable et les dispositions sur la culture de l’IA, parfois désignée par l’expression anglaise AI literacy.

Cette obligation de culture de l’IA ne se résume pas à une sensibilisation théorique. Les fournisseurs de systèmes d’IA et les organisations qui les déploient doivent prendre des mesures pour que leur personnel, ainsi que les personnes qui agissent pour leur compte, disposent d’un niveau suffisant de connaissances. Le règlement invite à tenir compte des compétences techniques, de l’expérience, de la formation des personnes, du contexte d’utilisation et des publics susceptibles d’être affectés.

Dans les faits, une formation pertinente ne sera pas identique pour un salarié qui emploie un assistant rédactionnel, pour une équipe de ressources humaines évaluant un outil de tri de candidatures ou pour des ingénieurs responsables d’un système automatisé. Il s’agit de faire comprendre les capacités de l’outil, ses limites, ses erreurs possibles, les règles internes et les conséquences de son utilisation.

Quelles pratiques d’IA sont interdites ?

Le texte classe comme inacceptables plusieurs pratiques dont le potentiel d’atteinte aux personnes est jugé trop important. Certaines interdictions exigent une lecture attentive : elles ne visent pas toutes les technologies portant un nom similaire, mais des usages définis par leur finalité et leur contexte.

Parmi les pratiques prohibées figurent notamment :

• les techniques subliminales, manipulatrices ou trompeuses qui altèrent matériellement le comportement d’une personne et sont susceptibles de lui causer un préjudice important ;
• l’exploitation des vulnérabilités liées à l’âge, au handicap ou à une situation sociale ou économique afin de déformer le comportement d’une personne et de provoquer un préjudice important ;
• certains systèmes de scoring social, lorsqu’ils conduisent à un traitement défavorable non justifié ou disproportionné ;
• l’évaluation du risque qu’une personne commette une infraction pénale lorsqu’elle repose exclusivement sur le profilage ou sur l’évaluation de traits de personnalité ;
• la constitution ou l’enrichissement de bases de données de reconnaissance faciale par récupération non ciblée d’images de visages sur internet ou issues de caméras de vidéosurveillance ;
• la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, sauf exceptions liées à des motifs médicaux ou de sécurité ;
• certaines formes de catégorisation biométrique permettant de déduire des informations sensibles ;
• l’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, sous réserve d’exceptions très encadrées prévues par le règlement.

Le scoring social mérite une précision. Le règlement ne désigne pas simplement tout système qui attribue une note à un client ou à un utilisateur. Il vise un mécanisme utilisé pour évaluer ou classer des personnes sur la base de leur comportement social ou de caractéristiques personnelles, puis pour leur imposer un traitement préjudiciable dans un contexte sans rapport avec les données évaluées, ou disproportionné par rapport à ce comportement.

De même, la reconnaissance faciale n’est pas entièrement assimilable à une pratique interdite dans tous les contextes. L’AI Act distingue, selon les fonctions et les usages, la création de bases de données, l’identification biométrique à distance en temps réel dans l’espace public et les systèmes pouvant relever de la catégorie à haut risque. Cette distinction juridique est essentielle avant de qualifier un outil.

Usages interdits et systèmes à haut risque : ne pas confondre les catégories

L’expression « IA à haut risque » est souvent utilisée pour décrire tout outil sensible. Dans l’AI Act, elle possède pourtant un sens précis. Les systèmes à haut risque ne sont pas, par principe, bannis : ils peuvent être mis sur le marché ou employés s’ils satisfont à des exigences renforcées de gestion des risques, de qualité des données, de documentation, de supervision humaine, d’exactitude, de robustesse et de cybersécurité.

Les systèmes concernés comprennent notamment certaines IA utilisées dans les infrastructures critiques, l’éducation et la formation, l’emploi et la gestion des travailleurs, l’accès à des services essentiels, les services répressifs, la migration ou la justice. Les systèmes qui constituent un composant de sécurité de certains produits réglementés relèvent également de règles spécifiques.

Cette architecture par niveaux de risque évite un raccourci fréquent : une IA utilisée pour l’emploi ou l’éducation n’est pas automatiquement illégale. Elle peut toutefois être à haut risque et devoir respecter un ensemble de garanties avant et pendant son déploiement. À l’inverse, une pratique prohibée ne peut pas devenir licite par le seul ajout d’une notice, d’un contrôle humain ou d’un consentement interne.

Qui est concerné par le règlement européen ?

L’AI Act n’est pas réservé aux groupes installés dans l’Union européenne. Il peut viser des fournisseurs établis hors de l’Union lorsqu’ils mettent des systèmes d’IA sur le marché européen ou les y mettent en service. Il couvre également certains acteurs étrangers lorsque les résultats produits par leur système sont utilisés dans l’Union.

Le règlement répartit les responsabilités selon le rôle tenu dans la chaîne de valeur. Un fournisseur développe un système ou le fait développer et le commercialise sous son nom. Un déployeur l’utilise dans le cadre de son activité professionnelle. Des importateurs, distributeurs, mandataires et fabricants de produits intégrant une IA peuvent aussi être concernés.

Pour une PME qui utilise un logiciel acheté à un prestataire, le rôle le plus fréquent est celui de déployeur. Elle ne porte donc pas nécessairement les mêmes obligations que l’éditeur du logiciel. Elle doit néanmoins vérifier la finalité de l’outil, les personnes qui l’emploient, les données mobilisées, les décisions auxquelles il contribue et les instructions fournies par le prestataire.

Une entreprise qui modifie substantiellement la finalité d’un outil ou le commercialise sous son propre nom peut voir ses responsabilités évoluer. C’est pourquoi une simple règle du type « l’éditeur est responsable » ne suffit pas à sécuriser un projet.

Pourquoi l’audit des usages doit commencer maintenant

La conformité commence par une cartographie concrète. Dans beaucoup d’organisations, les outils d’IA ne se limitent plus aux logiciels officiellement achetés par la direction informatique. Des salariés utilisent aussi des assistants conversationnels, des générateurs de texte, de code ou d’images, parfois avec des données de l’entreprise. Une politique qui ne recense que les projets les plus visibles risque de manquer des usages réels.

Un audit utile peut suivre une méthode simple :

1. Recenser les systèmes : outils développés en interne, solutions de fournisseurs, fonctions d’IA intégrées à des logiciels existants et usages expérimentaux.
2. Qualifier les rôles : déterminer si l’organisation est déployeur, fournisseur, distributeur ou importateur selon chaque cas.
3. Décrire la finalité : identifier ce que le système produit, sur quelles personnes il agit et si un résultat influence une décision importante.
4. Écarter les pratiques interdites : examiner sans attendre les fonctions de notation sociale, d’inférence émotionnelle, de biométrie et de manipulation comportementale.
5. Documenter les décisions : conserver l’analyse, les mesures prises, les limites d’usage et les responsabilités désignées.

La gouvernance des données est indissociable de ce travail. L’AI Act ne remplace pas le Règlement général sur la protection des données, le RGPD. Une organisation doit donc traiter simultanément les deux questions : la licéité de l’usage des données personnelles et les exigences propres à l’IA. Pour les systèmes à haut risque, le règlement prévoit en particulier des pratiques de gouvernance et de gestion des données relatives aux jeux de données d’entraînement, de validation et de test.

Cela conduit à des questions opérationnelles : les données sont-elles pertinentes pour la finalité annoncée ? Sont-elles suffisamment fiables et représentatives au regard du contexte d’utilisation ? Les équipes savent-elles quelles informations peuvent ou non être transmises à un outil externe ? Les réponses ne relèvent pas seulement du service juridique. Elles impliquent les métiers, l’informatique, la sécurité, les responsables des données et la direction.

Quelles sanctions prévoit l’AI Act ?

Le règlement prévoit des plafonds élevés pour rendre les obligations crédibles. Les violations des interdictions peuvent être sanctionnées par une amende administrative pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu.

D’autres manquements peuvent être punis jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial annuel. La fourniture d’informations incorrectes, incomplètes ou trompeuses aux organismes notifiés ou aux autorités nationales compétentes peut, elle, atteindre 7,5 millions d’euros ou 1 % du chiffre d’affaires mondial annuel.

Ces plafonds ne signifient pas qu’une amende maximale sera automatiquement prononcée. Les autorités doivent apprécier les circonstances de chaque dossier. Pour autant, le niveau affiché rapproche clairement l’AI Act des grands textes européens qui font de la conformité un sujet de direction générale, et non une formalité secondaire.

Le calendrier à anticiper après février 2025

Le règlement est entré en vigueur le 1er août 2024, mais son application est progressive. Cette temporalité doit empêcher deux erreurs opposées : attendre 2026 pour s’intéresser au sujet ou supposer que toutes les obligations sont déjà applicables le 2 février 2025.

Les modèles d’IA à usage général, capables d’être intégrés dans de nombreuses applications, font l’objet d’un calendrier propre. Les fournisseurs de ces modèles devront notamment préparer une documentation technique, communiquer certaines informations aux entreprises qui les intègrent et mettre en place une politique destinée au respect du droit d’auteur de l’Union européenne. Des obligations supplémentaires existent pour les modèles présentant un risque systémique.

Les obligations de transparence, notamment celles qui concernent certaines interactions avec des systèmes d’IA ou des contenus artificiellement générés, relèvent elles aussi des étapes ultérieures. Cette progressivité donne du temps, mais il serait risqué de le confondre avec une absence de travail à accomplir.

Ce qu’il faut surveiller dans les prochains mois

Au 1er février 2025, la démarche la plus solide consiste à associer conformité et innovation. Les entreprises qui connaissent leurs cas d’usage peuvent fermer rapidement les portes aux pratiques interdites, former leurs équipes de façon proportionnée et orienter leurs nouveaux projets vers des solutions mieux documentées.

La veille réglementaire restera déterminante. L’application de l’AI Act dépendra aussi de lignes directrices européennes, de codes de pratique, de normes harmonisées et de l’organisation des autorités compétentes dans les États membres. Les contrats avec les fournisseurs devront évoluer pour préciser les informations fournies, les responsabilités, les conditions de mise à jour et les modalités de traitement des incidents.

L’enjeu ne se limite pas à éviter une amende. Une gouvernance claire aide une organisation à savoir quelles données elle utilise, quelles décisions elle délègue à une machine et à quel moment une intervention humaine est indispensable. Dans un contexte où l’IA s’intègre rapidement aux logiciels professionnels, cette maîtrise devient une condition concrète de confiance pour les salariés, les clients et les citoyens.