États-Unis : Biden impose des garde-fous aux futurs modèles d’IA

L’intelligence artificielle générative progresse plus vite que les règles censées l’encadrer. Face à cette accélération, l’administration de Joe Biden franchit une étape importante : le 30 octobre 2023, le président américain a signé un ordre exécutif destiné à rendre le développement et le déploiement de l’IA « sûrs, sécurisés et dignes de confiance ». Son volet le plus commenté cible les modèles les plus avancés, ceux qui exigent des moyens de calcul considérables et peuvent servir de socle à de très nombreux outils.

L’objectif n’est pas d’autoriser ou d’interdire ChatGPT, Claude ou d’autres assistants déjà accessibles au public. Washington veut plutôt obtenir, en amont, des informations sur les systèmes de prochaine génération susceptibles de présenter des risques élevés. Les entreprises concernées devront avertir l’État fédéral de certains entraînements et communiquer les résultats d’évaluations de sécurité. Une intervention inédite par son ampleur aux États-Unis, où l’encadrement de l’innovation numérique repose traditionnellement davantage sur les entreprises et les régulateurs sectoriels que sur une règle nationale unique.

Ce que change l’ordre exécutif de Joe Biden

Un ordre exécutif est une instruction présidentielle qui organise l’action de l’administration fédérale. Il ne s’agit donc pas d’une loi adoptée par le Congrès : il ne crée pas, à lui seul, un régime général d’autorisation pour toute intelligence artificielle. En revanche, il donne des missions précises aux départements et agences fédérales, avec des délais, des normes à produire et des mesures à mettre en œuvre.

Pour imposer des obligations aux développeurs des modèles les plus puissants, la Maison-Blanche s’appuie notamment sur le Defense Production Act, une loi qui permet au gouvernement de demander certaines informations à des acteurs privés lorsque la sécurité nationale est en jeu. Le département du Commerce doit ainsi recevoir des notifications et des données de sécurité de la part des entreprises développant des modèles dits « à double usage ».

Cette expression désigne des modèles généralistes capables d’accomplir un large éventail de tâches et dont les capacités peuvent être employées à des fins utiles comme à des fins dangereuses. Un système pouvant résumer un document, écrire du code ou aider à la recherche scientifique peut aussi, suivant ses performances et l’accès qui lui est donné, faciliter des cyberattaques, la conception d’agents chimiques ou biologiques, ou la production de contenus trompeurs à grande échelle.

Quels modèles d’IA doivent être signalés au gouvernement ?

Le texte ne désigne pas une entreprise ou un produit par son nom. Il établit un critère technique fondé sur la quantité de calcul utilisée lors de l’entraînement. Le seuil principal retenu est de 10^26 opérations entières ou à virgule flottante, souvent désignées par le terme anglais FLOP. Il ne s’agit pas d’une mesure de la qualité d’un modèle, ni du nombre de ses utilisateurs, mais d’un ordre de grandeur du travail informatique mobilisé pour le créer.

L’administration prévoit aussi un seuil inférieur, de 10^23 opérations, pour des modèles capables de traiter des données de séquençage biologique. Cette distinction reflète une préoccupation spécifique : un modèle spécialisé dans ce domaine pourrait, selon ses capacités, contribuer à des travaux présentant des risques pour la biosécurité.

Ces seuils ont une conséquence importante : ils ne visent pas toutes les applications intégrant de l’IA. Une petite entreprise qui utilise un modèle existant pour créer un service client automatisé ne se retrouve pas, pour cette seule raison, soumise aux mêmes exigences qu’un acteur qui entraîne un modèle de fondation à très grande échelle. L’effort réglementaire se concentre d’abord sur les systèmes de frontière, c’est-à-dire ceux qui repoussent les capacités connues des modèles d’IA.

Que devront transmettre les entreprises concernées ?

Les développeurs visés devront signaler au gouvernement fédéral les activités d’entraînement répondant aux critères fixés. Ils devront également partager les résultats de leurs tests de sécurité et d’autres informations permettant d’évaluer si le modèle peut présenter un risque sérieux.

Au cœur de ce dispositif se trouve le red teaming, ou test par équipe d’attaque. Le principe est simple : au lieu de se demander seulement si un modèle répond correctement aux requêtes ordinaires, des spécialistes cherchent méthodiquement à le pousser dans ses retranchements. Ils tentent par exemple de contourner ses garde-fous, de lui faire produire des instructions dangereuses, de vérifier sa capacité à assister une intrusion informatique ou d’observer s’il reproduit des comportements discriminatoires.

Ces tests ne rendent pas un modèle infaillible. Ils servent à révéler ses vulnérabilités avant une diffusion plus large et à documenter les mesures prises pour les réduire. L’ordre exécutif demande aussi au National Institute of Standards and Technology, le NIST, de contribuer à l’élaboration de lignes directrices et de bonnes pratiques pour évaluer ces systèmes.

La logique est celle d’un contrôle plus préventif. Jusqu’ici, les entreprises du secteur pouvaient publier des documents techniques, des rapports de sécurité ou des règles d’utilisation, mais la nature et le niveau de détail de ces informations dépendaient largement de leur volonté. L’ordre introduit une obligation de remontée d’informations vers l’État pour les modèles qui franchissent un certain seuil de puissance.

Les modèles déjà existants sont-ils concernés ?

La question est centrale car des modèles de pointe sont déjà utilisés par des millions de personnes et intégrés à de nombreux services. L’ordre exécutif s’intéresse avant tout aux entraînements à venir et aux modèles en cours de développement qui répondent à ses critères. Il ne revient pas sur les lancements passés en imposant rétroactivement, avant leur mise à disposition, les tests qui n’étaient pas alors exigés.

Cela ne signifie pas pour autant que les systèmes déjà disponibles sont totalement absents du champ d’action fédéral. L’ordre contient de nombreuses directives plus générales, par exemple sur la lutte contre la fraude, la protection des consommateurs, les discriminations algorithmiques ou la sécurité des logiciels. Mais le mécanisme spécifique de déclaration préalable et de partage des résultats de tests est conçu pour donner aux autorités une visibilité sur les futurs modèles de très grande puissance.

Cette distinction illustre une limite pratique de toute réglementation technologique. Lorsqu’une règle entre en vigueur après une vague d’innovation, elle doit organiser l’avenir sans pouvoir effacer les outils déjà largement déployés. Dans le cas présent, l’administration Biden cherche donc à établir un précédent pour les générations suivantes de modèles, plutôt qu’à bloquer l’utilisation de produits déjà commercialisés.

Un texte bien plus large que la seule sécurité des modèles

Réduire l’ordre exécutif à une obligation de tests pour les grands laboratoires serait incomplet. Ses huit axes couvrent un ensemble beaucoup plus vaste de questions liées à l’IA.

Le texte prévoit notamment des travaux pour mieux authentifier les contenus produits par intelligence artificielle. Cette orientation répond à la multiplication des images, voix et vidéos de synthèse qui peuvent tromper le public. L’idée n’est pas de faire disparaître tous les deepfakes, ce qui serait techniquement et juridiquement difficile, mais de développer des moyens d’identifier plus facilement l’origine de certains contenus.

La vie privée est un autre sujet majeur. L’administration demande d’encourager des technologies de protection des données et de renforcer les travaux sur les risques que l’IA fait peser sur les informations personnelles. Les modèles sont souvent entraînés sur des volumes considérables de données, tandis que leurs usages peuvent conduire à analyser, classer ou prédire des comportements individuels. La question n’est donc pas seulement ce que l’outil génère, mais aussi les données qui alimentent son fonctionnement.

L’ordre évoque également les droits civiques et la protection des consommateurs. Une IA peut produire ou amplifier des biais lorsqu’elle est utilisée dans des domaines sensibles, comme le logement, le recrutement, la santé ou la justice. Les agences fédérales sont invitées à utiliser leurs compétences existantes pour lutter contre les pratiques discriminatoires et trompeuses facilitées par l’automatisation.

Enfin, le texte se penche sur le travail et l’administration publique. Il appelle à étudier les conséquences de l’IA sur les salariés, à promouvoir une utilisation responsable dans les agences fédérales et à renforcer les compétences liées à l’intelligence artificielle au sein de l’État.

Innovation, compétitivité et sécurité : un équilibre difficile

L’initiative américaine ne fait pas consensus. Les défenseurs d’un encadrement estiment qu’il serait imprudent d’attendre un incident majeur pour exiger des évaluations sérieuses. À mesure que les modèles deviennent plus capables, les risques ne se limitent plus à des erreurs factuelles ou à des résultats surprenants. Ils peuvent concerner la cybersécurité, la désinformation, l’accès à des connaissances sensibles ou la concentration de capacités technologiques dans un petit nombre d’acteurs.

Les critiques redoutent au contraire une réglementation qui pèserait davantage sur les entreprises américaines que sur leurs concurrentes étrangères. Les obligations administratives et les exigences de conformité peuvent être plus faciles à absorber pour les grands groupes disposant d’équipes juridiques et de sécurité importantes que pour de jeunes entreprises. Un encadrement mal calibré pourrait donc, paradoxalement, renforcer les acteurs déjà dominants.

L’administration Biden tente de répondre à cette tension en ciblant les modèles dépassant des seuils très élevés, plutôt que tous les logiciels utilisant de l’IA. Elle met aussi l’accent sur les standards techniques, la recherche et les compétences, afin que la sécurité ne soit pas pensée comme un frein extérieur à l’innovation, mais comme une condition de son déploiement durable.

Ce qu’il faut surveiller

La portée réelle de l’ordre exécutif dépendra désormais de sa mise en œuvre. Plusieurs questions restent ouvertes au 4 novembre 2023 : les agences respecteront-elles les délais fixés ? Les seuils de calcul resteront-ils adaptés à la vitesse des progrès techniques ? Les informations transmises par les entreprises permettront-elles une supervision effective sans exposer de secrets industriels ?

Il faudra aussi observer la coordination internationale. Les grands modèles sont développés, entraînés et utilisés au-delà des frontières américaines. Une entreprise peut employer des infrastructures de calcul réparties dans plusieurs pays, proposer ses services partout dans le monde et être confrontée à des règles différentes selon les territoires. L’efficacité de normes américaines dépendra en partie de leur capacité à dialoguer avec les initiatives étrangères.

Cet ordre exécutif ne clôt pas le débat sur la régulation de l’intelligence artificielle. Il établit cependant un principe appelé à compter : pour les modèles les plus puissants, la promesse d’innovation ne suffira plus. Les concepteurs devront davantage démontrer qu’ils ont identifié, testé et tenté de réduire les risques de leurs systèmes avant de les mettre entre les mains du public ou des entreprises.