Politiques d’IA : des chercheurs appellent à décider sur la base de preuves

L’intelligence artificielle ne pose pas seulement une question de performance technique. Elle oblige les pouvoirs publics à trancher des sujets très concrets : quels systèmes doivent être évalués, quelles informations les entreprises doivent-elles partager, comment repérer un préjudice une fois l’outil utilisé à grande échelle, et à quel moment faut-il intervenir ? Pour répondre à ces questions sans céder ni à l’enthousiasme automatique ni à l’alarmisme, des chercheurs défendent une méthode : partir des preuves disponibles, puis organiser la production de celles qui manquent.

Dans un article publié dans la revue Science, Rishi Bommasani, chercheur associé à l’Université de Berkeley, et des collaborateurs issus d’autres institutions proposent des pistes pour bâtir des politiques d’IA fondées sur des éléments scientifiques et des analyses systématiques. Leur ambition est double : permettre l’innovation, tout en veillant à ce que ses bénéfices et ses risques soient traités de manière responsable et équitable.

Leur message est particulièrement important dans un domaine où les capacités des systèmes évoluent vite, où les annonces commerciales sont nombreuses et où les conséquences sociales ne se laissent pas toujours observer en laboratoire. Une règle solide ne consiste donc pas seulement à réagir à une crainte ou à une promesse. Elle doit s’appuyer sur des observations vérifiables, expliciter ses incertitudes et pouvoir être corrigée lorsque les connaissances progressent.

Pourquoi fonder une politique d’IA sur des preuves ?

Une politique fondée sur des preuves ne signifie pas qu’il faudrait attendre une certitude absolue avant d’agir. Dans l’action publique, cette certitude est rare, particulièrement lorsqu’une technologie est nouvelle. Il s’agit plutôt de distinguer ce qui est établi, ce qui est probable, ce qui reste inconnu et ce qui relève encore de l’hypothèse.

Appliquée à l’IA, cette démarche impose de relier une décision à un problème précisément formulé. Par exemple, la question n’est pas seulement de savoir si un modèle est « puissant ». Il faut déterminer quels comportements sont testés, dans quelles conditions, pour quels publics et avec quelles conséquences possibles. Une évaluation montrant qu’un système répond correctement à une série de questions ne répond pas, à elle seule, à une question sur ses effets au travail, sur l’accès à un service ou sur la diffusion de contenus trompeurs.

Les auteurs soulignent que la compréhension scientifique doit éclairer les choix publics, mais aussi que ces choix doivent accélérer la création de nouvelles connaissances. C’est une idée essentielle : une bonne réglementation peut prévoir des obligations de mesure, de signalement ou d’accès encadré à des informations. Elle ne se contente pas de constater l’état des savoirs, elle contribue à combler les lacunes qui empêchent de décider correctement.

Une « preuve » n’a pas la même portée selon la question posée

L’un des obstacles identifiés par les chercheurs tient à la définition même d’une preuve crédible. Les standards ne sont pas uniformes d’un domaine d’action publique à l’autre. Des données utiles pour évaluer la robustesse technique d’un modèle ne suffisent pas nécessairement à apprécier son impact sur les personnes, les organisations ou la société.

Cette diversité est normale. Elle impose en revanche de ne pas utiliser un résultat isolé pour tirer une conclusion trop large. Dans le domaine de l’IA, des preuves peuvent être directement liées au système étudié, comme une évaluation de ses comportements. D’autres sont indirectes : elles concernent un secteur, un type d’usage ou un risque social qui existait déjà avant l’arrivée de l’IA générative.

Les auteurs mettent ainsi en garde contre un raisonnement commode : invoquer le caractère évolutif des données pour justifier l’inaction. Le fait que les connaissances soient incomplètes ne dispense pas de prendre des mesures lorsque des risques sont déjà identifiés. À l’inverse, une donnée encore fragile ne devrait pas devenir le prétexte d’une règle générale disproportionnée. La difficulté consiste à ajuster le niveau d’intervention au niveau de connaissance et à l’ampleur plausible du dommage.

Les cinq leviers proposés pour produire de meilleures décisions

L’article avance plusieurs mécanismes destinés à renforcer la base de connaissances nécessaire à une gouvernance crédible. Ces mécanismes forment moins une recette universelle qu’une chaîne : évaluer avant, informer pendant, observer après et permettre à des acteurs extérieurs de vérifier ce qui doit l’être.

La première recommandation concerne les évaluations des modèles avant leur commercialisation. Dans un système d’IA, une évaluation consiste à soumettre l’outil à des tests afin d’observer certaines de ses capacités ou de ses défaillances. Son intérêt dépend toutefois du protocole choisi. Il faut savoir ce qui est testé, par qui, avec quelles données et quelles limites. Les résultats n’ont de valeur que si leur interprétation est prudente.

La deuxième recommandation porte sur la divulgation accrue des pratiques de sécurité par les grandes entreprises d’IA, auprès des gouvernements comme du public. La transparence est une condition de la discussion démocratique : sans informations suffisantes, il est difficile pour les autorités, les chercheurs et les citoyens d’évaluer la qualité des garde-fous annoncés.

Enfin, les auteurs accordent une place centrale à la surveillance après déploiement. Un modèle qui fonctionne dans un cadre contrôlé peut produire des effets différents une fois intégré à des services, utilisé par des millions de personnes ou combiné à d’autres outils. La politique d’IA ne peut donc pas s’arrêter au moment de la mise sur le marché.

Évaluer avant de diffuser ne remplace pas le suivi après usage

L’évaluation avant commercialisation et le suivi après déploiement répondent à deux besoins distincts. La première permet de chercher des défaillances avant qu’un outil ne soit largement accessible. Le second documente ce qui se passe réellement une fois que des utilisateurs, des entreprises ou des administrations l’intègrent dans leurs pratiques.

Cette distinction est cruciale pour les systèmes d’IA à usage général. Un même modèle peut servir à rédiger un texte, classer une information, assister une recherche ou automatiser une tâche. Ses effets ne dépendent donc pas seulement de son fonctionnement technique, mais aussi du contexte dans lequel il est employé, des personnes qui l’utilisent et des décisions prises à partir de ses réponses.

Le suivi post-déploiement ne doit pas être compris comme une simple collecte informelle de plaintes. Pour alimenter une politique sérieuse, les incidents et les effets doivent être examinés avec méthode : quelles circonstances ont conduit au problème, qui a été affecté, quels éléments peuvent être reproduits, et quelle réponse est appropriée ? Cette approche aide à séparer un cas isolé d’un phénomène plus large, sans minimiser pour autant les préjudices individuels.

Pourquoi la recherche indépendante doit-elle être protégée ?

Les entreprises qui conçoivent les modèles disposent d’informations précieuses sur leurs propres systèmes. Mais une gouvernance reposant exclusivement sur leurs déclarations risquerait de manquer de recul. La recherche indépendante de bonne foi peut confronter les affirmations des fournisseurs à d’autres méthodes, étudier des usages inattendus et mettre au jour des problèmes qui n’apparaissent pas dans les évaluations internes.

Les chercheurs appellent donc à créer des protections pour ce travail. L’enjeu est de permettre l’examen rigoureux de systèmes largement déployés, tout en maintenant un cadre responsable. Une recherche sérieuse doit pouvoir signaler un problème sans être assimilée à une volonté de nuire ou à un simple affrontement public entre acteurs du secteur.

Cette pluralité de regards concerne également les sciences sociales, le droit, l’économie ou les disciplines qui étudient les effets sur les personnes. Les politiques d’IA ne peuvent pas être élaborées à partir de la seule informatique. Une mesure techniquement cohérente peut avoir des conséquences imprévues sur l’emploi, l’accès aux droits, la confiance dans l’information ou la répartition des bénéfices de l’innovation.

Du consensus scientifique au débat démocratique

Pour les auteurs, l’ampleur des transformations liées à l’IA peut créer un décalage entre l’état des preuves et les réponses politiques. Certaines informations sont directement pertinentes, d’autres ne le sont qu’en partie. Les décideurs doivent donc éviter deux écueils : ignorer des connaissances utiles parce qu’elles ne sont pas parfaites, ou construire une politique sur des récits médiatiques exagérés.

La formation d’un consensus scientifique est présentée comme une étape importante pour gérer les tensions qui traversent le débat sur l’IA. Un consensus ne suppose pas que tous les experts partagent la même opinion sur chaque mesure. Il désigne plutôt un accord suffisamment solide sur les faits connus, les incertitudes et les méthodes permettant de les réduire.

Ce travail scientifique ne remplace pas le débat démocratique. Décider du niveau de risque acceptable, de la distribution des bénéfices ou des obligations imposées aux entreprises relève aussi de choix collectifs. Les preuves peuvent clarifier les conséquences probables d’une décision, mais elles ne déterminent pas seules les valeurs qu’une société souhaite défendre.

Les propositions évoquées dans l’article ont retenu l’attention de législateurs en Californie, alors que ceux-ci examinent des principes dans le cadre d’un rapport consacré à la politique d’IA. Elles ont également été largement référencées par des membres de l’assemblée californienne et des organisations de la société civile. Cet intérêt illustre le besoin d’un langage commun entre chercheurs, élus, entreprises et citoyens.

Ce qu’il faut surveiller pour une gouvernance plus solide

La question décisive ne sera pas uniquement de savoir si les gouvernements adoptent des règles sur l’IA. Elle sera de vérifier si ces règles permettent réellement d’apprendre. Une politique responsable devrait être capable de préciser les informations attendues, d’organiser leur examen, de détecter les effets non anticipés et d’être ajustée à la lumière de nouvelles connaissances.

Il faudra notamment suivre la place donnée aux évaluations avant diffusion, la qualité des informations de sécurité rendues accessibles, les moyens consacrés à la surveillance des usages et les conditions dans lesquelles la recherche indépendante peut travailler. Ces éléments détermineront si la promesse d’une gouvernance fondée sur des preuves devient une pratique durable ou reste un principe général.

Dans un domaine aussi évolutif, la prudence ne signifie ni bloquer systématiquement l’innovation ni la laisser avancer sans contrôle. Elle consiste à rendre les décisions plus explicites, plus vérifiables et plus ouvertes à la correction. C’est à cette condition que l’IA pourra être encadrée au plus près de ses effets concrets, plutôt qu’au rythme des seules annonces ou des seules inquiétudes.