En Alaska, des citations d’IA fictives fragilisent une politique scolaire

L’intelligence artificielle peut aider à résumer un dossier, à structurer une note ou à produire un premier texte. Mais elle peut aussi fournir, avec une assurance trompeuse, une référence qui n’existe pas. En Alaska, cette limite a pris une dimension institutionnelle : des citations académiques inventées par une IA ont été incluses dans un document concernant les restrictions de téléphones portables à l’école. Diffusé avant un contrôle approfondi, le texte a alimenté les travaux des autorités éducatives de l’État.

L’épisode, rendu public le 6 novembre 2024, ne signifie pas que toute réflexion sur la place des smartphones à l’école serait infondée. Il pose une question plus élémentaire, et plus grave pour l’action publique : comment s’assurer que les documents remis aux décideurs reposent sur des travaux réels, correctement compris et adaptés au problème qu’ils doivent résoudre ?

Des références inventées dans un dossier sur les téléphones à l’école

L’affaire concerne un projet de politique visant à limiter l’usage des téléphones portables par les élèves dans les établissements scolaires d’Alaska. La Commission de l’éducation de l’Alaska, dirigée par Deena Bishop, a eu recours à une IA générative pour rédiger un document de politique. L’outil a alors produit des citations à l’apparence académique, mais plusieurs d’entre elles étaient inexactes ou totalement fictives.

La précision est importante : il ne s’agit pas seulement d’une formulation maladroite ou d’un chiffre discuté. Une référence bibliographique inventée donne l’illusion qu’une affirmation a été examinée, publiée et validée dans un cadre de recherche. Pour un responsable public, un élu ou un membre d’un conseil, elle peut rendre une recommandation plus persuasive qu’elle ne devrait l’être.

Le document a été transmis avant d’avoir été soumis à une révision suffisamment rigoureuse. Certains membres du Conseil de l’éducation de l’Alaska l’ont donc consulté sans savoir que les citations venaient d’une IA. Cette absence de transparence a aggravé le problème : il devenait difficile, pour les personnes appelées à délibérer, d’évaluer la solidité réelle des arguments qui leur étaient présentés.

La résolution adoptée demandait d’établir une politique modèle encadrant les restrictions liées à la téléphonie mobile à l’école. L’enjeu ne se limitait donc pas à une note interne sans effet : le document contribuait à un processus susceptible d’orienter les pratiques des établissements.

Pourquoi une IA peut-elle inventer des citations crédibles ?

Les grands modèles de langage ne fonctionnent pas comme une bibliothèque scientifique qui retrouverait automatiquement un article précis dans un catalogue contrôlé. Ils produisent du texte en calculant, à partir de très nombreux exemples, les suites de mots les plus plausibles. Lorsqu’on leur demande des études, des auteurs, des revues ou des dates, ils peuvent assembler des éléments réalistes en apparence sans garantir que la publication correspondante existe.

C’est ce que l’on appelle couramment une hallucination de l’IA. Le terme ne signifie pas que la machine perçoit le monde comme un être humain. Il décrit une sortie erronée présentée sous une forme cohérente, parfois très convaincante. Une fausse citation est particulièrement difficile à repérer à l’œil nu, car elle peut comporter un titre de recherche plausible, des noms d’auteurs crédibles et une date qui semble cohérente.

Cette faiblesse est renforcée lorsque l’utilisateur demande à l’outil de justifier une conclusion déjà envisagée. Un assistant conversationnel peut alors fournir rapidement une série d’arguments et de références qui donnent l’impression d’un dossier complet. Or, la rapidité de production ne garantit ni l’existence des travaux cités, ni la qualité de leur méthodologie, ni leur pertinence pour le contexte local.

Il faut également distinguer deux problèmes souvent confondus. Une IA peut reproduire des biais présents dans les contenus dont elle s’inspire, par exemple en accordant davantage de place à certains points de vue. Elle peut aussi fabriquer une information de toutes pièces. Dans le cas de l’Alaska, le point central porte sur la seconde situation : des références académiques qui n’existaient pas ont été présentées comme si elles pouvaient appuyer une politique éducative.

Le débat sur les smartphones mérite mieux qu’un habillage documentaire

Les téléphones portables à l’école sont un sujet concret pour les élèves, les familles, les enseignants et les directions d’établissement. Ils touchent à l’attention en classe, aux échanges entre élèves, à la gestion des urgences et aux règles de vie scolaire. Parce que ces questions ont des effets directs sur le quotidien, elles exigent une discussion fondée sur des éléments traçables plutôt que sur une accumulation de références impressionnantes mais invérifiables.

Une politique bien construite devrait permettre de répondre clairement à plusieurs interrogations : quel problème cherche-t-on à résoudre ? Dans quels lieux et à quels moments les restrictions s’appliquent-elles ? Quelles exceptions sont prévues ? Comment les établissements évaluent-ils les effets de la mesure ? Ces choix peuvent varier selon les réalités locales. Ils ne peuvent pas être délégués à une IA qui ne connaît ni les élèves concernés ni les contraintes d’un établissement.

Le danger, dans un tel cas, est aussi celui d’une mauvaise allocation de l’attention et des moyens. Si les décideurs s’appuient sur des travaux inexistants, ils risquent de consacrer du temps à défendre une justification fragile au lieu d’examiner les données disponibles, les besoins des équipes éducatives et les solutions réellement évaluées.

L’IA peut rédiger, elle ne peut pas valider un dossier

L’incident alaskien illustre une règle simple : l’IA générative peut servir d’outil de préparation, mais elle ne doit pas devenir l’autorité qui valide les faits. La responsabilité reste humaine, en particulier lorsque le document contribue à une décision publique.

Un contrôle efficace ne consiste pas à relire rapidement un texte pour corriger son style. Il faut vérifier que chaque travail cité existe, identifier son auteur, retrouver sa publication et s’assurer que son contenu appuie réellement l’argument avancé. Une citation peut être authentique tout en étant hors sujet, ancienne, mal interprétée ou fondée sur une méthode contestable. La vérification doit donc porter à la fois sur l’existence de la référence et sur son usage.

Dans le cas de l’Alaska, les autorités ont tenté de présenter les citations fabriquées comme des « marqueurs » qui devaient être corrigés ultérieurement. Cette explication ne supprime pas le problème, puisque le document contenant ces éléments a été soumis au vote du Conseil. Dès qu’un texte entre dans un circuit de décision, même à l’état de projet, ses affirmations peuvent peser sur les discussions et être reprises ailleurs.

Quelles précautions pour les administrations et les élus ?

L’usage de l’IA dans les administrations ne doit pas se réduire à un choix binaire entre interdiction totale et adoption sans garde-fou. Des règles de travail claires peuvent limiter fortement les risques, sans empêcher les agents d’utiliser des outils d’assistance pour des tâches appropriées.

Pour les documents de politique publique, plusieurs exigences apparaissent essentielles :

• indiquer lorsqu’une IA générative a participé à la rédaction d’un document destiné à la décision ;
• séparer explicitement les notes de travail, les hypothèses et les éléments déjà vérifiés ;
• confier la vérification des références à une personne compétente qui n’a pas seulement produit le brouillon ;
• conserver une trace des corrections effectuées avant diffusion ou vote ;
• retirer immédiatement les citations dont l’existence ou la pertinence n’est pas établie.

Ces précautions répondent à un problème de gouvernance autant que de technologie. Une erreur peut naître d’un outil imparfait, mais elle devient une défaillance institutionnelle lorsqu’aucun mécanisme ne permet de l’arrêter avant qu’elle n’influence une délibération.

Un problème déjà visible dans le droit et la recherche

Le cas de l’Alaska s’inscrit dans une inquiétude plus large. Dans le domaine juridique, des avocats ont déjà été sanctionnés après avoir soumis des décisions de justice inventées par des outils d’IA. La situation est particulièrement sérieuse : une décision judiciaire fictive peut modifier l’analyse d’un dossier, tromper une juridiction et faire perdre du temps à toutes les parties.

La recherche académique est exposée à un risque voisin. Une bibliographie générée automatiquement peut contenir des articles inexistants, des auteurs associés au mauvais sujet ou des revues mal attribuées. Dans les deux cas, le mécanisme est le même : un texte fluide et structuré peut masquer l’absence de fondement réel.

Cela ne rend pas l’IA inutile pour les juristes, chercheurs ou agents publics. Elle peut aider à reformuler, à organiser des idées ou à repérer des questions à approfondir. Mais plus la conséquence d’une erreur est importante, plus l’exigence de contrôle humain doit être élevée. Une note personnelle n’appelle pas les mêmes précautions qu’un document soumis à un conseil, à un tribunal ou à une autorité administrative.

Ce qu’il faut surveiller

L’affaire de l’Alaska met en jeu la confiance du public. Lorsque des institutions s’appuient sur des références fictives, les citoyens peuvent douter non seulement de la politique concernée, mais aussi de la capacité de leurs représentants à contrôler les outils qu’ils emploient. Cette défiance peut ensuite se diffuser à des usages de l’IA pourtant plus rigoureux et utiles.

Le véritable test, pour les administrations qui veulent adopter l’IA, sera donc moins la vitesse à laquelle elles produisent des documents que la qualité de leurs procédures de relecture, de transparence et de responsabilité. Les outils génératifs peuvent faire gagner du temps au stade du brouillon. Ils ne doivent jamais raccourcir l’étape la plus importante : établir que les faits, les références et les arguments soumis à une décision sont bien réels.

Pour les citoyens comme pour les élus, un réflexe mérite de s’imposer : face à une référence trop commode ou à une affirmation très précise, il faut demander à voir le travail original. Dans la décision publique, la crédibilité ne se génère pas automatiquement.