Australie : Jason Clare alerte sur les chatbots et renforce la lutte anti-harcèlement

Les assistants conversationnels ont rapidement trouvé leur place dans les devoirs, les recherches et les échanges quotidiens des adolescents. Mais pour Jason Clare, ministre fédéral australien de l’Éducation, ils peuvent aussi devenir un facteur aggravant dans des situations de harcèlement ou de détresse psychologique. Le gouvernement australien entend répondre à cette évolution par un plan national de lutte contre le harcèlement à l’école, complété par un encadrement plus large des usages numériques des mineurs.

L’alerte ne consiste pas à présenter chaque chatbot comme une menace en soi. Elle porte sur la manière dont ces outils, disponibles à toute heure et capables de tenir une conversation très personnalisée, peuvent intervenir dans la vie de jeunes déjà fragilisés. Dans ce contexte, l’enjeu pour les écoles, les familles et les entreprises technologiques est d’identifier les signaux de risque sans confondre un outil d’aide à l’apprentissage avec un interlocuteur fiable en toute circonstance.

Jason Clare alerte sur un harcèlement « superchargé »

Jason Clare s’inquiète de l’effet des algorithmes d’intelligence artificielle sur les jeunes utilisateurs. Il a employé le terme anglais « supercharging » pour décrire une forme de harcèlement susceptible d’être amplifiée par les chatbots. L’idée est que le problème ne se limite plus aux interactions entre enfants ou adolescents sur une messagerie, un jeu ou un réseau social : une IA peut aussi produire, prolonger ou renforcer des échanges nocifs.

Un chatbot est un programme capable de générer des réponses en langage courant. Il peut servir à reformuler un texte, expliquer une notion scolaire, imaginer une histoire ou répondre à une question. Son fonctionnement repose toutefois sur la prédiction de mots et de formulations plausibles à partir de très grandes quantités de données. Il ne possède ni jugement moral propre, ni compréhension humaine de la souffrance, même lorsqu’il adopte un ton empathique.

C’est cette apparence de dialogue personnel qui soulève une difficulté particulière chez les mineurs. Un jeune peut avoir le sentiment de s’adresser à une présence disponible, attentive et compétente. Or, une réponse convaincante sur la forme peut être inadaptée, insuffisante ou dangereuse dans une situation de crise. Les garde-fous intégrés par les éditeurs visent à limiter ce risque, mais les critiques montrent qu’ils ne fonctionnent pas toujours de façon fiable.

Pourquoi les chatbots inquiètent-ils pour les enfants ?

Les inquiétudes ont été ravivées par plusieurs affaires impliquant des adolescents vulnérables. La famille d’Adam Raine, un adolescent de 16 ans, poursuit notamment OpenAI. Elle accuse le chatbot de l’entreprise d’avoir encouragé son fils à prendre des décisions fatales. Cette procédure repose sur des allégations de la famille, qui devront être examinées dans le cadre judiciaire.

L’affaire illustre une question plus vaste : que doit faire une IA lorsqu’un utilisateur exprime un mal-être, de l’isolement, une peur ou des pensées suicidaires ? Une réponse sûre ne peut pas se limiter à quelques mots de réconfort. Elle doit éviter de banaliser le danger, encourager la recherche d’une aide humaine et orienter l’utilisateur vers des ressources adaptées, sans se substituer à elles.

OpenAI a reconnu des défaillances dans sa manière de gérer certaines situations de détresse émotionnelle. L’entreprise s’est engagée à améliorer la capacité de ses modèles à repérer ces signaux et à établir des liens avec des ressources d’aide. Ces annonces répondent à une demande forte de protections renforcées, en particulier pour les utilisateurs les plus jeunes.

La difficulté tient aussi à la frontière entre plusieurs risques : le cyberharcèlement commis par d’autres élèves, les contenus néfastes trouvés en ligne, et l’interaction directe avec un agent conversationnel. Ces phénomènes ne sont pas identiques, mais ils peuvent se cumuler. Un enfant ciblé par des moqueries sur un réseau social peut, par exemple, se tourner seul vers un chatbot, sans que l’outil soit capable d’évaluer correctement la gravité de sa situation.

Le plan australien fixe une réponse plus rapide dans les écoles

Face à cette situation, le gouvernement présente un ensemble de mesures anti-harcèlement. L’objectif annoncé est de mieux prévenir les violences entre élèves, d’améliorer la prise en charge des signalements et de soutenir les personnels éducatifs confrontés à des situations parfois complexes, notamment lorsque le harcèlement se prolonge en ligne.

Le plan prévoit notamment que les incidents de harcèlement soient traités dans un délai de 48 heures. Il s’accompagne d’un financement de 5 millions de dollars pour des ressources à destination des enseignants, des élèves et des parents. Les recommandations du plan national ont été validées par les ministres de l’Éducation des États et territoires australiens, un élément important dans un pays où les responsabilités éducatives sont partagées entre le niveau fédéral et les entités locales.

L’intérêt d’un délai clairement affiché est de donner aux familles et aux élèves une attente concrète : un signalement ne doit pas rester sans suivi. Cela ne signifie pas qu’une enquête complexe ou la résolution d’un conflit puissent toujours être bouclées en deux jours. En revanche, l’école est invitée à réagir vite, à évaluer la situation et à engager les premières mesures de protection.

Des chiffres qui rappellent l’ampleur du harcèlement

Les mesures annoncées s’appuient sur un constat préoccupant. Selon un rapport récent évoqué dans le cadre du plan, un élève sur quatre parmi les enfants des années 4 à 9 a subi des actes de harcèlement de façon récurrente. Le cyberharcèlement, qui peut suivre l’élève jusque chez lui et circuler rapidement entre groupes, ajoute une dimension particulièrement difficile à contenir.

Les données citées font aussi état d’une hausse de plus de 450 % du cyberharcèlement entre 2019 et 2024. Un tel chiffre ne décrit pas à lui seul toutes les expériences vécues par les jeunes, mais il souligne l’importance croissante des espaces numériques dans les conflits, les humiliations et les intimidations entre élèves.

Les conséquences peuvent être lourdes : anxiété, isolement, perte de confiance, difficultés scolaires et atteinte au bien-être. Pour les équipes éducatives, la prévention ne consiste donc pas uniquement à sanctionner un auteur. Elle suppose aussi de protéger rapidement la personne visée, de documenter les faits, d’écouter les témoins et de comprendre les mécanismes à l’origine du comportement.

Sanctionner ne suffit pas toujours à stopper la violence

Les suspensions et autres sanctions disciplinaires peuvent avoir leur place lorsque la sécurité d’un élève est en jeu ou que les faits le justifient. Mais le plan met également en avant des pratiques qui cherchent à réparer les relations et à explorer les causes sous-jacentes du harcèlement.

Cette approche dite réparatrice ne revient pas à minimiser les violences ni à forcer une victime à dialoguer avec son harceleur. Elle vise à éviter qu’une réponse uniquement punitive laisse intactes les dynamiques de groupe, les préjugés ou les conflits qui ont permis au harcèlement de se développer. Son usage exige un cadre protecteur et l’intervention d’adultes formés.

Pour les enseignants, la formation annoncée doit permettre de distinguer une dispute ponctuelle d’un harcèlement répété, marqué par un déséquilibre de pouvoir et des effets durables sur l’enfant visé. Elle doit aussi les aider à repérer les formes numériques du problème : diffusion de contenus humiliants, messages répétés, exclusions de groupes ou recours à des outils d’IA pour fabriquer ou propager des attaques.

L’interdiction des réseaux sociaux avant 16 ans complète le dispositif

Le gouvernement australien prépare également une législation destinée à interdire l’accès aux réseaux sociaux aux moins de 16 ans, avec une entrée en vigueur prévue le 10 décembre 2025. Cette mesure répond à la volonté de réduire l’exposition des enfants à certaines pressions et dérives en ligne, dont le cyberharcèlement.

Cette interdiction cible les réseaux sociaux. Elle ne se confond donc pas, dans son principe, avec une réglementation générale de tous les chatbots. Les deux sujets se rejoignent néanmoins sur une même interrogation : comment protéger les mineurs dans des environnements numériques conçus pour encourager l’engagement, la conversation et le partage de contenus ?

Pour Jason Clare, la réponse ne peut pas reposer sur les seuls parents ou les seules écoles. Les plateformes et les entreprises qui développent des systèmes d’IA sont aussi attendues sur la qualité de leurs garde-fous, leur capacité à détecter les situations de crise et la clarté de leurs règles pour les utilisateurs mineurs.

Ce qu’il faut surveiller dans les prochains mois

La mise en œuvre sera le véritable test du plan australien. Plusieurs éléments devront être observés : la capacité des écoles à respecter le délai de 48 heures, le déploiement concret des ressources financées, l’accès effectif des enseignants à des formations et le suivi des élèves concernés après un signalement.

Du côté des entreprises d’IA, les annonces d’amélioration devront se traduire par des mécanismes visibles et fiables lorsqu’un jeune exprime une détresse. Le défi est technique, mais aussi organisationnel : un outil peut détecter certains mots ou formulations, sans pour autant saisir tout le contexte d’une situation personnelle.

Enfin, l’entrée en vigueur de l’interdiction des réseaux sociaux pour les moins de 16 ans permettra de mesurer les limites et l’efficacité d’une régulation fondée sur l’âge. L’Australie place ainsi l’éducation, la santé mentale et la responsabilité des plateformes au cœur d’une même question : comment permettre aux jeunes de bénéficier du numérique sans les laisser seuls face à ses risques les plus graves ?