Bluesky promet de ne pas entraîner d’IA, mais son Firehose inquiète les utilisateurs

Bluesky s’est imposé auprès d’une partie des internautes comme une échappée face aux grandes plateformes sociales et à leurs politiques de données souvent opaques. Son engagement de ne pas entraîner d’IA générative à partir des publications de ses membres a renforcé cette image. Pourtant, une controverse survenue en novembre 2024 montre la limite de cette promesse : même si Bluesky ne réutilise pas elle-même les messages, l’architecture ouverte du réseau peut permettre à d’autres de les aspirer à grande échelle.

Le déclencheur est un jeu de données contenant un million de publications Bluesky, créé par Daniel van Strien, bibliothécaire spécialisé dans le machine learning. Les messages avaient été récupérés par l’intermédiaire du Firehose, le flux public de la plateforme. L’ensemble comprenait aussi des identifiants décentralisés, ce qui rendait les contenus rattachables à leurs auteurs plutôt que véritablement anonymes. Face à la colère de nombreux utilisateurs, le jeu de données a été retiré et Daniel van Strien a présenté ses excuses.

Cette affaire ne prouve pas que les posts ont été employés pour entraîner un modèle. Elle met en lumière une distinction essentielle, mais parfois difficile à percevoir pour le public : le choix fait par une plateforme pour ses propres produits ne suffit pas à contrôler tous les usages que des tiers peuvent faire d’informations publiées ouvertement.

La promesse de Bluesky face à l’IA

Bluesky a déclaré qu’elle n’entraînerait pas de modèles d’IA générative avec les contenus publiés par ses utilisateurs. Cette position est centrale dans son image de réseau social plus respectueux des choix de ses membres. Elle répond aussi à une inquiétude devenue fréquente : voir ses textes, images ou échanges utilisés dans des corpus massifs servant à mettre au point des systèmes capables de générer du texte, des images ou d’autres contenus.

Le réseau attire notamment des personnes déçues des évolutions de plateformes plus installées, en particulier X et Meta. Sur certains services, les conditions d’utilisation peuvent permettre à l’entreprise d’exploiter les contenus et les interactions pour développer ou améliorer des outils d’intelligence artificielle. Bluesky cherche au contraire à mettre en avant une logique de contrôle accru et une infrastructure ouverte fondée sur le protocole AT.

Mais la formulation de cet engagement compte : Bluesky peut décider de ne pas exploiter les publications pour ses propres modèles, sans pouvoir, à elle seule, empêcher toute personne extérieure de consulter et de copier des contenus que le réseau rend publics.

Qu’est-ce que le Firehose de Bluesky ?

Le Firehose est un flux de données qui donne accès, en temps réel, à l’activité publique sur Bluesky. Il correspond à l’ambition de transparence et d’interopérabilité portée par le protocole sur lequel repose la plateforme. Des développeurs, des chercheurs ou d’autres services peuvent ainsi observer les publications publiques, construire des outils de recherche, analyser des conversations ou proposer de nouveaux clients pour accéder au réseau.

Ce type d’ouverture présente un intérêt concret. Contrairement à un environnement entièrement fermé, il facilite l’étude indépendante de ce qui circule sur la plateforme. Il peut servir à comprendre la modération, à repérer des tendances ou à créer des fonctionnalités utiles à la communauté. Mais ce qui est simple à consulter pour un chercheur ou un développeur bien intentionné peut aussi être simple à automatiser pour une entité qui souhaite constituer un corpus à très grande échelle.

Le problème n’est donc pas nécessairement l’existence du Firehose. C’est l’écart entre l’intuition de nombreux utilisateurs, qui imaginent que leurs publications restent dans le périmètre du réseau social, et la réalité technique d’un flux public exploitable par des logiciels.

Le jeu de données d’un million de posts qui a cristallisé la colère

Daniel van Strien a constitué un ensemble de données à partir d’un million de publications obtenues via le Firehose. Son objectif annoncé était de soutenir la recherche en IA. Toutefois, le jeu de données contenait des contenus liés à des identifiants décentralisés, sans anonymisation suffisante aux yeux des utilisateurs concernés.

La réaction a été vive. De nombreux membres de Bluesky estimaient avoir rejoint la plateforme précisément pour s’éloigner de pratiques qu’ils jugent trop intrusives sur d’autres réseaux. Pour eux, le fait que leurs posts puissent se retrouver dans une ressource consacrée au machine learning, sans demande de consentement explicite, contredisait l’esprit même de ce choix.

Sous la pression, Daniel van Strien a retiré le jeu de données et s’est excusé. Cet épisode illustre une règle importante dans le débat sur les données et l’IA : l’accès technique à des contenus publics ne règle pas la question sociale et éthique de leur réutilisation. Une publication peut être visible par tous sans que son auteur s’attende à la voir indexée, archivée, recoupée et intégrée à un ensemble destiné à des travaux de recherche ou à des usages automatisés.

Il faut aussi distinguer plusieurs étapes, souvent confondues dans le débat : lire un post, le collecter, le conserver dans une base, l’analyser et l’utiliser pour entraîner un modèle sont des opérations différentes. Dans ce cas précis, la polémique porte sur la création et la diffusion du jeu de données, pas sur la preuve qu’un modèle d’IA aurait effectivement été entraîné avec ces publications.

Pourquoi des messages publics ne sont pas forcément des données sans enjeu

Le caractère public d’un message ne fait pas disparaître les questions de vie privée. Une publication isolée peut sembler anodine. En masse, des millions de messages peuvent révéler des habitudes, des opinions, des centres d’intérêt, des réseaux de relations ou des informations personnelles que leur auteur n’avait pas envisagé de mettre à disposition sous une forme exploitable par machine.

La présence d’identifiants décentralisés accentue cette préoccupation. Ces identifiants servent au fonctionnement d’un réseau social décentralisé et permettent de relier une activité à un compte. Dans un corpus non anonymisé, ils peuvent rendre la séparation entre le contenu et son auteur beaucoup moins nette.

Le débat dépasse Bluesky. Les entreprises qui développent des IA génératives ont besoin de vastes quantités de données, et les contenus accessibles sur internet sont naturellement convoités. Or, les internautes n’ont pas tous la même compréhension de l’expression « public ». Pour certains, elle signifie simplement qu’un message est visible par les autres membres du service. Pour les collecteurs de données, elle peut signifier qu’un flux est techniquement accessible et donc exploitable à une échelle industrielle.

Un réseau décentralisé peut-il réellement protéger ses utilisateurs ?

La décentralisation ne doit pas être confondue avec une confidentialité automatique. Elle vise notamment à éviter qu’une seule entreprise contrôle tous les échanges, les règles techniques et l’accès au réseau. Cette architecture peut donner davantage de choix aux utilisateurs et aux développeurs. Elle peut aussi rendre les données publiques plus faciles à observer ou à répliquer par les participants du réseau.

C’est le paradoxe mis au jour par l’affaire du Firehose. Bluesky a conçu cet accès pour encourager la transparence, l’ouverture et l’innovation. Mais l’ouverture crée également des opportunités de collecte que la plateforme ne maîtrise pas entièrement. Un réseau fermé peut limiter l’accès de tiers, au prix d’un contrôle accru par l’entreprise qui le possède. Un réseau ouvert répartit davantage les capacités, mais il doit imaginer des garde-fous adaptés à cette circulation des données.

Pour les utilisateurs, la conséquence pratique est simple : tout message publié publiquement doit être considéré comme susceptible d’être copié, même si la plateforme qui l’héberge s’engage elle-même à ne pas l’utiliser pour entraîner une IA. Cette prudence concerne particulièrement les informations sensibles, les coordonnées, les données de santé, les récits personnels détaillés ou les contenus publiés sous le coup de l’émotion.

Bluesky cherche encore une réponse sur le consentement

Après la controverse, un porte-parole de Bluesky a évoqué la possibilité de créer des mécanismes permettant aux utilisateurs d’indiquer leur consentement pour l’utilisation de leurs contenus dans des projets liés à l’IA. Au 27 novembre 2024, aucune solution concrète n’a toutefois été annoncée.

L’idée semble simple, mais sa mise en œuvre est complexe. Un mécanisme de consentement devrait dire clairement à quoi l’utilisateur accepte de participer : recherche universitaire, constitution de jeux de données, entraînement commercial, analyse statistique ou indexation par un moteur de recherche. Il faudrait aussi déterminer si ce choix est attaché à chaque publication, à l’ensemble d’un compte ou à certaines catégories de contenus.

La question du retrait est tout aussi délicate. Si une personne change d’avis, comment s’assurer que les collecteurs ont bien cessé d’utiliser les données et qu’ils ont supprimé les copies déjà téléchargées ? Dans un écosystème ouvert, la réponse ne peut pas reposer uniquement sur une déclaration d’intention. Elle suppose des règles techniques lisibles, des conditions d’accès claires et une capacité de vérification.

Ce qu’il faut surveiller

Cette crise est peut-être le premier test important pour Bluesky sur la question des données personnelles. La plateforme doit préserver ce qui fait son attrait, une alternative plus ouverte aux réseaux sociaux dominants, sans laisser ses utilisateurs découvrir trop tard les implications de cette ouverture.

Plusieurs éléments mériteront une attention particulière dans les prochains mois : la mise en place ou non d’un mécanisme de consentement, les conditions applicables à la réutilisation des données du Firehose, les outils d’anonymisation éventuels et la clarté des explications fournies aux personnes qui publient sur le réseau.

L’affaire s’inscrit aussi dans un contexte de méfiance croissante envers les grandes plateformes numériques. Au Royaume-Uni, des députés cherchent à convoquer Elon Musk au sujet de l’impact de X sur les données des utilisateurs, signe que les pratiques des réseaux sociaux suscitent désormais une attention politique renforcée. Pour Bluesky, l’enjeu est de démontrer qu’un modèle différent ne se limite pas à une promesse de ne pas entraîner ses propres IA, mais offre aussi aux utilisateurs une compréhension réelle des chemins que peuvent emprunter leurs contenus publics.