En Australie, l’IA d’Amazon, Google et Meta face au procès de l’opacité

L’intelligence artificielle générative ne se construit pas dans le vide : elle apprend à partir de textes, d’images, de sons et de données produits ou partagés par des personnes. C’est précisément l’origine de ces ressources, ainsi que le consentement de ceux qui les ont fournies, qui se retrouve au cœur d’une enquête parlementaire australienne. Son rapport met Amazon, Google et Meta sous pression, au nom de la vie privée, du droit d’auteur et de l’avenir des métiers créatifs.

Publié dans le cadre des travaux d’un comité sénatorial australien, le document ne se limite pas à une critique technique de l’IA. Il pose une question politique très concrète : qui doit répondre de l’usage des données et des œuvres lorsqu’elles servent à concevoir les systèmes les plus puissants des grandes plateformes ? Pour le président de l’enquête, le sénateur Tony Sheldon, les explications livrées par les entreprises entendues n’ont pas permis de dissiper les inquiétudes.

Ce que l’enquête australienne reproche aux plateformes

Le comité s’est intéressé aux pratiques d’entreprises comme Amazon, Google et Meta, notamment à l’éventuelle utilisation de données australiennes pour entraîner leurs produits d’intelligence artificielle. Au cours des auditions, les représentants des groupes ont été interrogés sur l’origine des données, sur les conditions dans lesquelles elles sont exploitées et sur les garanties offertes aux utilisateurs.

La principale critique tient moins à la description d’une méthode unique qu’à un manque de réponses directes et vérifiables. Tony Sheldon a fait part de sa frustration devant ce qu’il a jugé être la réticence des entreprises à expliquer clairement comment les données personnelles des Australiens pouvaient intervenir dans le développement de l’IA.

Cette absence de visibilité est particulièrement problématique pour les citoyens. Les plateformes numériques réunissent en effet des services très différents : réseaux sociaux, moteurs de recherche, assistants vocaux, lecteurs numériques, messageries ou espaces de stockage. Une personne peut laisser des traces dans chacun d’eux sans pouvoir facilement déterminer si elles sont séparées, recoupées ou réemployées dans un processus d’entraînement.

« Pirates » de la culture : une accusation politique très forte

Tony Sheldon a employé des termes particulièrement durs pour décrire les pratiques dénoncées par l’enquête. Il a qualifié les groupes concernés de « pirates », estimant qu’ils « pillagent notre culture, nos données et notre créativité pour leur profit, laissant les Australiens vides ».

Cette formule traduit une crainte qui dépasse la seule question des informations personnelles. L’Australie dispose de créateurs, d’artistes, d’auteurs, de musiciens, de médias et d’institutions culturelles dont les productions peuvent constituer une matière précieuse pour les systèmes génératifs. Or, lorsqu’un modèle produit un texte, une image ou une musique en s’appuyant sur les régularités apprises à partir d’innombrables œuvres, le lien entre la création initiale et la valeur économique finale devient difficile à établir.

Durant les auditions, le comportement des représentants d’Amazon, Google et Meta a aussi été comparé à un « tour de magie bon marché » : selon les critiques rapportées par le comité, les entreprises auraient multiplié les gestes ou les réponses générales sans fournir les explications attendues sur leurs pratiques.

Il ne s’agit pas seulement d’un débat sur la communication des entreprises. Sans informations détaillées sur les sources d’entraînement, il devient compliqué pour un auteur de savoir si son travail a été utilisé, pour un utilisateur de comprendre ce qu’il a accepté, et pour un régulateur d’apprécier le respect des obligations applicables.

Alexa, Kindle, réseaux sociaux : les données au centre des questions

L’enquête a pointé des zones d’ombre différentes selon les entreprises et leurs services. Amazon n’a pas apporté d’informations sur l’utilisation éventuelle des données recueillies via des appareils et produits tels qu’Alexa et Kindle. Google a, de son côté, évité des questions sur les données des utilisateurs qui pourraient être exploitées dans l’entraînement de ses modèles d’IA.

Meta occupe une place particulière dans le rapport. L’entreprise a reconnu avoir collecté des données d’utilisateurs australiens depuis 2007. Mais, selon les constats de l’enquête, elle n’a pas été en mesure de justifier clairement le consentement de ces utilisateurs pour des finalités liées à l’IA qui n’existaient pas au moment de cette collecte.

La difficulté du consentement est centrale. Accepter les conditions d’un réseau social, d’un assistant vocal ou d’un appareil de lecture numérique ne signifie pas nécessairement, pour un utilisateur, anticiper l’emploi futur de ses données pour développer des modèles d’IA. Le comité demande ainsi que les règles deviennent suffisamment explicites pour que les citoyens puissent comprendre les usages en jeu et faire valoir leurs droits.

Les créateurs demandent transparence et rémunération

Les travailleurs créatifs sont parmi les publics les plus directement concernés. Le rapport estime qu’ils courent un risque plus élevé de subir les effets néfastes de l’IA sur leurs moyens de subsistance. Illustrateurs, musiciens, écrivains, photographes et autres professionnels de la création peuvent voir leur travail concurrencé par des contenus générés rapidement, tandis que leurs œuvres peuvent aussi avoir contribué aux corpus dont ces systèmes tirent leurs capacités.

Le comité avance donc deux principes complémentaires. D’abord, les développeurs d’IA doivent faire preuve de transparence sur l’emploi d’œuvres protégées dans leurs ensembles de données. Ensuite, toute œuvre ainsi déclarée devrait être licenciée et rémunérée de manière appropriée.

L’enjeu n’est pas de prétendre qu’une IA reproduit mécaniquement chaque œuvre présente dans son entraînement. Un modèle apprend généralement des motifs, des formulations et des associations statistiques à partir d’un grand nombre d’exemples. Mais cette explication technique ne tranche pas la question économique : si des contenus créatifs apportent une valeur au système, faut-il prévoir une autorisation, une licence ou une compensation pour ceux qui les ont produits ?

L’organisation Apra Amcos, qui représente notamment des intérêts liés à la musique, a salué les recommandations du rapport comme des « mesures claires » pour réduire les risques pesant sur les travailleurs créatifs. Cette réaction illustre l’importance accordée à la traçabilité des contenus, condition préalable à toute rémunération crédible.

Pourquoi le rapport veut classer certains modèles à haut risque

Le comité ne réclame pas uniquement des engagements volontaires. Il recommande que certains modèles d’IA, notamment ceux associés à OpenAI, Meta et Google, soient automatiquement placés dans une catégorie de « haut risque ». Cette catégorie impliquerait des exigences renforcées en matière de transparence et de responsabilité.

Le classement à haut risque ne signifie pas, en soi, qu’un système devrait être interdit. L’idée est de soumettre les technologies susceptibles d’avoir de vastes conséquences sociales, économiques ou informationnelles à un niveau de contrôle proportionné à leur portée. Pour des modèles utilisés à grande échelle et capables de générer ou de transformer des contenus, les parlementaires jugent que de simples déclarations de principe ne suffisent pas.

Tony Sheldon préconise ainsi de nouvelles lois spécifiquement consacrées à l’IA, parallèlement à des modifications des textes existants. L’objectif affiché est de limiter les abus potentiels et de répondre à la concentration de pouvoir entre les mains d’un nombre réduit de grandes entreprises technologiques.

Un débat politique qui ne se limite pas au droit d’auteur

Le rapport a suscité des réactions contrastées dans la classe politique. Des membres de la coalition parlementaire ont insisté sur le fait que l’IA pose des défis encore plus vastes pour la cybersécurité et les institutions démocratiques que pour le seul secteur créatif. Leur position consiste à encadrer les risques sans fermer la porte au développement technologique ni aux perspectives de création d’emplois.

Cette réserve rappelle qu’une régulation de l’IA doit arbitrer entre plusieurs objectifs : protéger les données personnelles, défendre les créateurs, prévenir les usages préjudiciables, soutenir l’innovation et maintenir une concurrence équitable. Ces impératifs ne sont pas toujours contradictoires, mais ils exigent des règles suffisamment précises pour ne pas laisser les décisions essentielles aux seules plateformes.

Les Verts ont pour leur part critiqué l’absence de recommandations destinées à rapprocher le cadre australien de ceux d’autres juridictions, notamment de l’Europe et du Royaume-Uni. Cette divergence révèle un désaccord classique : faut-il construire une voie nationale propre ou chercher une plus grande cohérence avec les règles développées ailleurs ?

Ce qu’il faut surveiller après cette enquête

La suite dépendra de la traduction des recommandations en mesures concrètes. Les demandes formulées par le comité donnent plusieurs points de vigilance aux citoyens, aux créateurs et aux entreprises : la création éventuelle de lois australiennes dédiées à l’IA, les obligations de transparence imposées aux développeurs et la mise en place de mécanismes de licence ou de rémunération pour les œuvres utilisées dans les corpus.

La question du consentement restera tout aussi déterminante. Pour les utilisateurs, l’enjeu n’est pas seulement de disposer d’un réglage à cocher : il s’agit de savoir quels usages leurs données peuvent réellement connaître au fil du temps, notamment quand une finalité nouvelle comme l’entraînement de l’IA apparaît après la collecte initiale.

Enfin, l’enquête australienne replace la culture au centre du débat technologique. Les données et les œuvres ne sont pas de simples ressources abstraites. Elles proviennent de personnes, de pratiques professionnelles et d’une production culturelle locale. Le défi pour les pouvoirs publics sera de concevoir des règles capables de protéger cette valeur, tout en laissant place aux usages utiles de l’intelligence artificielle.