Kay Firth-Butterfield : l’IA, le métavers et l’exigence de gouvernance

L’intelligence artificielle ne se résume ni à un logiciel spectaculaire ni à une course à la productivité. Elle pose une question plus vaste : qui décide de ses usages, selon quelles règles et avec quels recours lorsqu’elle produit une erreur ou un dommage ? C’est ce terrain de la gouvernance que défend Kay Firth-Butterfield, ancienne responsable de l’IA au Forum économique mondial, dans sa lecture de la transformation numérique.

Au 3 avril 2025, son message reste particulièrement lisible : l’IA, les environnements immersifs souvent regroupés sous le terme de métavers et les outils numériques peuvent créer de nouvelles capacités pour les organisations. Mais ces gains ne sont ni automatiques ni neutres. Ils dépendent de choix humains, de données parfois imparfaites, de règles de déploiement et d’une vigilance maintenue dans le temps.

Kay Firth-Butterfield, une voix de la gouvernance de l’IA

Kay Firth-Butterfield est présentée comme l’une des expertes de référence sur la gouvernance de l’intelligence artificielle. Après avoir exercé des responsabilités liées à l’IA au sein du Forum économique mondial, elle est, au moment de la publication, PDG du Centre for Trustworthy Technology. Son parcours s’inscrit dans un domaine devenu central : organiser le développement et l’emploi de systèmes capables d’influencer des décisions, de générer des contenus ou d’automatiser certaines tâches.

La gouvernance de l’IA ne consiste pas seulement à écrire une charte éthique. Elle recouvre l’ensemble des mécanismes qui permettent de répondre à des questions très concrètes : une entreprise sait-elle quelles données alimentent son système ? A-t-elle vérifié ses performances sur des cas réels ? Qui peut interrompre ou corriger un outil défaillant ? Les personnes concernées savent-elles quand une décision repose, même partiellement, sur un algorithme ?

Le travail de Kay Firth-Butterfield sur des cadres éthiques s’appuie sur une conviction mise en avant dans son approche : l’innovation ne doit pas être opposée aux valeurs humaines. Une technologie peut être puissante tout en étant contrôlée. À l’inverse, un produit lancé sans garde-fous peut fragiliser la confiance des clients, des salariés et des citoyens, même s’il fonctionne techniquement.

Quels risques faut-il encadrer avec l’intelligence artificielle ?

L’essor rapide de l’IA fait émerger plusieurs familles de risques. Les biais algorithmiques sont parmi les plus discutés. Un modèle entraîné sur des données qui reflètent des inégalités ou des erreurs peut les reproduire, voire les amplifier. Dans des domaines comme le recrutement, le crédit, les assurances ou les services publics, ces effets peuvent avoir des conséquences directes sur des personnes.

La confidentialité constitue un deuxième sujet majeur. Les systèmes d’IA ont besoin de données pour être entraînés, testés ou utilisés. Or une donnée personnelle, professionnelle ou sensible ne peut pas être partagée sans précaution. Les organisations doivent donc déterminer quelles informations sont nécessaires, comment elles sont protégées et pendant combien de temps elles sont conservées.

La sécurité et la fiabilité s’ajoutent à cette liste. Les outils génératifs peuvent produire des réponses convaincantes mais erronées. Ils peuvent aussi faciliter la diffusion de contenus trompeurs à grande échelle. Pour une entreprise, le sujet n’est donc pas uniquement de savoir si l’outil est impressionnant lors d’une démonstration. Il faut examiner sa robustesse, ses failles possibles et les conséquences d’une mauvaise réponse dans un contexte donné.

Cette approche rejoint l’idée défendue par Kay Firth-Butterfield : la transparence et la responsabilité ne doivent pas être ajoutées à la fin d’un projet. Elles doivent structurer le projet dès son origine. Une IA n’est pas digne de confiance parce qu’elle utilise une technologie avancée, mais parce que son fonctionnement est évalué et que ses effets sont pris au sérieux.

Du principe éthique aux règles applicables

Le débat sur l’IA s’est longtemps formulé en termes de principes, comme l’équité, l’explicabilité ou le respect des droits humains. Ces principes restent indispensables, mais ils doivent se traduire en pratiques vérifiables. C’est l’un des enjeux essentiels de la gouvernance : passer de bonnes intentions générales à des obligations, des procédures et des preuves.

L’Union européenne offre un exemple de cette évolution avec le règlement européen sur l’intelligence artificielle, aussi appelé AI Act. Il est entré en vigueur le 1er août 2024. Son application est progressive : certaines dispositions, notamment des interdictions visant des pratiques jugées inacceptables, ont commencé à s’appliquer le 2 février 2025, tandis que d’autres obligations suivent leur propre calendrier.

Ce texte ne résout pas à lui seul toutes les questions posées par l’IA. Il montre toutefois que les décideurs publics ne considèrent plus la technologie comme un secteur sans règles. Les entreprises sont encouragées à identifier les risques, à documenter leurs systèmes et à prévoir une gouvernance adaptée à leurs usages.

Pour les organisations, cela implique de faire travailler ensemble plusieurs fonctions qui opéraient souvent séparément : équipes techniques, direction juridique, sécurité informatique, responsables des données, métiers et ressources humaines. Une politique d’IA crédible ne peut pas reposer uniquement sur les développeurs, pas plus qu’elle ne peut être écrite uniquement par des juristes sans prise avec les usages réels.

Le métavers, un espace numérique qui pose aussi des questions sociales

Dans la vision évoquée par Kay Firth-Butterfield, le métavers est une nouvelle frontière pour les interactions humaines. Le mot recouvre des réalités encore diverses : espaces virtuels partagés, expériences immersives, avatars, objets numériques et outils de collaboration qui cherchent à donner un sentiment de présence à distance. Il ne désigne pas une plateforme unique ni une technologie stabilisée.

L’intérêt potentiel est réel pour certains usages : formation en environnement simulé, démonstration de produits, collaboration entre équipes éloignées, événements ou visualisation de lieux et d’objets. L’IA peut y jouer un rôle en générant des environnements, en animant des personnages numériques, en traduisant des échanges ou en personnalisant une expérience.

Mais l’immersion accroît également les questions de sécurité des utilisateurs. Dans un environnement persistant, les données recueillies peuvent être nombreuses : comportements, interactions, préférences, voix, mouvements, parfois informations liées à des dispositifs immersifs. Les règles de modération, de protection des mineurs, de confidentialité et de prévention du harcèlement y deviennent donc particulièrement importantes.

La responsabilité des entreprises ne s’arrête pas au fonctionnement de l’interface. Elle porte aussi sur la manière dont l’espace est conçu : quelles données sont collectées ? Qui peut signaler un problème ? Les utilisateurs comprennent-ils les règles qui s’appliquent ? Les mécanismes de sécurité sont-ils accessibles sans connaissances techniques ? Ces questions sont au cœur d’une technologie immersive acceptable socialement.

Pourquoi l’IA transforme les entreprises, au-delà de l’automatisation

Kay Firth-Butterfield considère l’IA comme un catalyseur de transformation numérique. L’expression ne doit pas être réduite à l’achat d’un assistant conversationnel ou à l’automatisation d’une étape administrative. Une transformation numérique concerne la façon dont une organisation collecte l’information, prend des décisions, rend un service et forme ses collaborateurs.

L’IA peut aider à analyser de grands volumes de données, à assister la rédaction de documents, à simplifier certaines opérations répétitives ou à proposer un premier niveau de personnalisation dans la relation client. Dans les environnements industriels et les services publics, l’interconnexion possible entre IA, objets connectés et infrastructures numériques peut aussi améliorer le suivi d’équipements ou la gestion de ressources.

Pour autant, les investissements technologiques ne garantissent pas, à eux seuls, un avantage compétitif. Une organisation doit définir le problème qu’elle veut résoudre avant de choisir l’outil. Elle doit aussi mesurer ce que change réellement l’IA : temps gagné, qualité améliorée, taux d’erreurs, satisfaction des utilisateurs, effets sur les emplois et coût de supervision.

Une adoption responsable suppose notamment de :

• sélectionner des cas d’usage où le bénéfice attendu est clairement établi ;
• conserver un contrôle humain lorsque l’enjeu pour une personne est important ;
• former les équipes aux capacités réelles et aux limites des outils ;
• documenter les données et les décisions prises pendant le projet ;
• réévaluer régulièrement le système plutôt que de le considérer comme définitivement fiable.

Cette méthode répond aussi aux résistances internes que rencontrent de nombreuses entreprises. La prudence des salariés n’est pas nécessairement un refus du progrès. Elle peut révéler une inquiétude légitime sur la qualité des décisions, l’évolution des compétences ou la protection des informations de travail. Traiter ces questions ouvertement favorise une adoption plus durable.

L’éducation, condition d’un usage éclairé

La nécessité de sensibiliser les dirigeants et les équipes est un autre point mis en avant par Kay Firth-Butterfield. Sans culture minimale de l’IA, deux écueils opposés menacent : croire qu’un système peut décider de tout à la place des humains, ou refuser une technologie utile par méconnaissance de ses possibilités.

Former ne signifie pas transformer chaque salarié en spécialiste des modèles d’apprentissage automatique. Il s’agit plutôt de permettre à chacun de reconnaître les situations où une vérification est nécessaire, de savoir quelles données ne doivent pas être saisies dans un outil externe et de comprendre qu’une réponse fluide n’est pas forcément exacte.

Les dirigeants ont, eux aussi, un rôle spécifique. Ils doivent pouvoir demander les bonnes informations avant d’autoriser un déploiement : objectif du système, données mobilisées, critères de succès, population concernée, risques identifiés et solution prévue en cas d’incident. Cette capacité de questionnement est une composante de la gouvernance, au même titre que les exigences techniques.

Les prix Nobel de 2024, un signal sur la portée scientifique de l’IA

La reconnaissance scientifique de l’IA et de ses méthodes nourrit également la réflexion sur son encadrement. En 2024, le prix Nobel de physique a récompensé John Hopfield et Geoffrey Hinton pour des découvertes et inventions fondamentales permettant l’apprentissage automatique avec des réseaux de neurones artificiels. Le prix Nobel de chimie a, la même année, distingué David Baker, ainsi que Demis Hassabis et John Jumper, pour des travaux liés à la conception computationnelle des protéines et à la prédiction de leur structure.

Ces récompenses ne sont pas un prix Nobel « de l’IA » au sens large. Elles illustrent néanmoins la place prise par les méthodes computationnelles et l’apprentissage automatique dans la recherche scientifique. Elles rappellent surtout que l’IA peut produire des effets considérables dans des domaines sensibles, comme la santé, la science des matériaux ou la gestion des ressources.

Plus les capacités technologiques se diffusent, plus la responsabilité des concepteurs, des entreprises et des autorités publiques devient importante. L’enjeu n’est pas de freiner par principe toute innovation, mais de s’assurer que les bénéfices annoncés ne masquent pas des risques insuffisamment examinés.

Ce qu’il faut surveiller

La trajectoire défendue par Kay Firth-Butterfield repose sur une responsabilité partagée. Les entreprises doivent concevoir et déployer leurs outils avec prudence. Les pouvoirs publics doivent établir des règles proportionnées et applicables. Les citoyens doivent pouvoir comprendre quand l’IA intervient dans leur quotidien et disposer de voies de recours en cas de problème.

Dans les prochains développements de l’IA et du métavers, plusieurs signaux méritent une attention particulière : la qualité des mécanismes de transparence, l’effectivité des protections des données, la lutte contre les contenus trompeurs, la formation des utilisateurs et la capacité des organisations à traiter les incidents. La technologie avance rapidement, mais la confiance ne se décrète pas. Elle se construit par des choix documentés, des contrôles indépendants et un dialogue continu entre innovateurs, régulateurs et société civile.

C’est cette articulation entre ambition technologique et exigence éthique qui donne sa cohérence à la vision de Kay Firth-Butterfield. L’avenir numérique ne dépendra pas uniquement de ce que l’IA rend possible, mais aussi de ce que les sociétés décideront de rendre acceptable.