IA et démocratie : Marietje Schaake alerte sur le pouvoir des géants technologiques

La question posée par Marietje Schaake ne porte pas seulement sur les performances des modèles d’intelligence artificielle. Elle concerne aussi le cadre dans lequel nous les découvrons, les mots employés pour les décrire et les intérêts qui organisent leur diffusion. Lorsqu’une poignée d’entreprises fournit les plateformes, les services cloud, les puces, les réseaux sociaux et, désormais, une part croissante des outils d’IA, elle contribue inévitablement à définir ce qui paraît possible, souhaitable ou inévitable.

L’experte en intelligence artificielle résume cette idée par une formule directe : « Notre perception de la technologie est influencée par les entreprises technologiques elles-mêmes. » Son propos invite à déplacer le regard. Au lieu de considérer la technologie comme une force autonome qui s’imposerait naturellement à la société, il faut s’intéresser aux choix industriels, politiques et économiques derrière les produits.

Cette nuance est particulièrement importante à la fin de l’année 2024, alors que l’IA générative s’installe dans le travail, l’éducation, les médias et les services publics. Le débat ne se limite plus à savoir ce que ces systèmes peuvent faire. Il faut aussi se demander qui les conçoit, qui en fixe les conditions d’accès, quelles données les alimentent et quelles institutions peuvent en contrôler les effets.

La technologie n’est pas qu’une affaire de logiciels

Les grandes plateformes ne vendent pas seulement des applications. Elles proposent des interfaces, organisent l’accès à l’information, fixent des conditions d’utilisation et orientent les usages par leurs choix de conception. Avec l’intelligence artificielle, ce rôle prend une dimension supplémentaire : une même entreprise peut développer un modèle, héberger son fonctionnement dans ses centres de données, le distribuer à des millions d’utilisateurs et intégrer ses fonctions à des logiciels professionnels.

Pour Marietje Schaake, le problème est aussi narratif. Les entreprises du secteur se présentent volontiers comme les porteuses naturelles du progrès, de l’innovation ou de la décentralisation. Ce récit peut être séduisant, notamment quand les services proposés sont utiles et faciles d’accès. Mais il risque de réduire la place d’autres questions : protection de la vie privée, concurrence, conditions de travail, sécurité, droits des créateurs, impact environnemental ou pluralisme de l’information.

Il ne s’agit pas de supposer que toute innovation commerciale est contraire à l’intérêt général. Les entreprises technologiques ont produit des services adoptés au quotidien et des avancées importantes. L’enjeu est plutôt de refuser une idée commode : celle selon laquelle les choix techniques seraient neutres et échapperaient par nature au débat démocratique.

Peut-on vraiment comparer les géants technologiques à des États ?

Le secrétaire britannique à la Technologie, Peter Kyle, a suggéré de traiter les grands groupes technologiques à la manière d’États-nations. La comparaison traduit une réalité : certaines entreprises disposent de ressources financières considérables, opèrent à l’échelle mondiale et prennent des décisions qui affectent directement des populations très nombreuses.

Pour autant, Marietje Schaake met en garde contre une conclusion trop rapide. Accepter que les entreprises soient traitées comme des puissances souveraines reviendrait à banaliser leur place exceptionnelle. Une entreprise privée ne tire pas son autorité d’une élection, ne représente pas des citoyens et n’est pas soumise aux mêmes mécanismes de responsabilité qu’un gouvernement démocratique.

Le parallèle peut donc aider à mesurer l’ampleur du défi, à condition de ne pas effacer une différence essentielle : les pouvoirs publics sont censés agir au nom de l’intérêt général, sous le contrôle du droit, des parlements, des tribunaux, de la presse et des électeurs. Les entreprises répondent d’abord à leur gouvernance interne, à leurs contrats et à leurs objectifs économiques.

Le cœur de l’analyse de Schaake est là : la puissance économique et technique n’est pas une raison pour abandonner le principe de primauté démocratique. Au contraire, plus une entreprise a d’effets sur la vie collective, plus les règles qui l’encadrent doivent être claires et applicables.

Pourquoi l’IA renforce les rapports de dépendance

L’essor de l’intelligence artificielle générative concentre plusieurs ressources difficiles à réunir : puissance de calcul, puces spécialisées, centres de données, compétences de recherche, vastes jeux de données et capitaux. Cette concentration ne signifie pas que seuls quelques acteurs pourront innover. Des laboratoires publics, des startups, des universités et des communautés de logiciels libres jouent également un rôle important. Mais elle explique pourquoi les grandes entreprises occupent une position centrale dans la chaîne de valeur.

Pour un pays, une administration ou une entreprise, dépendre d’un petit nombre de fournisseurs pour des services critiques peut limiter les marges de manœuvre. Une modification de tarif, de conditions contractuelles, de règles d’accès ou de politique de modération peut avoir des conséquences concrètes pour des millions d’utilisateurs. Le sujet dépasse donc la seule question de l’achat d’un logiciel.

La souveraineté technologique est souvent mal comprise. Elle ne suppose pas qu’un État fabrique seul tous les composants, entraîne tous les modèles et possède chaque infrastructure. Dans un monde interdépendant, cet objectif serait irréaliste. Elle désigne plutôt la capacité à faire des choix, à diversifier ses fournisseurs, à protéger ses données sensibles, à imposer des normes et à ne pas se retrouver sans solution de repli.

Les démocraties sont-elles condamnées à courir derrière l’innovation ?

Les entreprises technologiques entretiennent parfois l’idée que les institutions publiques seraient trop lentes ou trop peu compétentes pour comprendre l’innovation. Cette opposition entre une technologie rapide et un État immobile est au centre des préoccupations de Marietje Schaake. Elle peut décourager l’action politique avant même qu’un débat sérieux ait commencé.

Or réguler ne signifie pas dicter chaque décision d’ingénierie, ni empêcher la recherche. Cela consiste à fixer des limites lorsque des droits, la sécurité ou l’équité sont en jeu, puis à donner aux autorités les moyens de faire respecter ces limites. Les règles de circulation ne disent pas aux constructeurs comment inventer un moteur, mais elles imposent des conditions de sécurité à tous les véhicules. Le raisonnement peut s’appliquer aux technologies numériques, avec des outils adaptés à leurs spécificités.

L’Union européenne a précisément choisi cette voie avec le règlement sur l’intelligence artificielle, souvent appelé AI Act. Il est entré en vigueur le 1er août 2024 et son application se fera progressivement. Son principe est de classer certains usages selon leur niveau de risque : les pratiques jugées inacceptables sont interdites, tandis que les systèmes à haut risque doivent respecter des obligations plus strictes. Le texte prévoit aussi des exigences de transparence dans certaines situations et un cadre pour les modèles d’IA à usage général.

Ce cadre ne règle pas, à lui seul, tous les rapports de force. Une loi n’est efficace que si les autorités disposent des compétences, des moyens et de la volonté politique nécessaires pour l’appliquer. Mais il répond à un point central du débat : l’IA ne se situe pas en dehors du droit parce qu’elle serait nouvelle ou complexe.

Royaume-Uni, Europe : le dilemme entre attractivité et contrôle

La sortie du Royaume-Uni de l’Union européenne a rendu sa position plus complexe face aux grands acteurs mondiaux du numérique. Le pays peut établir ses propres politiques, mais il ne participe plus, en tant qu’État membre, à l’élaboration des règles européennes. Dans le même temps, il cherche à attirer des investissements, des chercheurs et des infrastructures technologiques.

Cette recherche d’attractivité n’est pas illégitime. Les investissements dans le calcul, la recherche ou les entreprises innovantes peuvent soutenir l’emploi et la compétitivité. La question est celle de l’équilibre : une stratégie d’accueil ne devrait pas conduire les pouvoirs publics à renoncer à leurs exigences en matière de concurrence, de protection des données, de sécurité ou de responsabilité.

L’analyse de Schaake s’adresse aussi aux pays européens. La dépendance envers des entreprises, souvent américaines, n’est pas seulement un sujet économique. Elle peut devenir un sujet stratégique lorsque des infrastructures numériques sont indispensables aux administrations, aux médias, aux établissements d’enseignement ou aux entreprises. Diversifier les partenariats, soutenir la recherche et garantir l’interopérabilité sont des leviers possibles, à condition de les inscrire dans une vision de long terme.

Le retour de Donald Trump et la place des intérêts technologiques

Le contexte politique américain renforce ces interrogations. Au 1er décembre 2024, Donald Trump vient d’être élu pour un nouveau mandat et doit revenir à la Maison-Blanche en janvier 2025. Il serait donc prématuré d’affirmer quelle orientation prendra sa future administration en matière de réglementation technologique.

La proximité entre responsables politiques et dirigeants d’entreprises technologiques mérite néanmoins une attention particulière. Le soutien public d’Elon Musk à Donald Trump durant la campagne présidentielle a illustré la visibilité prise par certaines figures de la tech dans le débat politique américain. Cette situation ne prouve pas, à elle seule, qu’une politique serait dictée par une entreprise ou par un individu. Elle rappelle toutefois combien l’accès au pouvoir, la capacité d’influence et les intérêts économiques peuvent se croiser.

Pour les démocraties européennes, l’enjeu est de ne pas subir ces évolutions comme de simples décisions extérieures. Elles doivent être capables de défendre leurs propres règles, quelles que soient les alliances ou les changements de cap à Washington.

Rendre le débat sur l’IA aux citoyens

La critique de Marietje Schaake ne se réduit pas à une demande de nouvelles lois. Elle appelle aussi à améliorer la compréhension collective de la technologie. Un débat public éclairé ne nécessite pas que chaque citoyen devienne ingénieur en IA. En revanche, chacun doit pouvoir poser des questions simples et légitimes : quelles données sont utilisées ? Qui est responsable d’une erreur ? Peut-on contester une décision automatisée ? Existe-t-il une alternative ?

Les responsables politiques ont, eux aussi, besoin de compétences solides. Elles leur permettent d’éviter deux écueils : la fascination qui conduit à accepter sans examen les promesses des entreprises, et la peur qui conduit à rejeter indistinctement les usages numériques. Une politique technologique cohérente doit pouvoir encourager l’innovation tout en protégeant les droits fondamentaux.

Les citoyens, les associations, les chercheurs, les syndicats, les journalistes et les autorités indépendantes ont un rôle à jouer dans cette discussion. Leur présence évite que les règles d’un outil utilisé par tous soient écrites uniquement par ceux qui le commercialisent.

Ce qu’il faut surveiller

Le débat sur le pouvoir des géants technologiques se jouera moins dans les déclarations de principe que dans des décisions concrètes. La mise en œuvre progressive de l’AI Act, les moyens accordés aux autorités de contrôle, les conditions des marchés publics numériques et la capacité des acteurs européens à proposer des alternatives seront déterminants.

Il faudra aussi observer la manière dont les entreprises présenteront leurs nouveaux produits d’IA. Promettent-elles des gains de productivité sans expliciter les limites ? Donnent-elles aux utilisateurs des informations suffisantes sur les données, les erreurs possibles et les moyens de recours ? Acceptent-elles des audits indépendants lorsque leurs systèmes ont des effets importants ?

La question soulevée par Marietje Schaake reste finalement très concrète. L’intelligence artificielle peut enrichir la société, mais son déploiement ne doit pas faire de l’utilisateur un simple destinataire de décisions prises ailleurs. Le défi démocratique consiste à garder la main sur les règles, les responsabilités et les finalités de la technologie.