Peter Kirchschläger : remettre les droits humains au cœur du pouvoir technologique

L’intelligence artificielle, les réseaux sociaux, les moteurs de recherche et les services en nuage font désormais partie des infrastructures ordinaires de la vie quotidienne. Ils permettent de communiquer, travailler, s’informer, se déplacer ou accéder à des services publics et privés. Mais cette place centrale donne aussi aux entreprises qui les conçoivent un pouvoir considérable sur les données, l’attention et parfois les décisions qui concernent les individus. C’est ce déséquilibre que le professeur d’éthique Peter Kirchschläger invite à examiner à travers le prisme des droits humains.

Son point de départ est simple, mais exigeant : l’innovation ne peut pas être jugée uniquement à l’aune de sa vitesse, de sa performance technique ou de sa rentabilité. Elle doit aussi être évaluée selon ses effets concrets sur la dignité, la liberté, la vie privée, l’égalité et la participation à la vie démocratique. Cette grille de lecture ne revient pas à rejeter la technologie. Elle demande de fixer des limites lorsque ses usages peuvent porter atteinte à des droits fondamentaux.

Pourquoi les droits humains sont-ils un cadre utile pour parler de technologie ?

Les droits humains fournissent un langage commun pour traiter de questions qui paraissent souvent très techniques. Derrière un système de recommandation, une caméra connectée ou un outil de recrutement automatisé, il y a des choix : quelles données collecter, quel objectif poursuivre, qui peut accéder au résultat, comment une erreur est-elle corrigée ? Ces choix ne sont jamais neutres pour les personnes qui les subissent ou en bénéficient.

Le cadre des droits humains aide à formuler des questions très concrètes :

• une personne sait-elle quelles données sont recueillies sur elle et pourquoi ?
• peut-elle refuser certains usages, contester une décision ou obtenir une explication compréhensible ?
• un outil produit-il des effets disproportionnés pour certains groupes sociaux ?
• l’entreprise a-t-elle anticipé les risques avant un déploiement à grande échelle ?

L’enjeu est particulièrement important lorsque des services numériques deviennent difficiles à éviter. Une plateforme de communication, un moteur de recherche, une place de marché ou un système d’exploitation ne sont pas de simples produits parmi d’autres : ils peuvent structurer l’accès à l’information et aux relations sociales. Quand quelques acteurs contrôlent des services d’une telle ampleur, les utilisateurs disposent rarement d’un pouvoir de négociation équivalent.

Données personnelles : de la commodité à la surveillance

La collecte de données est l’un des sujets les plus visibles de ce débat. De nombreux services numériques reposent sur l’analyse d’informations liées aux usages : recherches, clics, localisation, interactions, achats ou caractéristiques déclarées par les utilisateurs. Ces données peuvent servir à personnaliser un service, améliorer une sécurité ou financer une offre gratuite par la publicité. Mais elles peuvent également permettre de dresser des profils très détaillés.

Le problème n’est donc pas l’existence même de toute donnée, car certains traitements sont nécessaires au fonctionnement d’un service. Il réside dans l’ampleur de la collecte, dans le manque de lisibilité des pratiques et dans le contrôle réel laissé aux personnes. Accepter des conditions très longues et difficiles à comprendre ne signifie pas toujours que l’utilisateur mesure les conséquences de son choix.

En Europe, le Règlement général sur la protection des données, ou RGPD, est applicable depuis le 25 mai 2018. Il impose notamment un fondement juridique pour traiter des données personnelles, un principe de minimisation, des droits d’accès, de rectification et d’effacement dans certaines situations, ainsi que des obligations de sécurité. Le consentement est une base juridique possible, mais ce n’est pas la seule. Cette précision est importante : le RGPD ne se limite pas à faire cocher des cases de consentement.

Pour autant, le droit des données ne répond pas à tout. Un traitement peut être formellement encadré tout en suscitant des interrogations sur la concentration de l’information, la dépendance à une plateforme ou les effets cumulés d’une surveillance diffuse. Peter Kirchschläger met ainsi en avant un risque plus large : réduire les individus à des sources de données et à des cibles de marché, plutôt qu’à des personnes titulaires de droits.

Algorithmes et IA : quand une décision automatisée pèse sur une vie

Les systèmes algorithmiques ne prennent pas tous des décisions à la place des humains. Beaucoup trient des contenus, détectent des anomalies ou proposent des recommandations. Toutefois, lorsque leurs résultats influencent l’accès à un emploi, à un crédit, à un logement, à une assurance ou à une prestation, les conséquences peuvent devenir majeures.

Un modèle d’intelligence artificielle apprend à partir de données et de méthodes choisies par des organisations. Si les données reflètent des inégalités passées, si l’objectif est mal défini ou si le système est utilisé hors de son contexte, le résultat peut désavantager certaines personnes. Parler de biais algorithmique ne veut pas dire qu’un programme aurait une intention discriminatoire. Cela désigne le risque qu’une conception ou un déploiement produise, dans les faits, des traitements inéquitables.

La difficulté est aussi celle de l’opacité. Les systèmes les plus complexes sont parfois difficiles à interpréter, y compris pour les équipes qui les utilisent. Or une personne affectée par une décision doit pouvoir comprendre la procédure, identifier un interlocuteur responsable et demander une révision lorsque cela est nécessaire. Une explication utile n’est pas une formule abstraite sur l’existence d’un algorithme : elle doit permettre de comprendre les critères pertinents et les voies de recours.

Désinformation et polarisation : le rôle des plateformes dans le débat public

Le débat ne se limite pas aux données individuelles. Les plateformes qui organisent la circulation des contenus peuvent influencer ce que des millions de personnes voient ou ne voient pas. Leurs systèmes de recommandation cherchent généralement à sélectionner des contenus susceptibles d’intéresser un utilisateur. Cette logique peut être utile pour faire émerger des informations pertinentes dans un flux abondant. Elle peut aussi favoriser des contenus engageants, conflictuels ou trompeurs si les garde-fous sont insuffisants.

Les conséquences touchent plus fortement les publics déjà vulnérables. Une information mensongère sur la santé, une campagne de harcèlement ou la mise en avant de discours hostiles peuvent restreindre la participation de certaines personnes à l’espace public. L’enjeu n’est pas de demander aux plateformes de décider seules de la vérité ou de censurer arbitrairement les opinions. Il est de leur imposer des responsabilités proportionnées à leur rôle dans la diffusion et l’amplification des contenus.

Cela passe notamment par des règles de modération compréhensibles, par des mécanismes de signalement accessibles, par une plus grande visibilité sur le fonctionnement des recommandations et par l’accès des chercheurs aux informations nécessaires pour étudier les risques systémiques. Il faut aussi préserver la liberté d’expression et éviter que la lutte contre les contenus illégaux ne devienne le prétexte d’une surveillance excessive. Les droits humains doivent être considérés ensemble, plutôt que mis en concurrence de façon simpliste.

L’Europe renforce progressivement son arsenal juridique

L’appel à une régulation plus ferme formulé par Peter Kirchschläger intervient dans un contexte où l’Union européenne a renforcé son cadre numérique. Le RGPD constitue une pierre angulaire pour les données personnelles, mais d’autres textes visent désormais le pouvoir de marché, les plateformes et l’intelligence artificielle.

Le Digital Services Act, ou DSA, est pleinement applicable depuis le 17 février 2024. Il prévoit notamment des obligations de transparence et de gestion des risques pour les plateformes, avec des exigences renforcées pour les très grandes plateformes et les très grands moteurs de recherche. Le Digital Markets Act, ou DMA, cherche quant à lui à encadrer certaines pratiques des grandes plateformes désignées comme contrôleurs d’accès, afin de rendre les marchés numériques plus contestables.

Enfin, le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Il adopte une logique graduée : plus un usage présente de risques pour les droits fondamentaux ou la sécurité, plus les obligations sont strictes. Certaines pratiques sont interdites, tandis que les systèmes dits à haut risque sont soumis à des exigences portant notamment sur la gestion des risques, la qualité des données, la documentation, la supervision humaine et la robustesse.

Ces textes ne règlent pas tout par eux-mêmes. Une règle n’a d’effet que si les autorités disposent de moyens de contrôle, si les organisations comprennent leurs obligations et si les sanctions peuvent être appliquées. Le défi consiste aussi à ne pas faire porter la charge de la protection uniquement sur les individus, auxquels on demanderait de lire chaque condition d’utilisation ou de paramétrer seuls leur sécurité.

De l’éthique déclarée à la responsabilité vérifiable

Les chartes éthiques et les principes volontaires ont leur utilité : ils peuvent encourager les entreprises à identifier des risques en amont et donner un cap aux équipes. Mais ils restent insuffisants lorsqu’ils ne s’accompagnent ni d’objectifs mesurables, ni de contrôles indépendants, ni de recours pour les personnes affectées.

Une approche fondée sur les droits humains attend des organisations qu’elles évaluent les effets de leurs produits tout au long de leur cycle de vie. Cela commence avant la mise sur le marché, lors de la définition du besoin et de la sélection des données. Cela se poursuit après le déploiement, par le suivi des incidents, l’écoute des utilisateurs et la correction des effets inattendus.

Cette responsabilité concerne aussi les chaînes de sous-traitance. Un service d’IA peut mobiliser des fournisseurs de données, des entreprises de cloud, des prestataires de modération ou des développeurs externes. Répartir les tâches ne doit pas diluer la responsabilité. Les entreprises qui mettent un système sur le marché ou l’intègrent dans un service essentiel doivent pouvoir démontrer qu’elles ont identifié et réduit les risques pertinents.

Les pouvoirs publics, les autorités de contrôle, la société civile, les chercheurs et les médias ont également un rôle à jouer. Une régulation démocratique ne se résume pas à des contraintes administratives : elle organise la possibilité de demander des comptes à des acteurs dont les outils façonnent une partie croissante de la société.

Ce qu’il faut surveiller

Au 24 septembre 2024, le défi n’est plus de savoir si la technologie doit être soumise à des principes éthiques. La question est de savoir comment rendre ces principes effectifs dans des marchés rapides, mondialisés et concentrés. L’entrée en vigueur de l’AI Act ouvre une phase décisive : ses dispositions s’appliqueront progressivement, et leur mise en œuvre dira beaucoup de la capacité européenne à protéger les droits fondamentaux sans renoncer à l’innovation.

Il faudra surveiller la qualité des évaluations de risques menées par les entreprises, les moyens donnés aux régulateurs, la clarté des informations fournies au public et l’effectivité des recours. Il faudra aussi regarder au-delà de l’IA générative, très visible dans le débat public. Les enjeux de droits humains concernent tout autant les systèmes de recommandation, la publicité ciblée, l’identification biométrique, les outils de notation et les décisions automatisées.

La réflexion défendue par Peter Kirchschläger rappelle une exigence essentielle : la technologie doit rester un moyen au service des personnes. Lorsqu’un outil fragilise la vie privée, l’égalité ou la liberté d’expression, le progrès ne peut pas être évalué seulement par ses prouesses techniques. Il doit être jugé à sa capacité à respecter les droits de celles et ceux qui vivent avec ses conséquences.