Au G7, le pape François appelle à mettre l’IA au service de la dignité humaine

L’intelligence artificielle n’est plus seulement une affaire de laboratoires, d’entreprises technologiques ou de spécialistes du numérique. En prenant la parole au G7 organisé à Borgo Egnazia, dans les Pouilles, le 14 juin 2024, le pape François a porté le débat sur un terrain politique et moral très concret : qui contrôle ces outils, quelles décisions peut-on leur déléguer, et comment préserver la dignité de chaque personne ?

Cette intervention a marqué une première dans l’histoire de cette enceinte. Le pape est devenu le premier souverain pontife à participer à un sommet du G7, le rendez-vous qui réunit les dirigeants du Canada, de la France, de l’Allemagne, de l’Italie, du Japon, du Royaume-Uni et des États-Unis, avec la participation de l’Union européenne. Son invitation par la présidente du Conseil italienne Giorgia Meloni ne relevait donc pas du seul symbole religieux : elle signalait que l’IA était devenue un sujet de gouvernance mondiale, au même titre que la sécurité, l’économie ou le climat.

Une présence inédite au cœur du G7 italien

Le sommet italien s’est tenu du 13 au 15 juin 2024. François a rejoint une session élargie consacrée notamment à l’intelligence artificielle. Sa présence a donné une résonance particulière à une question déjà très présente dans les échanges entre États : comment profiter des progrès rapides de l’IA sans accepter que ses usages échappent au contrôle démocratique ?

Le G7 n’est pas une institution chargée d’adopter des lois applicables dans le monde entier. C’est en revanche un lieu où les grandes puissances peuvent coordonner leurs priorités, définir des principes communs et peser sur les futures règles internationales. Dans ce cadre, la parole du chef de l’Église catholique a apporté une perspective distincte de celle des gouvernements et des entreprises : celle des conséquences de la technologie sur les personnes les plus exposées, sur les libertés et sur la possibilité de maintenir une responsabilité humaine.

Giorgia Meloni avait estimé que le Saint-Père pouvait apporter une contribution importante aux discussions. Le choix du thème n’était pas fortuit. Depuis plusieurs années, le pape François alerte sur les effets sociaux et éthiques des technologies numériques, sans les présenter comme mauvaises par nature. Sa ligne est plutôt la suivante : l’innovation doit rester un instrument au service du bien commun, et non devenir une force qui impose ses propres règles à la société.

Pourquoi l’intelligence artificielle est-elle devenue un sujet diplomatique ?

L’expression « intelligence artificielle » recouvre des outils très différents. Certains analysent des images médicales, traduisent des textes ou aident à détecter des fraudes. D’autres génèrent du texte, du son ou des images. Dans tous les cas, ils reposent sur des données, des modèles statistiques et des choix effectués par leurs concepteurs : objectifs du système, données utilisées, critères de performance, règles de déploiement.

Le débat international s’est intensifié avec la diffusion des IA génératives. Ces systèmes peuvent produire rapidement des contenus très convaincants, y compris lorsqu’ils sont inexacts. Ils peuvent aussi être intégrés à des processus de recrutement, d’accès au crédit, de surveillance, d’information du public ou de défense. Les bénéfices possibles sont considérables, mais les dommages le sont aussi si les outils sont conçus ou utilisés sans contrôle.

Le discours de François s’inscrivait dans cette réalité. Il a insisté sur le fait qu’aucune machine ne devrait pouvoir décider, seule, de la vie ou de la mort d’un être humain. Cette formule renvoie particulièrement aux systèmes d’armes autonomes, mais elle pose aussi une question plus large : une décision qui affecte profondément une personne peut-elle être abandonnée à un calcul automatisé, sans compréhension, sans recours et sans responsable identifiable ?

« Dictature technologique » : ce que redoute le pape François

La préoccupation du pape ne porte pas sur une technologie abstraite, mais sur le risque que l’être humain renonce progressivement à sa capacité de jugement. Dans un texte consacré à l’intelligence artificielle et à la paix, il avertissait : « L’être humain risque, dans la recherche d’une liberté absolue, de tomber dans la spirale d’une dictature technologique. »

Cette expression ne décrit pas un scénario de science-fiction où les machines prendraient soudainement le pouvoir. Elle vise plutôt une dépendance plus diffuse : lorsque des systèmes opaques trient les informations visibles, orientent des choix, évaluent des personnes ou déterminent l’accès à des ressources, sans que les citoyens puissent comprendre leurs critères ni en discuter les effets.

L’un des sujets les plus sensibles est celui de la désinformation. Les outils génératifs facilitent la création de textes, d’images, d’enregistrements vocaux et de vidéos qui peuvent paraître authentiques. Dans un contexte électoral ou de crise internationale, ces contenus peuvent servir à tromper, à intimider ou à polariser le débat. François avait déjà évoqué les « campagnes de désinformation » et leur potentiel destructeur pour les sociétés contemporaines.

Il y a également un risque de concentration du pouvoir. Développer les modèles les plus avancés exige des données, des puces informatiques, des centres de données et des moyens financiers considérables. Si quelques acteurs privés ou quelques États contrôlent seuls ces ressources, ils peuvent exercer une influence déterminante sur les outils utilisés par des centaines de millions de personnes. La question n’est donc pas uniquement technique : elle touche à l’égalité d’accès, à la souveraineté et à la répartition des bénéfices de l’innovation.

Enfin, les biais algorithmiques constituent un défi majeur. Un système apprend à partir d’exemples et de données qui reflètent parfois des discriminations ou des déséquilibres existants. Sans précautions, l’automatisation peut reproduire ces inégalités à grande échelle, tout en donnant à ses résultats une apparence de neutralité mathématique. C’est pourquoi la supervision humaine ne peut se réduire à une formalité.

L’« algor-éthique », une méthode pour ne pas subir les algorithmes

Dès 2019, le pape François a employé l’idée d’« algor-éthique ». Le mot associe les algorithmes à l’éthique, c’est-à-dire à une réflexion sur les valeurs qui doivent guider les choix techniques. L’ambition est simple en apparence : ne pas attendre qu’un système provoque un dommage pour s’interroger sur ses règles de fonctionnement.

Cette approche refuse l’idée selon laquelle la technologie serait neutre. Un algorithme traduit toujours des décisions humaines : les données retenues, les variables prises en compte, les objectifs assignés et les résultats jugés souhaitables. Concevoir une IA de manière responsable suppose donc d’associer, au-delà des ingénieurs, des juristes, des chercheurs, des représentants de la société civile et les personnes susceptibles d’être affectées par le système.

Le Vatican a prolongé cette réflexion avec le Rome Call for AI Ethics, un appel qui défend notamment la transparence, l’inclusion, la responsabilité, l’impartialité, la sécurité et le respect de la vie privée. Ces principes ne remplacent pas des lois, mais ils donnent une boussole : l’efficacité d’un outil ne suffit pas à justifier son adoption.

L’Europe et l’appel à un traité international : deux échelles de réponse

L’appel du pape à un encadrement international arrive alors que l’Union européenne a adopté en 2024 l’AI Act, un règlement consacré à l’intelligence artificielle. Ce texte repose sur une logique de niveaux de risque : plus un usage est susceptible d’affecter la sécurité ou les droits fondamentaux, plus les obligations imposées à son fournisseur ou à son utilisateur sont fortes.

L’AI Act est une étape importante, car il crée un cadre juridique pour le marché européen. Mais il ne répond pas, à lui seul, aux usages de l’IA développés ou déployés hors d’Europe, ni aux enjeux militaires, géopolitiques ou environnementaux à l’échelle mondiale. C’est la raison pour laquelle François avait appelé, en décembre 2023, à un traité international contraignant destiné à réguler le développement et l’usage de ces technologies.

Au moment de cette publication, en janvier 2025, l’AI Act est entré en vigueur mais son application est progressive. Cette mise en œuvre par étapes illustre la difficulté du sujet : les règles doivent être suffisamment précises pour protéger les citoyens, tout en restant adaptables face à une technologie qui évolue rapidement.

Le message défendu au G7 est donc celui d’une responsabilité partagée. Les États ont un rôle de régulateur et de garant des droits. Les entreprises doivent évaluer les risques de leurs produits avant leur diffusion. Les chercheurs doivent pouvoir étudier les limites et les effets des modèles. Les citoyens, enfin, doivent disposer d’informations compréhensibles et de moyens de recours lorsqu’une décision automatisée leur porte préjudice.

Ce que le discours du G7 change dans le débat public

L’intervention de François n’a pas créé à elle seule de nouvelles obligations internationales. Son importance est ailleurs : elle a contribué à sortir l’IA d’un débat réservé aux seuls experts. En plaçant la dignité humaine, la paix et la responsabilité au centre de la discussion, le pape a rappelé que les choix technologiques sont aussi des choix de société.

Cette perspective est particulièrement utile face à une fascination parfois excessive pour la performance des modèles. Une IA capable d’écrire, de résumer ou de classer plus vite qu’un humain ne dit rien, à elle seule, de la pertinence de son utilisation dans une école, un hôpital, une administration ou un tribunal. Il faut aussi demander : quel problème veut-on résoudre ? Qui bénéficie du système ? Qui supporte ses erreurs ? Qui peut l’arrêter ou la contester ?

La participation du pape au G7 a également souligné que la gouvernance de l’IA ne peut pas être seulement nationale. Les contenus circulent au-delà des frontières, les modèles sont entraînés et déployés à l’échelle mondiale, et les effets économiques de l’automatisation concernent toutes les sociétés. Une coopération internationale sera donc nécessaire, même si les intérêts stratégiques des États rendent cet objectif difficile.

Ce qu’il faut surveiller

Les prochains débats sur l’IA devront se juger moins à la force des déclarations qu’à des mesures concrètes. La mise en œuvre de l’AI Act en Europe constituera un premier test : les autorités auront-elles les moyens d’appliquer les règles, et les entreprises seront-elles capables de démontrer la sûreté de leurs systèmes ?

Il faudra aussi observer les discussions internationales sur les systèmes d’armes autonomes, la lutte contre les manipulations informationnelles et la protection des droits fondamentaux. Le défi sera d’éviter deux écueils : une réglementation trop faible, qui laisserait prospérer des usages dangereux, et des règles mal conçues, qui ne protégeraient ni les citoyens ni l’innovation utile.

La question posée par le pape François au G7 demeure donc entière : le progrès technique peut élargir les capacités humaines, mais il ne doit pas réduire la responsabilité humaine. À mesure que l’IA s’installe dans la vie quotidienne, cette exigence de contrôle, de transparence et de justice devient un choix collectif incontournable.