À Davos, le pape François alerte sur l’IA et la crise de la vérité

L’intelligence artificielle ne pose pas seulement une question de performance technique ou de croissance économique. Elle interroge aussi la façon dont les sociétés établissent les faits, attribuent les responsabilités et prennent des décisions. Dans un message au Forum économique mondial de Davos, le pape François a placé cette dimension au centre du débat : l’IA, alerte-t-il, peut nourrir une « crise de la vérité » déjà sensible dans l’espace public.

L’avertissement s’adresse à un auditoire qui réunit responsables politiques, dirigeants d’entreprise, investisseurs et acteurs de la technologie. Il ne consiste pas à condamner l’IA dans son ensemble. Le pape François reconnaît son potentiel de transformation, y compris lorsqu’elle est mobilisée au service de l’intérêt général. Mais il appelle à examiner les conditions de son développement et de son emploi : qui conçoit les systèmes, qui les contrôle, à quelles fins et avec quelles conséquences pour la dignité humaine.

À Davos, une alerte sur le rapport collectif aux faits

Le Forum économique mondial de Davos est l’un des lieux où se discutent les grandes orientations économiques et technologiques mondiales. En janvier 2025, l’intelligence artificielle y occupe une place centrale : les entreprises y défendent ses promesses de productivité, les gouvernements cherchent à en maîtriser les effets, et les chercheurs mettent en avant ses applications scientifiques.

C’est dans ce contexte que le pape François demande aux décideurs de regarder au-delà de l’attrait des outils. Sa préoccupation porte notamment sur la capacité des systèmes génératifs à produire des textes, des images, des voix ou des vidéos qui peuvent paraître crédibles, parfois au point d’être difficilement distingués d’un contenu créé par une personne.

La conséquence n’est pas seulement le risque qu’un contenu faux circule. Elle touche également à la confiance accordée aux contenus authentiques. Si chacun peut soupçonner qu’une image, un enregistrement ou un document a été fabriqué, il devient plus difficile de s’entendre sur des éléments communs de réalité. Cette fragilisation du débat public est au cœur de la crise de la vérité évoquée par le pape.

Pourquoi les deepfakes inquiètent-ils autant ?

Les deepfakes sont des images, des vidéos ou des enregistrements audio modifiés ou créés grâce à l’IA de manière à imiter une personne réelle. Ils peuvent faire croire qu’une personne a tenu des propos, accompli une action ou soutenu une position qui ne correspondent pas à la réalité.

Le pape François a lui-même été confronté à des images truquées le représentant. Son intervention à Davos donne donc un visage concret à un phénomène qui ne relève plus seulement de la fiction ou des démonstrations de laboratoire. Lorsque ces techniques sont employées pour manipuler, elles peuvent viser des personnalités publiques, mais aussi des citoyens ordinaires, des entreprises ou des institutions.

Les progrès de l’IA générative rendent cette question particulièrement délicate. Une image spectaculaire ne constitue plus, à elle seule, une preuve. Un extrait vocal convaincant ne garantit plus qu’une personne a réellement prononcé les mots entendus. Et un texte très fluide ne permet pas toujours d’en déduire l’auteur ou le degré de vérification des informations qu’il contient.

Cette difficulté de vérification ne doit pas conduire à considérer tous les contenus comme suspects. Elle impose plutôt de renforcer les réflexes de vérification, en particulier lorsqu’un contenu provoque une émotion forte, semble exceptionnel ou a des conséquences politiques, financières ou personnelles importantes.

La responsabilité humaine ne disparaît pas avec l’automatisation

Le message du pape François pose une question essentielle : que devient la responsabilité lorsque des systèmes informatiques participent à des décisions importantes ? L’IA peut analyser de grandes quantités de données, recommander une action, classer des candidatures, hiérarchiser des informations ou générer des contenus à grande échelle. Mais son intervention ne doit pas faire disparaître les choix des personnes et des organisations qui la mettent en œuvre.

Parler de système « autonome » peut d’ailleurs prêter à confusion. Une IA ne choisit pas ses objectifs moraux et ne répond pas de ses actes au sens humain ou juridique du terme. Ses résultats dépendent de sa conception, des données utilisées, des instructions données et du cadre dans lequel elle est déployée. Lorsqu’un outil influence un recrutement, l’accès à un service, la visibilité d’une information ou une décision économique, des responsables humains restent à l’origine de son usage.

Le pape appelle ainsi les gouvernements et les entreprises à la prudence, à la vigilance et à une forme de diligence dans la gestion des technologies émergentes. L’enjeu est d’éviter une déresponsabilisation pratique : attribuer à la machine une décision qui relève en réalité de règles, de paramètres et de priorités définis par des humains.

Cette mise en garde vise aussi une vision réductrice de l’innovation, selon laquelle la technologie suffirait à résoudre les problèmes sociaux, économiques ou politiques. L’IA peut assister la recherche, faciliter certaines tâches et améliorer des services. Elle ne peut toutefois pas décider seule de ce qui est juste, acceptable ou souhaitable pour une société.

À Davos, les promesses économiques et médicales de l’IA

Les débats du sommet montrent que l’IA est envisagée à la fois comme un facteur de transformation du travail et comme un outil scientifique potentiellement précieux. Ces perspectives ne contredisent pas l’alerte du pape François. Elles illustrent au contraire la nécessité d’évaluer les bénéfices attendus en même temps que les risques sociaux et démocratiques.

Marc Benioff, dirigeant de Salesforce, a ainsi estimé que la prochaine génération de cadres devrait apprendre à faire coexister des travailleurs humains et numériques. Cette formule traduit une évolution des organisations : les systèmes d’IA pourraient prendre en charge certaines tâches, assister des équipes ou automatiser une partie des processus. Elle soulève aussi des questions concrètes sur la répartition du travail, l’évolution des compétences et la place conservée au jugement humain.

Ruth Porat, directrice des investissements chez Alphabet, a de son côté mis en avant les possibilités offertes par l’IA dans la santé. Elle a notamment cité AlphaFold, le programme de Google qui a prédit les structures de millions de protéines. Comprendre la structure d’une protéine peut aider la recherche biomédicale, notamment dans l’étude des mécanismes du vivant et la découverte de médicaments.

L’exemple d’AlphaFold rappelle que l’IA ne se résume pas aux assistants conversationnels ou aux images synthétiques. Elle peut aussi servir à explorer des problèmes scientifiques d’une immense complexité. Mais les bénéfices d’une innovation ne dispensent pas de poser des garde-fous. C’est précisément le sens de l’appel lancé à Davos : les capacités techniques doivent être mises au service de finalités humaines clairement assumées.

Une régulation ne remplace pas le discernement, mais elle l’organise

L’appel à la responsabilité rejoint un débat déjà engagé dans de nombreux pays : faut-il encadrer l’IA, et comment ? La régulation ne permet pas de supprimer tous les abus. Elle peut en revanche établir des obligations de transparence, des interdictions dans certains cas, des responsabilités identifiables et des mécanismes de contrôle.

Dans l’Union européenne, l’AI Act est entré en vigueur le 1er août 2024. Son application est progressive. Le texte prévoit une approche fondée sur le niveau de risque et encadre notamment certains usages jugés inacceptables ou sensibles. Il s’inscrit dans une logique différente, mais compatible avec l’inquiétude exprimée par le pape : une technologie puissante ne peut être abandonnée à la seule logique du marché ou à l’enthousiasme pour l’innovation.

Le message de François ne propose pas une loi détaillée, ni une solution technique unique aux deepfakes et à la désinformation. Il invite plutôt à un dialogue approfondi sur les objectifs poursuivis. Pour les pouvoirs publics, cela signifie définir des règles applicables. Pour les entreprises, documenter et surveiller les usages de leurs outils. Pour les médias, les institutions et les citoyens, cela implique de mieux identifier les procédés de manipulation et de ne pas relayer sans précaution des contenus douteux.

La régulation est donc nécessaire, mais elle ne suffit pas à elle seule. Les règles ne remplaceront ni l’esprit critique, ni la déontologie, ni le débat démocratique sur les choix collectifs que l’IA rend possibles.

Ce qu’il faut surveiller

L’alerte lancée à Davos porte moins sur un avenir abstrait que sur des usages déjà présents. La sophistication des contenus générés par IA continuera de mettre sous pression les méthodes traditionnelles de vérification. La question centrale sera de savoir si les sociétés parviennent à maintenir des repères fiables sans renoncer aux bénéfices réels de ces outils.

Trois évolutions méritent une attention particulière. D’abord, la capacité des plateformes, des médias et des autorités à détecter et signaler les contenus manipulés. Ensuite, l’application concrète de règles imposant davantage de transparence et de responsabilité aux acteurs qui développent ou déploient l’IA. Enfin, la manière dont le monde du travail et les services publics intégreront ces systèmes sans reléguer les personnes au rôle de simples exécutants de décisions automatisées.

Le message du pape François rappelle qu’une innovation ne se mesure pas uniquement à ce qu’elle est capable de produire. Elle se juge aussi à ce qu’elle protège : la vérité des faits, la confiance entre les personnes et la possibilité, pour chacun, de comprendre les décisions qui affectent sa vie.