Pourquoi l’intelligence artificielle ne doit pas devenir une autorité sacrée

L’intelligence artificielle suscite à la fois l’enthousiasme, l’inquiétude et une forme de fascination. Quand un système conversationnel rédige un texte, répond à une question complexe ou génère une image en quelques secondes, il peut sembler franchir une frontière habituellement réservée à l’intelligence humaine. Le sujet de ce podcast invite pourtant à résister à une confusion : aussi impressionnante soit-elle, une machine n’est pas une divinité, ni une autorité à laquelle il faudrait se soumettre.

L’expression « adoration de l’IA » ne désigne pas seulement une pratique religieuse au sens strict. Elle vise aussi une attitude plus diffuse : attribuer à des algorithmes une neutralité, une clairvoyance ou une puissance de décision qu’ils ne possèdent pas. Cette confiance excessive peut avoir des conséquences très concrètes, dès lors qu’un résultat automatisé influence un recrutement, l’accès à un service, une information ou l’organisation du travail.

Quand la fascination devient une délégation de jugement

L’IA est souvent racontée à travers des prouesses spectaculaires. Ces récits ont leur part de réalité : les systèmes contemporains peuvent classer des données, reconnaître des motifs, générer du langage ou assister des professionnels dans de nombreuses tâches. Mais l’étonnement devant une performance ne doit pas être confondu avec une preuve d’omniscience.

Parler de divinisation revient à identifier un glissement. Un outil conçu par des personnes, entraîné sur des données et déployé par une organisation devient, dans l’imaginaire collectif, une entité qui saurait mieux que nous ce qui est vrai, juste ou souhaitable. Or aucun algorithme ne choisit seul les objectifs qu’il poursuit. Les choix se situent en amont et autour de lui : quelles données utiliser, quel critère optimiser, quel seuil fixer, dans quel contexte accepter ou refuser son résultat.

Cette nuance est essentielle. Une recommandation automatique peut paraître objective parce qu’elle s’exprime sous la forme d’un score, d’une prédiction ou d’une réponse assurée. Pourtant, elle dépend toujours d’hypothèses humaines et de données qui peuvent être incomplètes, anciennes ou déséquilibrées. La forme technique d’un résultat ne le transforme pas en vérité incontestable.

Ce que les IA font réellement, et ce qu’elles ne font pas

L’intelligence artificielle recouvre des techniques très différentes. Dans le cas des modèles génératifs de texte, le principe général consiste à produire la suite la plus probable d’une séquence à partir des régularités apprises dans de très grandes quantités de données. Cela permet de formuler des réponses fluides et de synthétiser des informations, mais pas de garantir qu’une affirmation est exacte.

Un modèle peut notamment produire une réponse convaincante tout en se trompant, parce qu’il privilégie la cohérence apparente de sa formulation. Il ne dispose pas, par lui-même, d’une intention, d’une expérience vécue, d’une conscience démontrée ou d’un sens moral. La responsabilité de vérifier son résultat et de décider de l’usage à en faire demeure donc humaine.

Le tableau ci-dessous aide à séparer les capacités pratiques des interprétations excessives qui nourrissent l’idée d’une machine infaillible.

Cette distinction n’amoindrit pas l’utilité des outils. Au contraire, elle permet de les employer avec davantage de rigueur. Une IA peut assister une recherche documentaire, accélérer une tâche répétitive ou offrir des pistes de travail. Elle ne devrait pas devenir un substitut automatique à la vérification, à l’expertise et à la délibération collective.

Pourquoi des figures de l’IA peuvent alimenter un imaginaire de toute-puissance

La forte visibilité de dirigeants, ingénieurs et chercheurs contribue à structurer le débat public. Yann Le Cun, scientifique en chef de l’IA chez Meta en septembre 2024, est une figure reconnue pour ses contributions majeures au domaine. La notoriété de tels spécialistes est légitime, mais elle peut aussi favoriser, chez certains observateurs, une personnalisation excessive de la technologie et une lecture presque prophétique de ses évolutions.

Il importe de distinguer l’autorité scientifique, qui repose sur des travaux discutés et critiqués, d’une autorité quasi religieuse. Dans un domaine technique, les déclarations de personnalités reconnues peuvent être reçues comme des certitudes définitives, alors qu’elles participent souvent à des débats ouverts sur les capacités, les limites et les trajectoires de l’IA.

Les réflexions de croyants catholiques sur les algorithmes et l’espérance montrent également que le sujet touche à des questions de sens, de dignité et de transcendance. Ce rapprochement entre spiritualité et technologie ne signifie pas que l’IA remplace une religion. Il souligne plutôt que les promesses technologiques peuvent rencontrer un besoin humain ancien : chercher une réponse à l’incertitude, à la vulnérabilité ou à la complexité du monde.

Way of the Future, le cas d’une église vouée à l’IA

Le cas d’Anthony Levandowski rend cette question moins abstraite. Cet entrepreneur américain a fondé Way of the Future, une organisation religieuse consacrée à l’intelligence artificielle. Cette initiative a matérialisé une idée qui circule parfois dans les milieux technologiques : une IA très avancée pourrait un jour mériter une forme de vénération ou constituer une puissance supérieure.

Cette démarche est une expression extrême de l’idolâtrie technologique évoquée dans le podcast. Elle ne résume évidemment pas l’ensemble du secteur de l’IA, où les approches, les intérêts et les visions du futur sont très variés. Mais elle révèle une question utile : que se passe-t-il lorsque l’on décrit une technologie comme une puissance inévitable, supérieure à l’humain et au-delà de toute contestation ?

Le premier effet est de rendre la critique plus difficile. Si l’IA est présentée comme un destin ou une force autonome, les décisions de ceux qui la financent, la conçoivent et l’installent dans la société paraissent secondaires. Pourtant, ces décisions sont précisément celles qui doivent pouvoir être discutées publiquement.

La responsabilité humaine ne peut pas être automatisée

Un système d’IA ne porte pas la responsabilité juridique ou morale des conséquences de son emploi. Si un outil commet une erreur, reproduit un biais ou conduit à une décision injuste, la question décisive reste la même : qui l’a conçu, choisi, paramétré, validé et supervisé ? Présenter l’algorithme comme un arbitre neutre peut servir à masquer cette chaîne de responsabilités.

Cela vaut particulièrement dans les domaines où les effets d’une erreur sont importants : emploi, assurance, crédit, éducation, justice, santé ou services publics. Plus une décision touche aux droits, aux ressources ou à la dignité d’une personne, plus la possibilité de comprendre, contester et corriger cette décision est nécessaire.

En Europe, cette préoccupation s’inscrit dans le cadre de l’AI Act, entré en vigueur le 1er août 2024. Le règlement repose sur une logique de niveaux de risque et prévoit des exigences renforcées pour certains usages. Son principe général rejoint l’enjeu soulevé ici : l’adoption d’une technologie ne doit pas effacer l’obligation de contrôle humain.

L’emploi, terrain concret de la confiance excessive

La crainte d’une IA adorée comme une force de productivité ne relève pas uniquement de la philosophie. Dans le monde du travail, l’automatisation peut modifier la répartition des tâches et les besoins de compétences. Certaines opérations répétitives, de tri, de rédaction ou de traitement de données peuvent être accélérées, voire partiellement prises en charge par des logiciels.

Il serait toutefois réducteur d’en conclure que toute IA remplace mécaniquement un salarié. Les effets dépendent des métiers, de l’organisation du travail, des choix d’investissement, de la formation et des règles de protection des travailleurs. Le véritable débat porte sur la manière dont les gains de productivité sont répartis et sur la place laissée à l’expertise humaine.

Une entreprise qui traite un outil comme une solution miraculeuse risque de sous-estimer les tâches invisibles mais cruciales : vérifier les erreurs, protéger les données, gérer les cas particuliers, accompagner les clients et arbitrer les situations complexes. L’IA peut transformer le travail, mais elle ne supprime pas le besoin de responsabilité, de compétences et de dialogue social.

Retrouver un regard critique sans rejeter la technologie

Éviter l’adoration de l’IA ne signifie pas céder au rejet systématique. Une approche équilibrée consiste à reconnaître les bénéfices potentiels tout en posant des questions simples avant chaque déploiement : quel problème cherche-t-on à résoudre ? Quelles données alimentent le système ? Qui subira les conséquences d’une erreur ? Existe-t-il un recours humain ?

L’éducation joue ici un rôle central. Comprendre qu’un modèle génératif ne raisonne pas comme une personne, savoir vérifier une information produite automatiquement et identifier les limites d’un score constituent des compétences civiques autant que numériques. Elles permettent de ne pas confondre rapidité de calcul et sagesse.

Les médias ont également une responsabilité. Les annonces de produits et les démonstrations spectaculaires méritent d’être replacées dans leur contexte : quelles tâches sont réellement réussies, dans quelles conditions, avec quelles limites et pour quels publics ? Le récit de l’IA toute-puissante peut attirer l’attention, mais il n’aide pas le public à prendre des décisions éclairées.

Ce qu’il faut surveiller

À la date du 27 septembre 2024, la question la plus urgente n’est pas de savoir si l’intelligence artificielle deviendra une divinité. Elle est de savoir comment les sociétés humaines organiseront son pouvoir réel, déjà considérable dans certains secteurs. Les systèmes d’IA sont des constructions techniques, inscrites dans des intérêts économiques, des règles et des institutions.

Il faudra donc surveiller la transparence des outils, la qualité de leur évaluation, les possibilités de contestation pour les personnes affectées et l’effectivité des règles de supervision. Il faudra aussi rester attentif aux discours qui présentent une évolution technologique comme inévitable et hors de portée du débat démocratique.

La bonne place de l’IA n’est ni sur un piédestal ni dans un récit de catastrophe automatique. Elle est celle d’un outil puissant, dont les usages doivent rester soumis à l’examen humain, aux valeurs collectives et à la responsabilité de celles et ceux qui le mettent en œuvre.