Les visionnaires de l’IA : promesses, biais et règles pour un progrès maîtrisé

L’intelligence artificielle n’est plus seulement un sujet de laboratoires ou de romans d’anticipation. Des outils capables de classer des images, de recommander un contenu, de prévoir une demande ou de générer un texte participent déjà à des décisions quotidiennes. Cette diffusion rapide explique l’intérêt pour les « visionnaires de l’IA », chercheurs, entrepreneurs, philosophes et responsables publics qui interrogent autant les possibilités de ces technologies que les conditions de leur acceptabilité.

Le débat ne porte donc pas uniquement sur la performance des machines. Il concerne aussi les données qui les nourrissent, les personnes qui les conçoivent, les organisations qui les déploient et les règles qui les encadrent. À la date du 11 décembre 2024, l’enjeu central est clair : tirer parti de l’IA là où elle apporte une aide réelle, sans déléguer aveuglément des décisions qui touchent aux droits, à la santé, au travail ou à la sécurité.

Comment fonctionne l’intelligence artificielle ?

L’expression « intelligence artificielle » recouvre des techniques très différentes. Leur point commun est de confier à un système informatique une tâche qui demande habituellement une forme de perception, de prédiction, de classification ou de production de langage. L’IA ne pense pas comme un humain et ne comprend pas nécessairement le monde au sens courant du terme. Elle détecte surtout des régularités dans les données disponibles afin de produire une réponse ou une estimation.

L’apprentissage automatique, ou machine learning, constitue l’un de ses principaux fondements. Au lieu de définir à la main toutes les règles nécessaires, les concepteurs montrent au modèle de nombreux exemples. À partir de ces exemples, il ajuste ses paramètres pour réduire ses erreurs. Les réseaux de neurones, inspirés de façon lointaine par l’organisation du cerveau, sont particulièrement utilisés pour traiter des images, du son, du texte ou de grandes masses de données.

Les modèles génératifs, rendus populaires auprès du grand public par les assistants conversationnels, prolongent cette logique. Ils prédisent l’élément le plus plausible à ajouter à une séquence, par exemple le mot suivant d’une phrase ou les pixels suivants d’une image. Leur aisance à formuler des réponses peut donner l’impression qu’ils savent, vérifient ou raisonnent toujours correctement. Ce n’est pas le cas : ils peuvent aussi produire une information erronée, incomplète ou inadaptée avec une formulation très convaincante.

Santé, éducation, transports : où l’IA peut-elle être utile ?

Le principal atout de l’IA est sa capacité à examiner rapidement un volume de données difficile à traiter manuellement. Cette force peut améliorer l’organisation d’un service, aider un spécialiste à prioriser des dossiers ou automatiser une tâche répétitive. Elle ne transforme pas pour autant chaque problème en problème informatique.

En santé, des algorithmes sont déjà développés pour analyser des images médicales et repérer des anomalies susceptibles d’orienter le diagnostic. Dans des conditions précises, sur certaines tâches et avec des données adaptées, leurs performances peuvent rivaliser avec celles d’experts ou les dépasser. Il serait toutefois trompeur d’en conclure qu’une IA remplace un médecin. Une image n’est qu’un élément du diagnostic : les antécédents, les symptômes, l’examen clinique, l’échange avec le patient et la responsabilité médicale restent essentiels.

Dans l’éducation, l’IA peut proposer des exercices adaptés au niveau d’un élève, résumer un document ou assister la préparation de cours. Mais elle peut également fournir de mauvaises explications, uniformiser les productions ou faciliter la triche si son emploi n’est pas pensé par les enseignants. Dans les transports et la logistique, elle sert notamment à anticiper les flux, optimiser des itinéraires ou mieux planifier l’entretien des équipements.

L’exemple de Claude 3.5, cité parmi les avancées récentes d’Anthropic, illustre cette évolution des interfaces. Les modèles de langage peuvent rendre un outil numérique plus accessible en permettant de formuler une demande en langage courant. Pour une organisation, l’intérêt ne vient pas du seul caractère conversationnel de l’interface. Il dépend de la capacité de l’outil à s’insérer dans un processus précis, à respecter les données traitées et à permettre une vérification des résultats.

Pourquoi les biais algorithmiques posent-ils un problème ?

Un algorithme peut reproduire des préjugés présents dans les données qui ont servi à son entraînement. Si certains groupes sont peu représentés, mal décrits ou associés de façon répétée à des situations défavorables, les résultats risquent d’être moins fiables pour eux. Ces biais peuvent concerner le sexe, l’origine supposée, l’âge, le handicap, le lieu de résidence ou la situation sociale.

Le risque est particulièrement élevé lorsque l’IA intervient dans des domaines qui affectent directement une personne : recrutement, accès à un crédit, assurance, aide sociale, éducation, justice ou soins. Un système peut paraître performant en moyenne et pourtant commettre davantage d’erreurs pour une partie de la population. Une automatisation mal conçue peut alors donner une apparence objective à une discrimination déjà existante.

Réduire ce risque suppose un travail continu, qui commence bien avant le lancement d’un produit. Il faut notamment documenter l’origine des données, mesurer les écarts de performance entre groupes lorsque cela est pertinent et légalement possible, tester le système dans son contexte réel et offrir une voie de recours aux personnes concernées. La transparence ne signifie pas forcément publier chaque ligne de code. Elle implique au minimum de pouvoir expliquer à quoi sert l’outil, quelles données il utilise, quelles sont ses limites et qui répond de ses décisions.

L’IA va-t-elle supprimer des emplois ?

L’automatisation transforme le travail depuis longtemps, et l’IA accélère ce mouvement dans des activités jusque-là associées aux tâches de bureau : rédaction de documents, service client, programmation, traduction, analyse administrative ou production de visuels. Elle peut supprimer certaines tâches, en créer d’autres et modifier profondément la répartition du travail au sein d’un même métier.

La bonne question n’est donc pas seulement « combien d’emplois disparaîtront ? ». Elle est aussi de savoir quelles tâches seront automatisées, qui bénéficiera des gains de productivité, quelles compétences resteront déterminantes et comment les salariés pourront se former. Dans de nombreux cas, l’IA agit comme un outil d’assistance : elle prépare une première version, cherche dans une base documentaire ou signale une anomalie. Une personne doit ensuite contrôler, contextualiser et décider.

Les entreprises ont intérêt à éviter deux écueils. Le premier consiste à promettre une productivité immédiate sans mesurer les erreurs, le temps de vérification et les risques pour les données confidentielles. Le second est de déployer des outils sans associer les équipes qui connaissent le métier. L’adoption durable passe par des règles d’usage claires, la formation et un dialogue social sur les conséquences concrètes de l’automatisation.

Les promesses économiques ne remplacent pas une stratégie

L’IA attire des investissements considérables parce qu’elle promet d’accélérer l’innovation et de rendre certains processus plus efficaces. Dans les entreprises, elle peut aider à synthétiser des informations, assister les équipes commerciales, automatiser une partie des tâches administratives ou améliorer la relation client. Salesforce, comme d’autres acteurs du secteur, affiche des attentes élevées autour de l’adoption de ses technologies d’IA par les organisations.

Ces perspectives ne suffisent cependant pas à établir un gain de productivité. Pour évaluer un projet, une entreprise doit comparer le temps gagné avec les coûts d’intégration, de maintenance, de contrôle et de formation. Elle doit aussi vérifier si l’outil répond à un besoin précis plutôt que d’ajouter une couche technologique à un processus déjà complexe.

Une stratégie sérieuse repose sur quelques questions simples : quelles données seront traitées ? Peuvent-elles être utilisées dans cet outil ? Qui vérifie les résultats ? Qu’arrive-t-il lorsqu’une réponse est fausse ? Et comment les salariés sont-ils accompagnés ? L’IA produit davantage de valeur lorsqu’elle soutient une décision humaine identifiable que lorsqu’elle devient une boîte noire sans responsable.

Quel cadre réglementaire se met en place en Europe ?

La régulation de l’IA est devenue un sujet majeur parce que ces systèmes peuvent traiter des données personnelles, influencer des comportements ou participer à des décisions sensibles. L’objectif n’est pas d’empêcher toute innovation, mais de distinguer les usages selon les risques qu’ils font peser sur les personnes et la société.

Dans l’Union européenne, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Il organise un cadre fondé sur le niveau de risque. Certaines pratiques jugées inacceptables sont interdites. Les systèmes considérés à haut risque, par exemple dans certains usages liés à l’emploi ou à des services essentiels, devront respecter des obligations renforcées. Le texte prévoit aussi des exigences de transparence pour des systèmes avec lesquels le public interagit et des règles concernant les modèles d’IA à usage général.

L’application de l’ensemble de ces dispositions est progressive. Pour les organisations, il ne s’agit donc pas seulement d’une contrainte juridique à venir. C’est une invitation à cartographier leurs usages, documenter leurs outils et prévoir des mécanismes de contrôle dès maintenant.

La coopération internationale compte également. La France prépare à Paris un sommet consacré à l’action sur l’intelligence artificielle, prévu en février 2025. Cette initiative reflète la recherche d’un équilibre difficile : encourager la recherche et l’investissement tout en abordant les questions de sûreté, de sécurité, de démocratie, de concurrence et d’impact environnemental.

Une vision de l’IA ne peut pas ignorer l’éthique

Parler de « visionnaires » de l’IA revient souvent à confronter plusieurs visions de l’avenir. Certaines insistent sur les bénéfices concrets, de la médecine à l’accessibilité numérique. D’autres alertent sur les risques à long terme, la concentration du pouvoir technologique ou la possibilité de systèmes mal alignés sur les intérêts humains. Les travaux et prises de position de penseurs tels que Nick Bostrom, Peter Singer ou William MacAskill alimentent ces débats sur l’éthique, les responsabilités et les conséquences des choix technologiques.

La notion d’IA « bienveillante » exprime une ambition simple, mais exigeante : les systèmes devraient servir les intérêts humains plutôt que les contredire. Dans la pratique, cela impose de définir qui décide de ces intérêts, comment protéger les personnes vulnérables et comment arbitrer entre des valeurs parfois opposées, comme l’efficacité, la vie privée, l’équité et la liberté d’expression.

Le transhumanisme, qui envisage l’usage de la technologie pour augmenter certaines capacités humaines, ajoute d’autres interrogations : accès inégal aux innovations, transformation du rapport au corps, dépendance à des entreprises privées et limites à fixer collectivement. Ces sujets ne relèvent pas seulement de la philosophie. Ils influencent les décisions de financement, les lois, les standards techniques et les choix de conception.

Ce qu’il faut surveiller

L’avenir de l’IA ne se résumera ni à une révolution automatique, ni à une menace abstraite. Il dépendra de la qualité des outils, de l’usage que les institutions et les entreprises en feront, ainsi que de la capacité des citoyens à comprendre lorsqu’une décision est assistée par un algorithme.

Quatre priorités se dégagent en cette fin d’année 2024 : améliorer la fiabilité des systèmes, protéger les données, former les personnes exposées à ces outils et maintenir une responsabilité humaine claire. Les innovations les plus utiles seront vraisemblablement celles qui rendent un professionnel plus capable d’agir, plutôt que celles qui prétendent le rendre superflu.

La vigilance doit enfin porter sur la concentration des ressources. Entraîner et exploiter les grands modèles nécessite des données, des compétences, des puces informatiques et une capacité de calcul considérables. Faire de l’IA un progrès partagé suppose donc de ne pas limiter le débat à la performance technique, mais d’y inclure l’accès, la concurrence, l’environnement et les droits de chacun.