Pourquoi continuer à développer l’IA malgré les risques qu’elle fait craindre

L’intelligence artificielle n’est plus une promesse confinée aux laboratoires. Elle écrit, traduit, classe des documents, assiste certains diagnostics, recommande des contenus et automatise déjà des tâches dans de nombreux métiers. Cette diffusion rapide nourrit un paradoxe : plus les usages potentiellement utiles se multiplient, plus l’inquiétude grandit. Faut-il alors freiner le développement d’IA toujours plus capables, voire y renoncer ?

La question mérite mieux qu’une opposition entre enthousiasme technologique et scénario catastrophe. Les risques associés à l’IA ne sont ni imaginaires ni tous lointains. Certains concernent déjà le travail, les discriminations, les données personnelles ou la fiabilité de décisions prises avec l’aide d’algorithmes. D’autres relèvent d’incertitudes plus profondes sur la capacité à maîtriser des systèmes de plus en plus autonomes et performants.

Le débat ne porte donc pas seulement sur la possibilité technique de créer des IA plus puissantes. Il porte sur leur finalité, sur les personnes qui les contrôlent et sur les règles qui doivent s’appliquer avant leur déploiement.

Des craintes légitimes, au-delà des scénarios de science-fiction

Les avertissements de Geoffrey Hinton, souvent présenté comme l’un des pères de l’IA moderne, ont contribué à rendre visible une inquiétude qui dépassait déjà les seuls spécialistes. Le chercheur a exprimé la crainte que des IA puissent un jour dépasser l’intelligence humaine, avec des conséquences potentiellement désastreuses. Il estime qu’un tel scénario est inévitable, une position qui alimente un débat mondial sur la sécurité de ces systèmes.

Cette perspective très lointaine ne doit toutefois pas faire oublier les risques immédiats. Une IA n’a pas besoin d’être consciente ni de dominer l’humanité pour causer un préjudice. Un système qui évalue mal un dossier, reproduit un biais présent dans ses données d’entraînement, divulgue une information sensible ou produit un contenu trompeur peut déjà avoir des effets importants sur des personnes réelles.

Les inquiétudes se concentrent notamment sur quatre sujets :

• L’emploi, car l’automatisation peut transformer ou supprimer certaines tâches, parfois plus vite que les salariés ne peuvent se former à de nouveaux rôles.
• Les biais, lorsqu’un système apprend à partir de données qui reflètent des inégalités ou des discriminations existantes.
• La vie privée, lorsque la collecte et le croisement de données permettent une surveillance ou un profilage excessifs.
• La responsabilité, car il peut être difficile de déterminer qui répond d’une erreur : le concepteur, l’entreprise qui déploie l’outil, l’utilisateur ou l’organisation qui a pris la décision finale.

L’« IA-anxiété » traduit précisément ce sentiment de perdre la maîtrise d’une technologie omniprésente. Elle recouvre la peur d’être remplacé au travail, celle de ne plus savoir si un contenu est fiable, mais aussi celle de voir des décisions importantes devenir opaques. Balayer ces préoccupations au nom du progrès serait une erreur. Elles indiquent les domaines dans lesquels des protections sont nécessaires.

Pourquoi ne pas simplement arrêter de développer l’IA ?

L’idée d’un arrêt total répond à une intuition compréhensible : si une technologie comporte des dangers, mieux vaut ne pas l’améliorer. Mais l’IA ne constitue pas un objet unique que l’on pourrait facilement mettre de côté. Elle désigne un ensemble de méthodes utilisées dans la recherche, les logiciels, l’industrie, les services publics ou la santé. Certaines applications sont à haut risque et doivent être limitées, voire interdites. D’autres peuvent apporter une aide concrète, à condition d’être validées et correctement encadrées.

Dans le domaine médical, par exemple, des algorithmes peuvent analyser de très grandes quantités de données et aider à repérer des signaux pertinents pour les professionnels. Leur intérêt n’est pas de remplacer le jugement d’un soignant, mais de soutenir le diagnostic, la recherche ou l’organisation des soins. De même, dans la recherche scientifique, des outils capables de traiter rapidement des données complexes peuvent aider à formuler des hypothèses ou à accélérer certaines étapes d’analyse.

L’IA peut aussi réduire le temps consacré à des tâches administratives répétitives, améliorer l’accessibilité de certains outils numériques ou faciliter l’exploitation d’informations volumineuses. Ces promesses ne sont pas automatiquement des bénéfices. Elles dépendent de la qualité des données, de la façon dont le système est testé, de la présence d’un contrôle humain et de la possibilité de contester une décision.

La bonne question n’est donc pas : « L’IA est-elle bonne ou mauvaise ? » Elle est plutôt : quels usages créent une valeur réelle, pour qui, et à quel coût social ? Une technologie peut être utile dans un contexte et inacceptable dans un autre. Un outil d’aide à la recherche médicale ne soulève pas les mêmes enjeux qu’un système qui évalue automatiquement des personnes dans le cadre d’un recrutement, d’une assurance ou d’un contrôle administratif.

Le risque d’une concentration du pouvoir technologique

Les craintes portent aussi sur l’économie de l’IA. Développer les modèles les plus avancés exige des données, des compétences rares, une puissance de calcul considérable et des infrastructures coûteuses. Ces barrières favorisent les grands groupes technologiques, souvent désignés par l’acronyme GAFAM, ainsi que quelques entreprises spécialisées.

Cette concentration peut produire une dépendance préoccupante. Si des outils essentiels pour travailler, communiquer, créer ou accéder à l’information sont fournis par un petit nombre d’acteurs, ceux-ci disposent d’un pouvoir considérable sur les prix, les règles d’accès, les données et les standards techniques. Les organisations publiques, les petites entreprises et les citoyens peuvent alors devenir dépendants de technologies dont ils ne maîtrisent ni le fonctionnement ni les orientations.

La compétition mondiale ne justifie pas pour autant l’absence de règles. Au contraire, elle renforce la nécessité de politiques publiques capables de soutenir la recherche, de favoriser la concurrence, de protéger les données et de préserver l’accès à des alternatives. Le développement de l’IA ne devrait pas se résumer à une course à la taille des modèles ou à la rapidité de leur mise sur le marché.

Encadrer l’IA plutôt que choisir entre interdiction et laisser-faire

Face aux risques, deux réponses simplistes s’opposent souvent. La première consiste à vouloir bloquer toute avancée, au risque de renoncer à des usages utiles et de laisser d’autres acteurs décider seuls des standards. La seconde consiste à laisser le marché expérimenter librement, en espérant corriger les problèmes après coup. Or, lorsqu’un outil affecte un emploi, un accès aux soins, une liberté ou une réputation, corriger après coup peut être trop tard.

L’enjeu est de construire des garde-fous avant le déploiement des systèmes les plus sensibles. Cela passe par des tests de robustesse, l’évaluation des biais, une documentation claire, la protection des données et des mécanismes permettant de signaler ou de contester une décision. Pour certains usages, un contrôle humain effectif est indispensable : il ne suffit pas qu’une personne puisse théoriquement intervenir, elle doit disposer du temps, des compétences et de l’autorité nécessaires pour le faire.

L’Union européenne a franchi une étape importante avec l’AI Act, le règlement européen sur l’intelligence artificielle, entré en vigueur le 1er août 2024. Son principe est d’adapter les obligations au niveau de risque. Certains usages jugés inacceptables sont appelés à être interdits, tandis que les systèmes à haut risque sont soumis à des exigences renforcées. L’application des règles est progressive, ce qui doit permettre aux institutions et aux entreprises de s’y préparer.

La réglementation ne peut cependant pas tout résoudre. Un texte juridique fixe un cadre, mais son efficacité dépendra des autorités chargées de le faire respecter, des moyens de contrôle disponibles et de la capacité des entreprises à rendre des comptes. La sécurité ne doit pas devenir une simple déclaration de principe ou un argument commercial.

Qui doit décider de l’avenir de l’intelligence artificielle ?

L’IA transforme des domaines qui concernent toute la société. Il serait donc insuffisant de laisser les seules entreprises technologiques et les ingénieurs en fixer les règles. Les chercheurs en informatique ont un rôle essentiel pour mesurer les capacités et les limites des modèles. Mais les juristes, les spécialistes de l’éthique, les représentants des salariés, les professionnels de santé, les enseignants, les associations et les citoyens concernés doivent aussi être associés aux décisions.

Cette pluralité est particulièrement importante pour identifier les effets qu’un concepteur ne voit pas toujours. Un système techniquement performant peut être mal adapté à une réalité de terrain, aggraver une inégalité locale ou imposer une procédure incompréhensible à ses utilisateurs. Consulter les personnes qui subiront ou utiliseront l’outil n’est pas un frein bureaucratique : c’est une manière de repérer plus tôt les problèmes et d’améliorer la qualité des choix.

Les organisations qui adoptent l’IA ont également une responsabilité propre. Elles doivent être capables d’expliquer pourquoi un outil est utilisé, quelles données il traite, quelles sont ses limites et vers qui se tourner en cas d’erreur. Elles doivent aussi éviter de confondre automatisation et déresponsabilisation. Une décision ayant des conséquences importantes ne devient pas juste parce qu’un logiciel l’a recommandée.

Ce qu’il faut surveiller en 2025

Le développement de l’IA continuera, parce que les perspectives scientifiques, médicales et économiques sont considérables. Mais poursuivre n’est acceptable que si cette trajectoire reste discutable et révisable. Il faut pouvoir ralentir un déploiement dangereux, retirer un système défaillant et interdire les usages incompatibles avec les droits fondamentaux.

En 2025, plusieurs questions devront rester au centre du débat : les règles européennes seront-elles appliquées avec suffisamment de moyens ? Les entreprises publieront-elles des informations utiles sur les limites et les risques de leurs systèmes ? Les salariés disposeront-ils de formation et de garanties face à l’automatisation ? Les citoyens pourront-ils comprendre et contester les décisions qui les affectent ?

La crainte n’est pas l’ennemie du progrès lorsqu’elle conduit à poser de meilleures questions. Le véritable danger serait de présenter l’IA comme une fatalité technique, impossible à orienter. Les choix de conception, de financement, de déploiement et de régulation restent des choix humains. C’est à cette condition que l’intelligence artificielle pourra être un outil de progrès plutôt qu’une source supplémentaire de dépendance et d’inégalités.