Algorithmes et IA : ce qu’ils peuvent améliorer, et les garde-fous indispensables

L’intelligence artificielle n’est pas une technologie qui agit seule, ni une promesse automatique de progrès. Elle désigne un ensemble de méthodes qui permettent à des systèmes informatiques de reconnaître des régularités dans des données, de produire des recommandations, de classer des informations ou d’automatiser certaines tâches. Dans la santé, l’éducation, les entreprises, les transports et les plateformes numériques, ces outils modifient déjà la façon de prendre des décisions. Leur utilité dépend toutefois moins de l’étiquette « IA » que de la qualité des données utilisées, de l’objectif fixé et de la capacité des humains à les contrôler.

La question centrale n’est donc pas de savoir si les algorithmes rendront nécessairement l’avenir meilleur. Elle est de déterminer dans quelles conditions ils peuvent apporter une aide réelle sans accentuer les inégalités, porter atteinte aux libertés ou déléguer des décisions sensibles à des systèmes mal compris.

Un algorithme ne décide jamais dans le vide

Un algorithme est une suite d’instructions permettant de réaliser une tâche. Il peut être très simple, par exemple calculer un score à partir de plusieurs critères, ou beaucoup plus complexe, notamment lorsqu’il repose sur l’apprentissage automatique. Dans ce second cas, le système apprend des corrélations à partir d’exemples plutôt que d’appliquer uniquement des règles écrites à l’avance.

Cette puissance de calcul rend possible l’analyse de grands ensembles de données à une vitesse difficilement atteignable par une personne seule. C’est pourquoi les algorithmes sont présents dans des domaines aussi variés que la détection de fraude, la gestion des stocks, l’orientation des contenus en ligne ou l’aide à la décision médicale. Mais un système ne connaît pas spontanément le contexte social, les exceptions importantes ou les conséquences humaines d’une recommandation.

Le recrutement illustre bien cette limite. Un outil peut trier des candidatures selon des critères définis par une organisation, ou repérer des déséquilibres dans ses pratiques d’embauche. Il peut donc contribuer à auditer certains biais historiques. En revanche, s’il apprend à partir d’anciennes décisions de recrutement discriminatoires ou déséquilibrées, il risque de les reproduire sous une apparence technique et objective.

L’idée selon laquelle la technologie effacerait par elle-même les préjugés est donc trompeuse. Un algorithme reflète notamment :

• les données qui lui sont fournies ;
• les variables que ses concepteurs ont choisi de retenir ;
• l’objectif qu’on lui demande d’optimiser ;
• le cadre dans lequel ses résultats sont utilisés.

Santé : l’IA peut aider au triage, pas remplacer le soin

Le domaine médical est souvent présenté comme l’un des terrains les plus prometteurs pour l’intelligence artificielle. Les logiciels peuvent assister les professionnels dans l’analyse d’images, l’organisation de données cliniques ou l’estimation de certains risques. Ils peuvent aussi rendre plus accessibles des informations dispersées dans des dossiers complexes.

Un exemple cité dans les pratiques cliniques est le Glasgow-Blatchford Score, ou GBS. Il s’agit d’un score utilisé notamment pour évaluer la gravité d’une hémorragie digestive haute et estimer la nécessité d’une intervention. Il ne constitue pas un diagnostic autonome : il agrège plusieurs informations cliniques et biologiques afin d’aider à orienter la prise en charge.

L’intérêt des outils numériques est de calculer ce type de score de façon fiable et rapide, ou d’intégrer davantage d’éléments lorsqu’ils sont validés médicalement. Mais l’amélioration d’un outil ne se réduit pas à l’ajout de données. Elle exige une comparaison avec la pratique clinique, une vérification sur des populations diverses et une compréhension claire des erreurs possibles.

Un système peut, par exemple, donner des résultats moins fiables s’il a été entraîné dans un environnement hospitalier très différent de celui où il est déployé. Il peut aussi échouer dans les cas rares, alors que ce sont précisément ceux qui nécessitent une vigilance particulière. La décision finale doit donc rester inscrite dans une relation de soin, avec des professionnels capables d’interpréter le résultat, de le contredire si nécessaire et d’expliquer la prise en charge au patient.

Pourquoi la transparence est décisive

Lorsqu’un algorithme influence l’accès à un emploi, à un crédit, à un soin ou à un service public, les personnes concernées doivent pouvoir comprendre au moins les grandes logiques de la décision. La transparence ne signifie pas nécessairement publier chaque ligne de code. Elle implique de savoir quel système est utilisé, quelles données comptent, quelles limites ont été identifiées et qui est responsable en cas d’erreur.

La recherche avance aussi sur des systèmes capables d’évaluer leur propre incertitude ou de signaler certaines incohérences. Ces mécanismes sont utiles, car une IA qui exprime un doute peut inciter à une vérification humaine. Ils ne doivent cependant pas être confondus avec une garantie : un modèle peut se déclarer confiant tout en se trompant, ou au contraire douter face à une réponse correcte.

Pour les organisations, une démarche sérieuse passe par des tests avant le déploiement, puis par un suivi dans la durée. Les résultats doivent être examinés selon plusieurs profils d’utilisateurs afin de repérer d’éventuels écarts injustifiés. Il faut également prévoir une procédure claire pour contester une décision ou faire remonter un dommage.

Plateformes : entre personnalisation utile et piège de l’engagement

Les systèmes de recommandation façonnent une grande part de l’expérience numérique. Ils choisissent l’ordre d’apparition de vidéos, de publications, de produits ou de résultats, généralement à partir des interactions précédentes de l’utilisateur. Cette personnalisation peut faire gagner du temps et aider à trouver des contenus pertinents dans une masse d’informations considérable.

Elle peut aussi enfermer progressivement une personne dans ce qui retient le plus facilement son attention. Une plateforme qui optimise seulement le clic, le temps passé ou la réaction immédiate peut privilégier les contenus les plus stimulants, les plus répétitifs ou les plus émotionnels. La satisfaction à court terme n’est pas nécessairement synonyme d’une expérience appréciée avec du recul.

C’est l’un des enjeux des modèles qui tentent de représenter les préférences contradictoires des utilisateurs : une personne peut vouloir voir immédiatement un contenu léger, tout en souhaitant, à plus long terme, être mieux informée, moins sollicitée ou moins distraite. Concevoir une plateforme responsable suppose de ne pas réduire l’intérêt d’un utilisateur à un seul indicateur de performance.

Des choix de conception peuvent redonner de la maîtrise : offrir des réglages compréhensibles, expliquer pourquoi un contenu est recommandé, permettre de modifier ou de désactiver la personnalisation, et favoriser une diversité de sources. L’alignement entre les objectifs d’une entreprise et l’intérêt réel de ses utilisateurs est un sujet d’éthique autant que de design.

Des applications concrètes, avec des promesses à vérifier

Dans les transports, l’IA est mobilisée pour analyser les données de circulation, aider à réguler les flux et développer des fonctions d’assistance à la conduite. Les véhicules autonomes, équipés de capteurs et de logiciels capables d’interpréter leur environnement, pourraient à terme contribuer à réduire certains accidents et à améliorer l’efficacité des déplacements. Cette perspective dépend toutefois de démonstrations de sécurité robustes, y compris dans les conditions rares ou imprévues qui mettent les systèmes à l’épreuve.

Les caméras intelligentes peuvent elles aussi servir à mieux gérer le trafic et à identifier des congestions. Mais elles soulèvent immédiatement des questions de vie privée, de surveillance et de proportionnalité. Observer des flux de véhicules n’a pas les mêmes conséquences qu’identifier ou suivre des individus. Les usages doivent être précisément définis, limités et contrôlés par un cadre juridique adapté.

L’intelligence artificielle intéresse également l’industrie cosmétique. Elle peut aider à explorer plus rapidement des combinaisons d’ingrédients et à chercher des formulations visant un impact environnemental moindre. Là encore, le mot « optimisation » doit être précisé. Un bénéfice environnemental ne se déduit pas d’un calcul abstrait : il doit être évalué en tenant compte des matières premières, de la production, du transport, de l’emballage et de la fin de vie.

Ces exemples montrent que l’IA peut accélérer la recherche et l’analyse. Ils rappellent aussi qu’une prédiction ne devient utile que lorsqu’elle est reliée à un objectif clair, à des mesures fiables et à une responsabilité assumée.

Investissements et concurrence accélèrent la diffusion de l’IA

Les entreprises investissent fortement dans les infrastructures de données, le calcul et les logiciels nécessaires au développement de l’IA. En 2024, Blackstone a investi 300 millions de dollars dans DDN, entreprise spécialisée dans l’IA et les données, afin de soutenir sa croissance. Ce type d’opération illustre l’importance stratégique prise par les infrastructures capables de stocker, d’organiser et de faire circuler les volumes de données utilisés par les systèmes d’IA.

La concurrence s’intensifie aussi dans la recherche d’information. Des acteurs comme Perplexity cherchent à proposer une expérience de recherche assistée par IA et se positionnent face au rôle historique de Google. L’enjeu dépasse la simple vitesse de réponse : il concerne la qualité des informations présentées, la capacité à vérifier leur origine, la place laissée aux éditeurs et le risque de réponses plausibles mais inexactes.

Cette compétition peut stimuler l’innovation, notamment dans les interfaces, les modèles et les usages. Elle ne dispense pas les entreprises de démontrer la fiabilité de leurs produits. Plus l’IA est intégrée à des décisions quotidiennes, plus les critères de sécurité, de transparence et de respect des droits doivent faire partie de la concurrence elle-même.

L’éthique et la régulation ne sont pas des freins accessoires

L’éthique de l’IA recouvre des questions très concrètes : qui peut collecter quelles données, comment éviter une discrimination, comment sécuriser un système, qui répond d’un préjudice et comment une personne peut-elle contester une décision. Associer les personnes concernées, les experts du domaine, les salariés et les représentants de la société civile peut révéler des problèmes que les seules équipes techniques ne voient pas.

En Europe, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son application sera progressive et repose sur une logique de niveaux de risque. Les usages considérés comme les plus dangereux font l’objet d’interdictions ou d’exigences renforcées, tandis que les systèmes à haut risque devront répondre à des obligations précises, notamment en matière de gestion des risques, de documentation et de surveillance humaine.

Ce cadre ne remplace pas les règles existantes, dont celles relatives à la protection des données personnelles. Il vise à faire en sorte que le développement de l’IA s’accompagne d’obligations proportionnées aux conséquences possibles pour les personnes.

Ce qu’il faut surveiller en 2025

L’avenir des algorithmes se jouera moins dans des annonces spectaculaires que dans la manière dont ils seront déployés au quotidien. Il faudra suivre la qualité des évaluations indépendantes, la possibilité pour les citoyens de comprendre et de contester une décision automatisée, ainsi que l’application effective des nouvelles règles européennes.

La reconnaissance vocale, la vision par ordinateur et les systèmes capables d’anticiper certaines intentions ouvrent des perspectives utiles, par exemple pour l’accessibilité ou l’assistance. Ils exigent aussi une prudence particulière lorsqu’ils interprètent des comportements humains. Anticiper n’est pas connaître, et prédire une probabilité ne doit pas devenir un prétexte pour réduire l’autonomie d’une personne.

Une IA réellement bénéfique ne sera pas celle qui automatise le plus de décisions. Ce sera celle qui améliore des services de manière vérifiable, laisse une place réelle au jugement humain et respecte les droits fondamentaux de celles et ceux qu’elle concerne.