IA : Suvianna Grecu alerte sur le risque d’une crise de confiance

Déployer l’intelligence artificielle plus vite que les protections qui doivent l’encadrer pourrait abîmer durablement la confiance du public. C’est l’avertissement porté par Suvianna Grecu, fondatrice de l’AI for Change Foundation, qui appelle à regarder au-delà des performances techniques. Lorsqu’un système influence l’accès à un emploi, à un prêt ou à des soins, une erreur, un biais ou une décision impossible à expliquer ne reste pas un simple dysfonctionnement informatique.

Pour elle, le risque central vient moins de l’existence de l’IA que de son déploiement sans gouvernance suffisante. Une technologie capable de traiter un grand nombre de dossiers peut aussi reproduire un problème sur un grand nombre de personnes. C’est dans ce sens que Suvianna Grecu met en garde contre une possible « automatisation des préjudices à grande échelle ».

La vitesse de déploiement peut-elle fragiliser la confiance ?

L’IA est désormais intégrée à des outils qui classent, recommandent, prédisent ou assistent une décision. Cette rapidité d’adoption répond à des objectifs légitimes : gagner du temps, réduire certaines tâches répétitives, analyser de grands volumes de données ou proposer des services plus adaptés. Mais elle peut aussi pousser organisations et fournisseurs à considérer les conséquences sociales et juridiques seulement une fois l’outil déjà en circulation.

Suvianna Grecu défend une idée simple : la confiance ne se décrète pas par une charte éthique ou par la promesse d’une technologie « responsable ». Elle se construit lorsque les personnes concernées savent quelles règles s’appliquent, quand les risques ont été évalués et qui répond des conséquences d’une décision automatisée.

Une crise de confiance peut alors prendre plusieurs formes. Des candidats peuvent contester le tri de leur dossier de recrutement, des clients peuvent ne pas comprendre une notation de crédit défavorable, ou des patients peuvent s’inquiéter de recommandations issues d’un outil qu’ils ne peuvent ni examiner ni contester aisément. Dans ces situations, l’efficacité supposée du système ne suffit pas à établir sa légitimité.

Pourquoi l’emploi, le crédit, la santé et la justice sont-ils sensibles ?

Les domaines cités par Suvianna Grecu ont un point commun : ils peuvent affecter directement les droits, les perspectives ou la dignité d’une personne. Un outil de recrutement peut par exemple servir à hiérarchiser des candidatures. Une solution de crédit peut contribuer à évaluer un dossier. Dans la santé ou la justice, l’IA peut assister des professionnels dans l’analyse d’informations complexes.

Ces usages ne signifient pas que la machine remplace automatiquement le jugement humain. Ils posent toutefois une question décisive : les résultats du système ont-ils été testés dans le contexte précis où ils seront employés ? Un modèle peut être techniquement performant dans un environnement donné tout en produisant des résultats inéquitables ou peu fiables pour certains groupes, certaines situations ou certaines données insuffisamment représentées.

Le problème est amplifié par l’échelle. Une décision humaine injuste demeure grave, mais un outil automatisé mal paramétré peut répéter la même erreur à grande vitesse. C’est pourquoi la question ne se limite pas à savoir si une IA « fonctionne ». Il faut aussi examiner pour qui elle fonctionne, dans quelles conditions, avec quelles données, et avec quelles possibilités de recours.

Cette approche oblige à ne pas réduire l’évaluation à un unique test technique. La performance d’un outil est importante, mais elle ne répond pas, à elle seule, aux questions de discrimination, de transparence, de protection des droits ou d’impact social à long terme.

L’éthique de l’IA ne peut pas rester un principe abstrait

Dans de nombreuses organisations, l’éthique de l’IA prend la forme de valeurs générales : équité, transparence, sécurité ou respect de la vie privée. Ces principes sont nécessaires, mais Suvianna Grecu estime qu’ils restent insuffisants s’ils ne changent pas concrètement la manière de développer et de déployer les systèmes.

La responsabilité apparaît lorsque quelqu’un peut être tenu de rendre des comptes. Qui a autorisé l’outil ? Qui a vérifié ses limites ? Qui peut suspendre son usage en cas de problème ? Qui informe les personnes touchées et traite une contestation ? Sans réponses claires, les bonnes intentions risquent de rester déconnectées des réalités opérationnelles.

La fondatrice de l’AI for Change Foundation appelle donc à faire entrer l’éthique dans les procédures de travail. Elle propose notamment des check-lists de design, des évaluations de risques avant le déploiement et des comités associant les compétences juridiques, techniques et politiques. L’enjeu est d’éviter que la conformité ne soit examinée trop tard, une fois les choix essentiels déjà figés.

Cette coopération interne est particulièrement importante parce que chaque métier voit une partie différente du problème. Les équipes techniques connaissent les limites du modèle et des données. Les juristes évaluent les obligations et les droits en jeu. Les responsables des politiques publiques ou des métiers comprennent les conséquences concrètes pour les usagers. Aucun de ces regards ne suffit isolément.

Réglementer l’IA sans renoncer à l’innovation

Pour Suvianna Grecu, la responsabilité de l’encadrement ne doit reposer ni exclusivement sur les gouvernements ni exclusivement sur l’industrie. Les pouvoirs publics ont un rôle irremplaçable : fixer des limites juridiques minimales, notamment lorsque les droits humains sont concernés, et créer un cadre commun applicable à tous les acteurs.

Les entreprises, de leur côté, ne devraient pas s’arrêter au strict respect de la loi. Elles disposent de la capacité d’aller plus vite dans la création de méthodes de contrôle, d’outils d’audit et de mécanismes internes de prévention. L’objectif n’est pas d’opposer régulation et innovation, mais d’éviter deux écueils : une innovation laissée sans limites et une réglementation qui ignorerait les réalités du terrain.

Cette question est particulièrement actuelle en Europe. Le règlement européen sur l’intelligence artificielle, l’AI Act, est entré en vigueur le 1er août 2024 et son application se fait progressivement. Les interdictions visant certaines pratiques ont commencé à s’appliquer le 2 février 2025. Les obligations relatives aux modèles d’IA à usage général ont, elles, commencé à s’appliquer le 2 août 2025, soit une semaine avant la publication de cet article. Une grande partie des autres règles est prévue pour août 2026.

Le texte européen apporte un cadre fondé sur le niveau de risque, mais il ne dispense pas les organisations de leurs choix concrets. Une loi peut fixer un seuil minimal. Elle ne remplace ni la vigilance dans la conception, ni l’évaluation attentive d’un usage réel, ni l’obligation de corriger rapidement un système qui produit des effets indésirables.

Les valeurs humaines ne sont pas intégrées par défaut

Suvianna Grecu souligne un autre risque, souvent moins visible : la manipulation émotionnelle. Les systèmes d’IA peuvent être conçus pour capter l’attention, retenir un utilisateur, maximiser l’engagement ou encourager une action. Ces objectifs peuvent être utiles dans certains contextes, mais ils ne coïncident pas automatiquement avec l’autonomie, la dignité, la justice ou le bon fonctionnement démocratique.

Dire qu’une IA n’est pas neutre ne revient pas à lui attribuer une intention propre. Cela signifie qu’elle reflète nécessairement les données qui lui sont fournies, les indicateurs choisis pour la mesurer et les objectifs que ses concepteurs lui demandent d’optimiser. Si une organisation privilégie exclusivement la vitesse, le profit ou l’efficacité, le système aura tendance à servir ces critères.

Le rôle de la gouvernance consiste précisément à introduire d’autres priorités dans la décision : vérifier que l’intérêt des personnes est pris en compte, protéger celles qui pourraient subir un préjudice et prévoir un contrôle humain adapté lorsque les conséquences sont importantes. Cette démarche demande des arbitrages explicites, pas seulement une promesse de neutralité technologique.

Une occasion pour l’Europe de défendre ses priorités

Suvianna Grecu voit dans le débat européen une opportunité de placer les droits humains, la transparence, la durabilité, l’inclusion et l’équité au cœur de la politique, de la conception et du déploiement des outils d’IA. L’enjeu n’est pas seulement de limiter les abus, mais de décider quel type d’innovation une société souhaite encourager.

Cette ambition suppose d’associer davantage de personnes aux discussions. Les ateliers publics et les échanges organisés autour d’événements comme l’AI & Big Data Expo Europe peuvent contribuer à rapprocher les développeurs, les entreprises, les décideurs publics et les citoyens. Pour Suvianna Grecu, bâtir une coalition est une condition pour que le débat ne soit pas confisqué par les seuls acteurs les plus puissants du secteur.

La publication d’origine évoque aussi un contexte de vigilance grandissante : risques signalés par des entreprises britanniques, conflits liés au droit d’auteur autour de générateurs d’images, débats réglementaires et interrogations sur l’empreinte énergétique de l’IA. Ces sujets sont différents, mais ils renvoient à la même exigence : anticiper les conséquences d’une technologie avant que ses effets ne deviennent difficiles à corriger.

Ce qu’il faut surveiller pour préserver la confiance

La confiance dans l’IA dépendra moins des démonstrations spectaculaires que de la capacité des organisations à montrer ce qu’elles font concrètement. Les questions essentielles sont simples, même si les réponses sont exigeantes : l’usage est-il nécessaire ? Les risques ont-ils été identifiés ? Des biais ont-ils été recherchés ? Une personne peut-elle comprendre et contester une décision qui l’affecte ? Un responsable peut-il intervenir ?

Dans les mois et années à venir, l’application progressive de l’AI Act donnera un cadre plus précis au marché européen. Mais la réglementation n’aura d’effet que si elle s’accompagne de méthodes de travail solides, de contrôles effectifs et d’une culture de responsabilité. Le message de Suvianna Grecu est donc moins un refus de l’IA qu’un appel à choisir les conditions de son déploiement : faire de cette technologie un outil de progrès mesurable, plutôt qu’un facteur supplémentaire d’injustice et de défiance.