Surveillance par IA : ce que révèle l’essor de la vision par ordinateur

Des caméras qui repèrent une silhouette, des logiciels qui suivent un déplacement dans une foule, des systèmes capables de rapprocher une image d’une base de données : ces outils ne relèvent plus seulement de la science-fiction. Ils s’appuient largement sur la vision par ordinateur, un domaine de l’intelligence artificielle qui permet aux machines d’extraire des informations d’images et de vidéos. Une étude dirigée par la chercheuse Abeba Birhane invite à regarder l’envers de cette innovation : les liens grandissants entre la recherche scientifique et les technologies de surveillance.

Le travail ne prétend pas que toute recherche sur les images mène nécessairement à une surveillance intrusive. La vision par ordinateur sert aussi à l’accessibilité, à la médecine, à la sécurité industrielle ou encore à la conduite assistée. Mais il montre que les mêmes briques techniques, lorsqu’elles sont reliées à des bases de données, à des caméras et à des outils de décision, peuvent servir à accéder aux personnes, monétiser leurs comportements, les contraindre et les contrôler.

Ce que l’étude a analysé

L’équipe a examiné plus de 40 000 documents sur une période de quatre décennies. Le corpus rassemble des publications de recherche en vision par ordinateur ainsi que des brevets associés à la surveillance. L’objectif est de suivre la manière dont des travaux académiques, des inventions brevetées et certains choix de vocabulaire dessinent un écosystème technique capable d’observer, d’identifier ou de suivre des individus à grande échelle.

Les chercheurs ne se sont donc pas limités aux produits visibles par le public, comme les caméras de rue ou les portiques biométriques. Ils se sont intéressés à la chaîne qui les rend possibles : méthodes de détection, reconnaissance de formes, analyse de scènes, suivi de trajectoires et dispositifs juridiques permettant de protéger une invention par brevet.

Cette méthode ne permet pas, à elle seule, de conclure qu’un laboratoire ou une entreprise soutient chaque usage concret de la surveillance. Un brevet n’est pas non plus la preuve qu’un produit est déployé. En revanche, le rapprochement entre publications et brevets donne une mesure de l’industrialisation progressive de technologies qui peuvent être réutilisées dans des systèmes d’observation des personnes.

Pourquoi la vision par ordinateur est devenue un outil de surveillance puissant

La vision par ordinateur consiste à entraîner des logiciels à analyser le contenu visuel d’une photo ou d’une vidéo. Selon le système, l’algorithme peut détecter qu’une personne, un véhicule ou un objet est présent, suivre son mouvement d’une image à l’autre, ou comparer certains traits à une base de référence.

Il faut distinguer plusieurs capacités, souvent confondues dans le débat public :

• La détection indique qu’une personne ou un véhicule apparaît dans une image.
• Le suivi relie cette même personne ou ce même véhicule à travers plusieurs images ou caméras.
• La classification attribue une catégorie à ce qui est observé, par exemple un type de véhicule ou une situation.
• L’identification biométrique vise à relier une personne à une identité, notamment à partir de son visage, lorsqu’une base de comparaison est disponible.

Chacune de ces opérations peut sembler limitée prise isolément. Leur combinaison change toutefois l’échelle du problème. Un réseau de capteurs peut produire des images en continu. Des logiciels peuvent ensuite les traiter très rapidement, rechercher des motifs et conserver des résultats exploitables. Le passage d’une observation ponctuelle à une surveillance systématique tient précisément à cette capacité d’agrégation.

La reconnaissance faciale est l’exemple le plus connu, mais elle n’épuise pas le sujet. L’analyse de comportements, le suivi de localisation, les dispositifs d’accès automatisé et l’observation des activités en ligne peuvent aussi contribuer à établir un profil d’une personne. Plus les données issues de ces canaux sont croisées, plus il devient possible d’inférer des habitudes, des relations ou des déplacements.

Une hausse marquée des recherches liées aux brevets de surveillance

Le constat statistique le plus marquant de l’étude est une augmentation par cinq des publications en vision par ordinateur liées à des brevets de surveillance. Cette progression signale que les avancées de recherche et la valorisation industrielle de techniques utilisables pour surveiller les individus sont de plus en plus imbriquées.

Les auteurs identifient notamment Microsoft, Carnegie Mellon et le MIT parmi les institutions les plus présentes dans les documents étudiés. À l’échelle des pays, les États-Unis, la Chine et le Royaume-Uni dominent le corpus.

Ce résultat appelle une lecture nuancée. Les grandes universités et entreprises technologiques publient beaucoup dans de nombreux domaines, y compris dans des applications bénéfiques. La présence de leur nom dans une analyse bibliographique ne permet pas d’assimiler l’ensemble de leurs recherches à un projet de contrôle social. L’intérêt du travail est ailleurs : il rend visible un paysage dans lequel les technologies de surveillance ne sont pas marginales, mais intégrées à des flux importants de connaissances, de financements et de propriété intellectuelle.

Cette intégration peut contribuer à banaliser les usages. Lorsqu’une technologie est présentée uniquement comme un outil d’analyse d’images plus précis ou plus performant, la question de savoir qui est observé, par qui, dans quel but et avec quel recours possible risque de passer au second plan.

Quand les mots utilisés effacent les personnes surveillées

L’étude s’attarde aussi sur le vocabulaire employé dans la recherche. Les auteurs observent notamment l’usage fréquent du mot « objet » pour désigner une personne dans des tâches de vision par ordinateur. Dans un article technique, cette expression peut servir à décrire de façon générique tout élément détecté dans une image. Mais les chercheurs y voient aussi un effet de dépersonnalisation : une personne devient une cible à repérer, à suivre ou à classer.

Le problème ne tient pas à un mot isolé. Il réside dans un langage technique qui peut donner l’impression que les conséquences humaines sont extérieures au travail scientifique. Parler de précision, de performance, de taux de détection ou de données d’entraînement est indispensable pour évaluer un système. Mais ces indicateurs ne disent rien, à eux seuls, du consentement, des erreurs, des discriminations possibles ou de l’impossibilité pratique d’échapper à l’observation.

Dans l’espace public, les termes employés comptent également. Présenter un dispositif comme une solution de fluidification, de gestion de flux ou de sécurité peut être exact. Cela ne dispense pas de décrire clairement ses capacités réelles : images collectées, personnes concernées, durée de conservation, interconnexions avec d’autres fichiers et possibilités d’identification.

Accéder, monétiser, contraindre et contrôler : quels sont les risques ?

L’étude décrit quatre logiques qui peuvent se renforcer mutuellement. La première consiste à accéder à des informations sur les personnes, notamment leurs images, leurs déplacements et leurs comportements observables. La deuxième est la monétisation : des données ou des profils peuvent avoir une valeur économique, par exemple pour cibler des services ou de la publicité, mesurer des audiences ou orienter des décisions commerciales.

La troisième logique est la coercition. Lorsqu’une personne sait ou pense être constamment observée, elle peut modifier son comportement, renoncer à certains déplacements ou hésiter à participer à une réunion, une manifestation ou une activité pourtant légale. Cet effet ne suppose pas forcément une intervention directe contre chaque individu. L’incertitude sur ce qui est collecté et sur l’usage qui en sera fait peut suffire à peser sur les comportements.

Enfin, le contrôle désigne la capacité à utiliser ces informations pour trier, filtrer, restreindre ou orienter des actions. Selon le contexte, cela peut toucher l’accès à un lieu, à un service ou à une décision. Les risques concernent donc la vie privée, mais aussi la liberté de circulation, d’expression et d’association.

Les erreurs constituent un autre enjeu essentiel. Un système peut se tromper, confondre des personnes, mal interpréter une scène ou fonctionner moins bien pour certains groupes. Lorsqu’une erreur sert seulement à recommander une photo sur un téléphone, son impact est limité. Lorsqu’elle est intégrée à un dispositif de sécurité, de police, d’emploi ou d’accès à un service, ses conséquences peuvent être bien plus graves.

Quels garde-fous existent en France et dans l’Union européenne ?

En France et dans l’Union européenne, l’utilisation de données personnelles est déjà encadrée par le RGPD. Les données biométriques utilisées pour identifier une personne de manière unique bénéficient d’une protection particulière. Leur traitement n’est pas libre : il doit reposer sur une base légale, poursuivre une finalité précise, respecter les principes de nécessité et de proportionnalité, et offrir des garanties adaptées.

Le règlement européen sur l’intelligence artificielle, généralement appelé AI Act, ajoute un cadre spécifique aux systèmes d’IA. Entré en vigueur le 1er août 2024, il s’applique selon un calendrier progressif. Depuis le 2 février 2025, certaines pratiques d’IA sont interdites dans l’Union européenne. Le texte encadre également les systèmes considérés à haut risque, parmi lesquels peuvent figurer certaines applications biométriques.

Le dispositif ne revient pas à interdire toute analyse d’images ni toute utilisation d’IA dans l’espace public. Il impose plutôt de distinguer les finalités et les niveaux de risque. La constitution ou l’extension de bases de données de reconnaissance faciale par collecte non ciblée d’images sur internet ou issues de caméras de surveillance fait partie des pratiques interdites par l’AI Act. D’autres usages restent soumis à des conditions strictes, et certaines applications dans le domaine répressif obéissent à des règles particulières.

Pour les citoyens, les questions utiles restent concrètes : le système est-il nécessaire ? Les personnes sont-elles informées ? Quelle donnée est conservée, pendant combien de temps ? Peut-elle être transmise ou recoupée avec d’autres sources ? Qui peut contester une décision ou demander des explications ?

La responsabilité particulière des chercheurs et des organisations

L’appel de l’équipe d’Abeba Birhane s’adresse autant aux chercheurs qu’aux institutions qui financent ou déploient ces technologies. Les auteurs espèrent que leurs résultats fourniront aux militants et aux communautés concernées des éléments pour demander davantage de transparence et de contrôle démocratique.

Pour les équipes de recherche, une approche critique peut passer par l’examen des usages prévisibles d’une technique, de ses données d’entraînement et de ses conditions de déploiement. Il peut aussi s’agir de refuser de participer à des projets dont les effets sur les droits fondamentaux ne sont pas suffisamment garantis. Cette responsabilité ne relève pas uniquement de l’ingénieur qui écrit un algorithme : elle concerne les directions d’établissements, les financeurs, les acheteurs publics et privés, ainsi que les autorités de contrôle.

La transparence ne doit pas se limiter à une notice technique. Une information intelligible devrait permettre de savoir à quoi sert un système, quelles catégories de personnes il vise, s’il produit des décisions automatisées et quelles possibilités de recours existent. Sans cela, le débat intervient souvent trop tard, une fois que les infrastructures sont déjà installées.

Ce qu’il faut surveiller à partir de maintenant

La principale leçon de cette étude est que la surveillance ne se résume pas à un appareil isolé. Elle prend forme dans un ensemble de choix techniques, économiques et politiques : les images captées, les modèles entraînés, les bases de données raccordées, les brevets déposés et les règles adoptées pour encadrer le tout.

Il faudra donc suivre autant les nouveaux systèmes de vision par ordinateur que les conditions de leur usage. La qualité du contrôle humain, l’évaluation des effets sur les droits, la transparence des marchés et la possibilité de contester les décisions seront déterminantes. Dans une société où les capacités d’analyse automatisée progressent rapidement, préserver les libertés suppose de ne pas traiter les personnes observées comme de simples données à exploiter.