Palantir et la surveillance : ce que ses logiciels changent pour les libertés civiles

Les logiciels de Palantir sont rarement visibles du grand public, mais ils peuvent devenir déterminants dans les organisations qui les utilisent. Derrière des interfaces de cartes, de tableaux de bord et de graphes reliant des personnes, des lieux ou des événements, ils promettent de rendre intelligibles des masses de données dispersées. Dans la défense, la police des frontières, la lutte contre la fraude ou certaines entreprises, cette promesse d’efficacité soulève une question simple et décisive : que se passe-t-il lorsqu’un système aide à désigner les personnes à surveiller, à contrôler ou à prioriser ?

Le débat ne consiste pas à prétendre qu’un logiciel agirait, à lui seul, comme un juge ou un agent de police. Il porte plutôt sur le pouvoir conféré à ceux qui paramètrent, alimentent et consultent ces outils. Lorsqu’une plateforme rassemble des informations auparavant séparées, elle peut modifier en profondeur la capacité d’une administration à suivre des individus et à agir sur eux. C’est cette infrastructure discrète, plus que l’apparence d’une intelligence artificielle autonome, qui nourrit les préoccupations relatives aux libertés civiles.

Palantir, une entreprise d’analyse de données avant tout

Fondée en 2003, Palantir développe des plateformes logicielles destinées à intégrer, organiser et analyser de grandes quantités de données. Parmi ses produits les plus connus figurent Gotham, historiquement associé aux usages gouvernementaux et de défense, et Foundry, davantage déployé dans les entreprises et les institutions. L’entreprise propose aussi des outils permettant d’intégrer des fonctions d’intelligence artificielle dans les données et les processus de ses clients.

Le principe est moins mystérieux qu’il n’y paraît. Une organisation possède souvent des informations réparties entre de nombreux fichiers et logiciels : dossiers administratifs, signalements, données géographiques, registres, historiques d’événements ou informations opérationnelles. Une plateforme d’intégration peut rapprocher ces éléments, détecter des correspondances et les restituer sous une forme plus lisible.

Cette architecture peut répondre à des besoins légitimes, par exemple coordonner une opération de secours, détecter une fraude documentée ou mieux gérer une chaîne d’approvisionnement. Mais elle peut aussi étendre très fortement le champ de vision d’une institution. Une information anodine, isolée dans un système, prend une autre signification une fois reliée à d’autres données.

Que recouvre le terme Istar dans les technologies de surveillance ?

Le terme « Istar » est parfois utilisé dans les discussions sur les outils de défense et de renseignement. Il renvoie généralement à l’acronyme anglais ISTAR, pour renseignement, surveillance, acquisition d’objectifs et reconnaissance. Il décrit une famille de fonctions opérationnelles : recueillir des informations, les interpréter puis les mettre à disposition d’une chaîne de décision.

Il importe de ne pas en déduire automatiquement l’existence d’un produit unique, ni de confondre ce vocabulaire militaire avec l’ensemble des plateformes commerciales de Palantir. En revanche, l’idée qu’il recouvre éclaire bien l’enjeu : dans un contexte militaire ou sécuritaire, l’analyse de données peut contribuer à accélérer l’identification d’une situation, d’un objet ou d’une personne jugée pertinente par l’organisation.

Les risques deviennent particulièrement importants lorsque les données concernent des individus. Les ensembles de données peuvent, selon les missions et les habilitations, comporter des éléments publics ou administratifs, des informations de localisation, des images, voire des données sensibles. L’existence de données biométriques ou d’informations issues de réseaux sociaux dans un déploiement donné dépend toutefois des bases auxquelles le client a légalement accès et des règles qu’il applique. Il serait donc trompeur d’affirmer que chaque utilisateur de Palantir accède systématiquement à toutes ces catégories de données.

L’analyse automatisée n’est pas une décision automatique

Le mot « automatisation » peut masquer une réalité essentielle. Un logiciel peut produire un score, une alerte ou une liste de dossiers prioritaires sans prendre lui-même la décision administrative ou judiciaire qui en découle. Une arrestation, une détention, une expulsion ou l’ouverture d’une enquête relèvent, en principe, d’agents, de responsables et d’autorités soumis à des règles propres.

Cette distinction ne suffit pas à dissiper les inquiétudes. Une recommandation affichée par un système peut influencer fortement l’attention d’un opérateur, surtout si elle apparaît dans un environnement de travail chargé ou si ses critères restent incompréhensibles. C’est le phénomène parfois appelé « biais d’automatisation » : la tendance à accorder un poids excessif à une proposition calculée parce qu’elle semble objective ou techniquement fondée.

La qualité d’une décision dépend alors de plusieurs paramètres très concrets : les données utilisées sont-elles exactes ? Les critères de rapprochement sont-ils pertinents ? Un agent peut-il corriger le système ? Les décisions et les consultations sont-elles enregistrées dans des journaux d’audit ? Une personne touchée par une décision dispose-t-elle d’un moyen de connaître les éléments retenus et de demander une correction ?

Pourquoi le partenariat avec l’ICE suscite-t-il autant de critiques ?

Palantir travaille depuis plusieurs années avec des organismes publics américains, dont l’Immigration and Customs Enforcement, plus connue sous le sigle ICE. Cette agence est chargée de faire appliquer certaines lois fédérales sur l’immigration et les douanes. Sa mission, notamment dans le domaine de l’éloignement des personnes en situation irrégulière, en fait un acteur particulièrement sensible du débat sur les données et les droits humains.

Les associations de défense des droits des migrants critiquent la fourniture d’outils permettant de mieux croiser des dossiers et de suivre des personnes ou des réseaux. Leur inquiétude porte sur un effet de capacité : une administration déjà dotée de pouvoirs étendus peut identifier et traiter davantage de dossiers lorsqu’elle dispose d’outils de recherche, de cartographie et de rapprochement performants.

Les critiques ne signifient pas que le logiciel remplace la loi ou que tous les usages sont illégaux. Elles posent une question de proportionnalité. Jusqu’où une agence peut-elle relier des données afin de remplir sa mission ? Comment éviter que des personnes soient affectées par une donnée erronée, un homonyme, une relation mal interprétée ou un ciblage excessif ? Et comment contrôler ces pratiques lorsque les contrats, les paramétrages et les jeux de données sont peu accessibles au public ?

Les populations migrantes, mais aussi les militants, les journalistes ou les opposants politiques dans d’autres contextes nationaux, peuvent être plus exposés aux effets d’une surveillance étendue. Ce risque ne dépend pas du logiciel seul. Il dépend du mandat de l’institution qui l’emploie, de la nature des données traitées, de l’existence d’un contrôle externe et de la possibilité de contester une décision.

Les droits civiques mis à l’épreuve aux États-Unis

Aux États-Unis, les débats autour de la surveillance mobilisent notamment le Premier amendement, qui protège entre autres la liberté d’expression et de réunion, ainsi que le Quatrième amendement, qui encadre les perquisitions et saisies déraisonnables. Ces garanties ne règlent pas automatiquement chaque cas de collecte ou d’analyse de données : leur application dépend des circonstances, des lois sectorielles et, en dernier ressort, des tribunaux.

Le risque pour la liberté d’expression est connu : des personnes qui se savent ou se croient surveillées peuvent renoncer à participer à une manifestation, à soutenir publiquement une cause ou à rencontrer certains groupes. Ce phénomène d’autocensure est difficile à quantifier, mais il explique pourquoi la surveillance de données ne relève pas uniquement de la protection de la vie privée. Elle peut aussi affecter la vitalité du débat démocratique.

La vie privée, elle, ne se résume pas au secret. Une donnée accessible au public peut devenir invasive lorsqu’elle est agrégée, conservée, croisée et interprétée à grande échelle. Une adresse, une photographie ou une mention dans un registre public n’ont pas le même effet lorsqu’elles sont consultées séparément que lorsqu’elles participent à un profil opérationnel complet.

Transparence : ce qu’il faut pouvoir vérifier

Le secret commercial et les impératifs de sécurité peuvent limiter la publication de détails techniques. Ils ne devraient pas empêcher toute forme de contrôle. Dans un État de droit, la transparence utile ne suppose pas de divulguer des méthodes d’enquête sensibles. Elle consiste à rendre vérifiables les règles qui protègent les personnes.

Pour les outils d’analyse à grande échelle, plusieurs questions devraient recevoir des réponses claires :

• quelles catégories de données sont traitées et pendant combien de temps ;
• quelles administrations, équipes ou sous-traitants y ont accès ;
• quelles actions sont recommandées ou facilitées par le système ;
• quels contrôles indépendants examinent les erreurs, les abus et les discriminations ;
• quelles procédures permettent de corriger une donnée et de contester une décision.

Les mobilisations d’associations, de chercheurs et de citoyens ont contribué à placer ces exigences dans le débat public. Des manifestations ont visé les contrats conclus entre entreprises technologiques et institutions de contrôle migratoire. Des propositions législatives, dont l’AI Sunshine Bill évoqué dans ce débat, cherchent à renforcer la visibilité sur certains usages de l’intelligence artificielle. Leur efficacité dépendra toutefois de leur périmètre, des moyens de contrôle prévus et de la capacité des autorités à les faire respecter.

Une technologie également présente dans les enjeux de défense

La présence de Palantir dans les domaines militaires et du renseignement ajoute une dimension particulière à ces interrogations. L’entreprise travaille avec des organisations de défense, pour lesquelles la rapidité du partage d’information et de la coordination peut avoir une importance opérationnelle majeure. Elle a notamment annoncé, en janvier 2024, un partenariat stratégique avec le ministère israélien de la Défense.

Dans les zones de conflit, tout outil susceptible de consolider des informations, d’aider à prioriser des opérations ou de raccourcir une chaîne de décision appelle un niveau d’examen élevé. Les détails opérationnels sont souvent confidentiels, ce qui rend difficile l’évaluation publique des usages précis. Cette opacité ne permet pas de conclure à partir du seul nom d’un fournisseur, mais elle renforce l’exigence de règles, de responsabilités identifiables et de contrôle du respect du droit applicable.

Ce qu’il faut surveiller désormais

L’enjeu des plateformes de Palantir dépasse une seule entreprise. Elles illustrent une évolution plus large : la montée d’infrastructures capables de rendre des données hétérogènes immédiatement exploitables par des organisations puissantes. À mesure que ces systèmes intègrent des fonctions d’intelligence artificielle générative ou prédictive, le risque n’est pas seulement d’accumuler davantage d’informations. C’est aussi d’accélérer leur interprétation et leur circulation.

Une vigilance utile doit donc porter sur les usages réels, plutôt que sur les promesses ou les craintes abstraites. Qui commande l’outil ? À quelles fins ? Quelles données sont reliées ? Quel humain rend la décision ? Qui contrôle l’ensemble ? Ces questions valent pour l’immigration, la défense, la sécurité publique, mais aussi pour les entreprises qui emploient l’analyse de données afin de classer des clients, des salariés ou des candidats.

L’innovation ne devient pas acceptable parce qu’elle est complexe, ni condamnable par principe parce qu’elle est puissante. Elle doit être encadrée à la hauteur de ses effets. Pour les technologies de surveillance et d’analyse de masse, cela suppose des limites légales précises, des audits crédibles, une transparence proportionnée et des recours accessibles. Sans ces garanties, l’efficacité technique peut progressivement se transformer en normalisation d’une surveillance que les citoyens ne voient plus, mais dont ils subissent les conséquences.