Une IA de surveillance attribuée à l’armée israélienne interroge les droits

L’intelligence artificielle ne se limite plus aux assistants capables de rédiger un texte ou de résumer un document. Dans les zones de conflit, les mêmes techniques de traitement automatique du langage peuvent aussi servir à trier, rapprocher et interpréter des volumes considérables de communications. Des informations publiées le 6 mars 2025 font ainsi état d’un système développé par l’armée israélienne pour surveiller et analyser des échanges de Palestiniens.

L’enjeu dépasse largement la performance technique. Lorsqu’un modèle automatise l’examen de conversations privées dans un contexte militaire, ses résultats peuvent influencer l’attention portée à une personne, un lieu ou une activité. Cela pose une question immédiate : comment concilier les impératifs de sécurité invoqués par une armée avec les droits fondamentaux des populations civiles, en particulier le droit à la vie privée et les garanties contre les décisions arbitraires ?

Ce que décrivent les informations publiées

L’outil évoqué est présenté comme une intelligence artificielle similaire à ChatGPT dans son rapport au langage. Il aurait pour fonction d’absorber et d’analyser un très grand nombre de données, notamment des communications interceptées et des données issues de différents moyens de communication. L’objectif rapporté est d’identifier rapidement des individus ou des comportements considérés comme suspects dans les zones palestiniennes.

Le volume mis en avant est considérable : le système serait en mesure d’examiner des millions de conversations. À cette échelle, il ne s’agit plus d’écouter ou de lire des échanges un par un. Le logiciel sert d’abord à faire remonter des éléments jugés pertinents afin qu’ils puissent être examinés dans le cadre d’opérations de renseignement.

L’armée israélienne justifie l’emploi de technologies de ce type par la nécessité de neutraliser des menaces liées à des groupes armés. Mais le périmètre exact de l’outil, les catégories précises de données qu’il traite, la durée de conservation de ces données et les contrôles humains appliqués à ses résultats ne sont pas détaillés dans les informations disponibles au 6 mars 2025.

Cette absence de précisions est importante. Une annonce sur les capacités d’un système ne permet pas, à elle seule, de mesurer son usage effectif, ni de savoir dans quelle mesure ses signaux conduisent à une surveillance, à une enquête ou à une décision opérationnelle.

Comment une IA peut-elle analyser des communications ?

Les modèles de langage et les techniques d’apprentissage automatique sont conçus pour repérer des régularités dans de très grands ensembles de textes. Ils peuvent classer des messages par thème, détecter la présence de mots ou de formulations, résumer des discussions, relier des noms ou encore attribuer un niveau de priorité à certains échanges.

Dans un cadre de renseignement, un tel système peut théoriquement réduire le temps nécessaire pour parcourir une masse de données impossible à traiter manuellement. Il ne « comprend » toutefois pas une conversation comme une personne qui connaîtrait l’histoire, les relations familiales, les sous-entendus et la situation réelle de ses interlocuteurs. Il calcule des probabilités à partir de données et de consignes.

C’est là que se situe une limite essentielle. Un mot, un nom ou une formule peuvent avoir plusieurs sens. Une conversation banale peut évoquer un lieu, une personne ou un événement associé à une enquête sans révéler une intention illégale. Dans un environnement où les communications sont déjà contraintes par la peur, les déplacements ou les opérations militaires, le contexte est d’autant plus décisif.

L’automatisation peut donc accélérer le tri, mais elle ne résout pas la question de la vérité des informations. Au contraire, elle peut donner une apparence de certitude à des résultats qui restent dépendants de la qualité des données, des critères choisis et de l’interprétation humaine.

Pourquoi la comparaison avec ChatGPT est-elle trompeuse ?

ChatGPT a familiarisé le grand public avec les modèles de langage. Ces outils peuvent répondre à une question, rédiger un courrier, traduire ou synthétiser un document. Leur fonctionnement général repose sur la prédiction de suites de mots plausibles, à partir de ce qu’ils ont appris dans de vastes ensembles de textes.

Un système militaire d’analyse de communications peut mobiliser des briques techniques comparables, comme le traitement automatique du langage, la recherche sémantique ou la classification de contenus. Pourtant, son but est radicalement différent. Il ne cherche pas à rendre un service à un utilisateur : il est conçu pour extraire du renseignement et aider à hiérarchiser des informations dans un contexte sécuritaire.

La comparaison avec un assistant conversationnel ne doit surtout pas faire oublier les effets concrets qui peuvent découler d’un classement automatique. Une erreur de réponse dans un chatbot grand public est généralement gênante. Une erreur dans un système destiné à signaler des personnes ou des communications peut avoir des conséquences bien plus graves pour les individus concernés.

Projet Nimbus : ce que l’on peut et ne peut pas en déduire

Les informations initiales évoquent aussi le rôle de ressources fournies par Google et le lien avec le Projet Nimbus. Ce nom désigne un contrat de services d’informatique en nuage conclu avec l’État israélien, impliquant Google et Amazon. Le cloud permet notamment de stocker, d’organiser et de traiter d’importants volumes de données, ainsi que d’accéder à des outils d’intelligence artificielle.

Il convient toutefois de distinguer l’existence d’une infrastructure cloud et l’utilisation précise qui en est faite. Le fait qu’un fournisseur fournisse des capacités de stockage ou de calcul à un État ne démontre pas, à lui seul, qu’un service particulier est intégré à un système militaire donné, ni qu’il connaît le détail des opérations menées par ses clients.

Cette nuance ne rend pas le débat secondaire, bien au contraire. Elle illustre la difficulté croissante à séparer les technologies civiles et militaires. Les modèles, les capacités de calcul et les services cloud sont souvent polyvalents. Une même infrastructure peut soutenir des applications administratives, de santé, de recherche ou de sécurité. La question éthique porte donc aussi sur les règles contractuelles, les mécanismes de contrôle et la transparence exigée des entreprises technologiques.

Vie privée, erreurs et droits fondamentaux

La surveillance de masse est déjà problématique dans un cadre civil ordinaire. Dans un territoire marqué par un conflit prolongé, le déséquilibre entre l’autorité qui collecte les données et les personnes surveillées est encore plus marqué. Les Palestiniens dont les communications sont analysées ne disposent pas nécessairement d’un moyen clair de savoir quelles données sont détenues à leur sujet, pourquoi elles ont été recueillies, ni de contester une éventuelle erreur.

Les organisations de défense des droits humains alertent régulièrement sur plusieurs risques : la collecte disproportionnée de données, l’extension de la surveillance à des personnes sans lien établi avec une menace, l’absence de transparence sur les critères de sélection et les conséquences d’une mauvaise identification.

L’intelligence artificielle ajoute une couche d’opacité. Même lorsque les concepteurs savent expliquer le fonctionnement global d’un modèle, il peut être difficile d’identifier pourquoi il a considéré un échange comme suspect dans un cas particulier. Or une décision qui affecte les libertés d’une personne devrait pouvoir être expliquée, vérifiée et contestée.

Le problème est également collectif. Savoir ou redouter que chaque appel, message ou interaction puisse être analysé modifie les comportements. Les personnes peuvent s’autocensurer, éviter de contacter des proches ou renoncer à certaines discussions pourtant légitimes. Cette pression diffuse constitue l’un des effets les plus durables de la surveillance numérique.

L’IA militaire ne remplace pas la responsabilité humaine

L’introduction de l’IA dans les opérations militaires transforme la manière de traiter le renseignement. Elle promet une vitesse et une capacité de tri inédites face à une masse de signaux. Mais elle ne peut pas décider, à elle seule, de ce qui est légal, nécessaire ou proportionné dans une situation donnée.

Le droit international humanitaire impose notamment de distinguer les civils des objectifs militaires et de prendre des précautions dans la conduite des opérations. Une sortie algorithmique, même présentée comme très fiable, ne transfère pas la responsabilité juridique et morale de la décision à une machine. Cette responsabilité reste humaine.

Pour être évalué sérieusement, un outil de ce type devrait pouvoir faire l’objet de contrôles sur plusieurs points : la nature des données recueillies, les critères qui déclenchent une alerte, les taux d’erreur, la place réellement laissée à la vérification humaine et les voies de recours accessibles aux personnes affectées. Sans ces éléments, les promesses d’efficacité risquent de masquer des conséquences difficilement réversibles.

Ce qu’il faut surveiller après ces révélations

Le développement d’outils d’analyse linguistique à finalité militaire confirme que les modèles d’IA deviennent des instruments de pouvoir, au même titre que les réseaux de télécommunication, les bases de données ou les systèmes de reconnaissance d’images. Le débat ne concerne donc pas seulement Israël et les territoires palestiniens : il concerne toutes les démocraties et tous les États qui investissent dans la surveillance algorithmique.

Dans les prochains mois, plusieurs questions seront déterminantes. Les autorités fourniront-elles des informations précises sur les garanties appliquées aux civils ? Des évaluations indépendantes pourront-elles mesurer les erreurs et les biais du système ? Les entreprises qui fournissent des infrastructures cloud préciseront-elles les limites qu’elles fixent aux usages militaires de leurs services ?

Le progrès technique ne rend pas une surveillance légitime par nature. Plus un outil est capable d’examiner des données à grande échelle, plus les règles qui l’encadrent doivent être strictes, compréhensibles et contrôlables. Dans un conflit, cette exigence n’est pas un obstacle à la sécurité : elle est une condition pour que l’IA ne devienne pas un facteur supplémentaire d’atteinte aux droits fondamentaux.