Faculty AI, la startup britannique au cœur des drones militaires intelligents

L’intelligence artificielle ne se limite plus aux assistants conversationnels ou aux outils de création d’images. Dans la défense, elle sert aussi à trier des masses de données, à repérer des signaux d’alerte et à assister des systèmes sans pilote. Au Royaume-Uni, la startup Faculty AI se trouve à l’intersection de ces usages militaires et de plusieurs missions publiques sensibles, dont la sécurité des systèmes d’IA eux-mêmes.

Au 7 janvier 2025, l’entreprise britannique est connue pour avoir développé des modèles destinés, entre autres, à des véhicules aériens sans pilote. Son activité pose une question devenue centrale pour les démocraties : comment bénéficier de la vitesse d’analyse des algorithmes sans déléguer à une machine les décisions qui engagent la vie humaine et le respect du droit de la guerre ?

Faculty AI, une entreprise déjà implantée dans la sphère publique britannique

Faculty AI s’est fait connaître en participant à l’analyse de données pour la campagne Vote Leave, avant le référendum britannique sur le Brexit. Cette expérience lui a apporté une visibilité considérable dans l’écosystème politique et technologique du pays. Elle a ensuite obtenu d’autres contrats auprès du gouvernement britannique, notamment pendant la pandémie.

La société a également travaillé sous l’égide de Dominic Cummings, ancien conseiller de Boris Johnson. Ce parcours est important pour comprendre sa position actuelle : Faculty ne se présente pas seulement comme un éditeur de logiciels travaillant avec des entreprises privées, mais comme un prestataire ayant acquis une expérience concrète des projets publics à forts enjeux.

Son domaine de compétence est l’exploitation de données et la conception de modèles d’IA. Dans le secteur de la défense, ces capacités peuvent être utilisées pour aider à interpréter rapidement les informations recueillies par un drone, par exemple afin de mieux identifier une menace aérienne ou de suivre l’évolution d’une situation opérationnelle. Le rôle décrit pour Faculty est donc avant tout celui d’un fournisseur de briques logicielles et analytiques.

Quel rôle Faculty AI joue-t-elle dans les drones militaires ?

Un drone militaire est un aéronef sans pilote à bord. Il peut être télépiloté, suivre des itinéraires préprogrammés ou disposer de degrés d’autonomie plus importants. L’IA peut intervenir à plusieurs étapes : analyse d’images et de données, détection d’objets, classement de menaces, suivi de mouvements ou aide à la planification.

Faculty AI fournit des modèles d’IA adaptés aux véhicules aériens sans pilote. L’objectif mis en avant est notamment d’améliorer l’analyse de données nécessaire à la surveillance des menaces aériennes. Dans un environnement où les informations arrivent vite et en grand volume, un système peut aider des opérateurs à faire remonter les éléments jugés importants.

Il faut toutefois distinguer plusieurs fonctions souvent réunies, à tort, sous l’étiquette de « drone autonome ». Détecter un objet, le suivre et proposer une alerte ne signifie pas automatiquement décider de l’emploi d’une arme. Le passage entre l’assistance à l’analyse et une décision de frappe est précisément le point où les enjeux juridiques, éthiques et politiques deviennent les plus aigus.

Les fabricants de munitions manifestent un intérêt marqué pour l’intégration de l’IA dans des drones dits « loyaux », conçus pour accompagner des avions de chasse. De leur côté, certains systèmes autonomes capables de prendre des décisions létales sans intervention humaine sont étudiés. Ces perspectives ne signifient pas que toutes les technologies développées par Faculty ont vocation à être armées ou à agir sans contrôle humain. Les informations disponibles ne détaillent pas les systèmes d’armement auxquels ses outils pourraient être reliés.

La sécurité de l’IA, un autre volet de ses relations avec l’État

La présence de Faculty dans l’écosystème de défense mérite d’être mise en regard de son implication auprès de l’AI Safety Institute, ou AISI, du gouvernement britannique. En 2023, l’entreprise a joué un rôle proactif dans cet organisme, en élaborant des tests destinés à vérifier l’intégrité des systèmes d’intelligence artificielle.

L’AISI a pour mission de s’intéresser aux risques associés aux modèles d’IA avancés. Dans ce cadre, tester un système consiste notamment à tenter d’en mesurer les limites, les comportements indésirables et les vulnérabilités avant un déploiement. Cette logique de contrôle est particulièrement importante lorsque l’IA est susceptible d’être intégrée à des infrastructures publiques ou à des environnements de défense.

La situation illustre néanmoins une tension : une même entreprise peut participer à l’évaluation de la sécurité des technologies d’IA tout en fournissant des solutions à des administrations qui souhaitent les employer. Le gouvernement britannique a indiqué n’avoir identifié aucun conflit d’intérêts concernant le développement de modèles. Cette réponse ne fait pas disparaître le débat public, mais elle précise la position officielle sur ce point.

Pour les citoyens comme pour les parlementaires, l’enjeu n’est pas d’interdire toute collaboration entre État et entreprises technologiques. Les administrations ont besoin de compétences spécialisées. La question est plutôt de savoir quelles garanties existent : séparation des rôles, critères d’évaluation transparents, audits indépendants, information des élus et traçabilité des décisions prises par les systèmes.

Le partenariat avec Hadean et la part de confidentialité

Faculty travaille avec Hadean, une autre startup londonienne, sur des applications d’IA liées à l’identification de cibles, au suivi des mouvements et à des opérations de déploiement autonome. Hadean est spécialisée dans des technologies de simulation et d’informatique distribuée, ce qui rend ce rapprochement cohérent avec des usages où de nombreuses données et entités doivent être suivies simultanément.

Les détails des éventuels systèmes d’armement concernés ne sont pas rendus publics. Cette confidentialité s’explique en partie par la nature des activités de défense et par des accords qui limitent ce qui peut être divulgué. Mais elle alimente aussi les inquiétudes : sans informations précises sur le niveau d’autonomie, les règles d’engagement et les mécanismes de validation, il est difficile pour le public d’évaluer les conséquences concrètes de ces outils.

L’identification d’une cible constitue un exemple parlant. Un algorithme peut fournir une probabilité ou une classification à partir de données disponibles. Mais une telle sortie n’est pas une certitude, et les erreurs de contexte, de données ou d’interprétation peuvent avoir des conséquences graves. La responsabilité ne peut donc pas être diluée entre le concepteur du modèle, l’intégrateur du système, l’opérateur et la chaîne de commandement.

Des contrats publics importants, malgré des pertes financières

L’activité de Faculty repose sur des collaborations avec plusieurs entités publiques. La valeur de ses contrats remportés atteint au moins 26,6 millions de livres sterling. Parmi ses clients figure également le NHS, le système public de santé britannique, ce qui montre que ses solutions ne sont pas limitées au domaine militaire.

Cette valeur de contrats ne doit pas être confondue avec un bénéfice. Pour l’exercice 2022-2023, Faculty a enregistré une perte de 4,4 millions de livres sterling. Les entreprises technologiques qui travaillent sur des projets complexes supportent souvent des coûts importants de recherche, de recrutement et de développement avant que les contrats ne se traduisent par des résultats financiers positifs. Les chiffres disponibles ne suffisent pas, à eux seuls, à résumer la santé économique de l’entreprise, mais ils donnent la mesure des montants en jeu.

Les contrats de défense et de sécurité attirent une attention particulière parce qu’ils associent argent public, technologies sensibles et impératifs de secret. Ils exigent donc un niveau élevé de contrôle démocratique. La question ne porte pas seulement sur la performance d’un modèle d’IA, mais aussi sur les conditions de son achat, de son évaluation, de son utilisation et de sa supervision une fois déployé.

Pourquoi les drones autonomes inquiètent-ils autant ?

L’utilisation de l’IA dans les systèmes militaires suscite des réserves au sein de la House of Lords, la chambre haute du Parlement britannique. Des experts demandent que les États s’accordent sur des règles internationales, qu’il s’agisse d’un traité ou d’un accord non contraignant, afin de préciser l’application du droit international humanitaire aux drones armés.

Le Green Party appelle pour sa part à l’interdiction des systèmes d’armement autonomes. Derrière ces positions se trouve une préoccupation simple : lorsqu’une décision peut entraîner la mort, qui doit en répondre, et à quel moment un être humain doit-il intervenir ?

Le droit international humanitaire impose notamment de distinguer les combattants des civils et de limiter les dommages causés aux personnes non combattantes. Dans des situations mouvantes, ces appréciations reposent sur un contexte que des données imparfaites ou un modèle statistique peuvent difficilement restituer à eux seuls. L’IA peut accélérer le traitement d’informations, mais cette rapidité ne garantit ni l’exactitude ni la légitimité d’une décision.

Les partisans d’un encadrement renforcé insistent ainsi sur la nécessité de maintenir une supervision humaine réelle, et pas seulement symbolique. Cette supervision suppose que les personnes chargées de valider une action comprennent suffisamment la situation, disposent du temps nécessaire pour intervenir et puissent contester la recommandation de la machine.

Ce qu’il faut surveiller dans les prochains mois

Le cas de Faculty AI résume plusieurs transformations simultanées. D’un côté, les forces armées cherchent des outils capables de traiter plus vite les données issues de systèmes sans pilote. De l’autre, les gouvernements tentent de bâtir des institutions chargées d’évaluer les risques de l’IA. Enfin, les citoyens et les parlementaires demandent des limites claires sur les usages militaires les plus sensibles.

Trois éléments mériteront une attention particulière. Le premier concerne le degré d’autonomie réellement confié aux systèmes : assistance aux opérateurs, navigation, suivi, identification ou décision de recours à la force ne sont pas des fonctions équivalentes. Le deuxième porte sur la transparence des contrats et sur l’évaluation des conflits d’intérêts lorsque des prestataires interviennent à la fois dans la sécurité de l’IA et dans des projets opérationnels.

Le troisième est international. En l’absence d’accord contraignant spécifique sur les armes autonomes, les appels à des règles communes vont continuer de se heurter aux intérêts stratégiques et industriels des États. Pour autant, le débat ne peut pas être réduit à une opposition entre innovation et interdiction. Il porte sur les conditions concrètes dans lesquelles l’innovation peut rester soumise à une responsabilité humaine, juridique et démocratique.