Rachel James chez AbbVie : l’IA pour mieux trier les alertes de cybersécurité

Dans un centre opérationnel de sécurité, la difficulté n’est pas seulement de détecter une activité anormale. C’est de savoir, parmi une masse continue d’alertes, lesquelles signalent un incident réel, lesquelles décrivent le même problème et lesquelles révèlent une faiblesse encore inexploitable. C’est sur ce travail de tri, de rapprochement et de contextualisation que Rachel James, ingénieure principale en intelligence artificielle et apprentissage automatique chez AbbVie, entend mettre les modèles de langage à contribution.

Son constat est double. Les outils d’intelligence artificielle peuvent donner aux défenseurs une capacité supplémentaire pour lire et relier de grandes quantités d’informations. Mais les mêmes avancées technologiques deviennent aussi un levier pour les attaquants et peuvent introduire de nouvelles failles dans les organisations qui les déploient trop vite. La promesse n’est donc pas une cybersécurité autonome : elle réside dans une meilleure exploitation des données, sous le contrôle d’experts capables d’en vérifier les résultats.

Pourquoi le volume d’alertes est-il un problème de cybersécurité ?

Une entreprise moderne reçoit des signaux de sécurité issus de nombreux outils : postes de travail, messagerie, réseau, applications, services dans le cloud ou encore scanners de vulnérabilités. Une même activité peut produire plusieurs alertes. À l’inverse, un indice isolé peut paraître banal alors qu’il devient préoccupant une fois relié à d’autres observations.

Pour les équipes de sécurité, cette abondance crée deux risques contraires. Le premier est la fatigue liée aux alertes, quand les analystes passent du temps sur des événements sans gravité. Le second est plus sérieux : une alerte pertinente peut être noyée dans le bruit et ne pas être étudiée à temps. La question n’est donc pas seulement de collecter plus de données, mais de leur donner du sens.

Rachel James travaille sur cette étape d’analyse chez AbbVie. Son équipe exploite des modèles de langage de grande taille, souvent désignés par le sigle anglais LLM, pour examiner des volumes importants d’alertes. Ces modèles sont particulièrement adaptés au traitement de texte et d’informations semi-structurées. Ils peuvent, par exemple, rapprocher des descriptions formulées de façons différentes, résumer un ensemble d’événements ou signaler des similarités entre plusieurs cas.

L’objectif décrit par Rachel James est d’établir un portrait plus unifié des menaces. Au lieu de considérer chaque alerte comme un élément indépendant, l’équipe cherche à réunir les observations, les corrélations et les règles associées. Cette vue d’ensemble peut aider à détecter ce qui manque dans la défense avant qu’un attaquant ne puisse en profiter.

OpenCTI et STIX, organiser le renseignement sur les menaces

Au centre de cette approche se trouve OpenCTI, une plateforme de renseignement sur les cybermenaces. Le renseignement sur les menaces consiste à rassembler, organiser et interpréter des informations sur les campagnes malveillantes, les techniques utilisées, les vulnérabilités, les logiciels employés ou les groupes qui peuvent être à l’origine d’attaques.

Pour une organisation, l’enjeu est de ne pas laisser ces informations sous la forme d’une accumulation de rapports, de notes et d’alertes isolées. La plateforme permet à AbbVie de transformer ce flux en données structurées et exploitables selon le format STIX. Ce standard est conçu pour décrire et échanger des renseignements sur les menaces de manière cohérente : un indicateur technique, une campagne, une vulnérabilité ou une relation entre plusieurs éléments peuvent ainsi être modélisés et reliés.

Cette structuration est importante pour l’usage de l’IA. Un modèle de langage peut être utile pour assister la lecture et proposer des rapprochements, mais il doit pouvoir s’appuyer sur un socle d’informations organisé. Sans cela, il risque de produire une synthèse convaincante mais imprécise, ou de passer à côté du contexte déterminant.

Rachel James prévoit d’intégrer davantage de données externes sur les menaces afin d’enrichir l’analyse. Elle envisage aussi de connecter ce renseignement à d’autres domaines de la sécurité, en particulier la gestion des vulnérabilités et les risques liés aux tiers. Les partenaires, fournisseurs et prestataires peuvent en effet ouvrir des dépendances techniques ou organisationnelles qu’une entreprise doit également surveiller.

Une technologie utile, mais aussi une nouvelle surface d’attaque

L’usage de l’IA dans la cybersécurité ne se limite pas aux bénéfices défensifs. Rachel James insiste aussi sur les risques propres à l’IA générative. Les entreprises qui ajoutent un assistant conversationnel, un agent ou un modèle de langage à leurs processus doivent se demander quelles données ce système peut lire, quelles actions il peut déclencher et comment il réagit à des instructions malveillantes.

Elle participe à un groupe consacré à l’OWASP Top 10 pour GenAI, une initiative qui étudie les risques de sécurité associés à l’IA générative. L’OWASP est une communauté reconnue dans le domaine de la sécurité des applications. Ses listes de risques visent à donner aux organisations un langage commun pour identifier les faiblesses les plus importantes et mettre en place des contrôles adaptés.

Parmi les sujets suivis par Rachel James figure l’injection de prompt. Cette attaque consiste à insérer dans les données reçues par un système d’IA des instructions destinées à détourner son comportement. Dans un contexte d’entreprise, un modèle pourrait être amené à lire un document, un courriel ou une page web contenant un texte conçu pour influencer ses réponses ou lui faire contourner les règles initialement prévues.

Pourquoi l’injection de prompt mérite une attention particulière

L’injection de prompt est parfois présentée comme un simple défaut de formulation. C’est plus complexe. Un système d’IA générative reçoit souvent à la fois des consignes définies par son concepteur, des requêtes d’utilisateurs et des contenus externes. Distinguer de manière fiable une instruction légitime d’un texte malveillant glissé dans une source consultée est un problème de conception et de sécurité.

Rachel James est responsable de l’entrée consacrée à l’injection de prompt pour OWASP et développe des techniques d’input adversarial, c’est-à-dire des méthodes permettant de tester la résistance de systèmes face à des entrées conçues pour les tromper ou les influencer. Cette démarche de recherche vise à comprendre les faiblesses avant qu’elles ne soient exploitées dans des usages réels.

Les organisations doivent aussi composer avec deux limites plus générales de l’IA générative : son caractère parfois imprévisible et la difficulté à expliquer précisément certaines décisions. Un modèle peut produire une réponse plausible, y compris lorsque les informations dont il dispose sont incomplètes ou ambiguës. Dans un domaine où une erreur de qualification peut avoir des conséquences importantes, l’automatisation doit donc s’accompagner de contrôles clairs.

Cela passe notamment par des droits d’accès limités, une journalisation des actions, des tests de sécurité avant la mise en production et une supervision humaine lorsque l’outil formule une recommandation sensible ou agit sur un système. Il faut également mesurer le retour sur investissement de façon réaliste. Rachel James met en garde contre les promesses excessives autour de l’IA, qui risquent de conduire à des projets coûteux, mal cadrés ou insuffisamment sécurisés.

Comprendre les attaquants pour mieux préparer la défense

Le renseignement sur les menaces s’appuie sur une idée simple : mieux comprendre les motivations, les outils et les tactiques des attaquants permet de mieux préparer ses défenses. Cela ne signifie pas qu’il est possible de prévoir chaque attaque. En revanche, l’observation de campagnes, de techniques récurrentes et de nouveaux outils peut aider une entreprise à prioriser les protections les plus pertinentes.

Le parcours de Rachel James s’inscrit dans cette culture du renseignement. Elle suit les discussions sur les menaces et les développements d’outils sur des canaux de source ouverte, documente ses travaux et maintient une présence active sur le dark web dans le cadre de ses recherches. Elle partage également des découvertes sur son dépôt GitHub, cybershujin.

Cette veille s’inscrit dans une logique défensive. Les échanges publics, les dépôts de code, les forums spécialisés et d’autres espaces numériques peuvent fournir des indices sur l’évolution de techniques ou d’outils utilisés par des adversaires. Encore faut-il les interpréter avec prudence : un discours en ligne ne prouve pas à lui seul l’existence d’une campagne, ni l’efficacité d’un outil revendiqué.

Le rapprochement entre renseignement et science des données

Rachel James identifie un parallèle entre le cycle de vie du renseignement sur les menaces et celui des systèmes d’intelligence artificielle et d’apprentissage automatique. Dans les deux cas, il faut collecter des données, les évaluer, les préparer, les analyser puis utiliser les résultats pour guider une action. Et dans les deux cas, la qualité du résultat dépend d’un processus continu de révision.

Un renseignement qui n’est pas actualisé peut devenir obsolète. De même, un système d’IA entraîné ou configuré à partir de données insuffisantes peut générer des résultats peu fiables. La collaboration entre spécialistes de la sécurité et spécialistes des données devient alors essentielle : les premiers apportent le contexte opérationnel, les seconds contribuent à concevoir des mécanismes d’analyse robustes et mesurables.

Pour les entreprises, la piste défendue par Rachel James est celle d’un partage plus intelligent des informations et d’une meilleure articulation entre les outils. Un renseignement structuré peut nourrir la gestion des vulnérabilités, aider à examiner le risque associé à un tiers et fournir aux analystes des éléments de contexte plus rapidement. L’IA peut améliorer cette circulation de l’information, à condition de ne pas devenir une boîte noire à laquelle l’organisation délèguerait son jugement.

Ce qu’il faut surveiller

Les prochains mois diront dans quelle mesure les entreprises réussissent à passer des démonstrations d’IA à des usages réellement intégrés dans leurs opérations de cybersécurité. Plusieurs critères seront déterminants : la capacité à réduire le temps consacré aux alertes répétitives, la qualité des explications fournies aux analystes, la protection des données manipulées par les modèles et la résistance des systèmes aux tentatives de manipulation.

Le travail sur les risques de l’IA générative restera tout aussi important que son déploiement. À Amsterdam, lors de l’AI & Big Data Expo Europe, prévue les 24 et 25 septembre 2025, Rachel James doit présenter ses réflexions sur l’intégration de l’éthique de l’IA à grande échelle, le deuxième jour de l’événement. Cette question dépasse la seule conformité : dans un outil de cybersécurité, une IA digne de confiance doit aussi être testable, surveillée et proportionnée aux décisions qu’elle contribue à éclairer.

L’enjeu, pour les organisations, n’est pas de choisir entre experts humains et algorithmes. Il consiste à bâtir des processus où les modèles aident à absorber la complexité, tandis que des professionnels conservent la capacité de vérifier, d’enquêter et de décider face à des menaces qui, elles aussi, évoluent en permanence.