Sécurité de l’IA : pourquoi la recherche collaborative est devenue indispensable

L’intelligence artificielle s’invite dans des logiciels professionnels, des services publics, la recherche scientifique, la cybersécurité et parfois des fonctions sensibles. Cette diffusion élargit ses bénéfices potentiels, mais elle multiplie aussi les situations dans lesquelles une erreur, un détournement ou une faille de sécurité peut avoir des conséquences concrètes. La question n’est donc pas seulement de savoir si un modèle est performant. Il faut aussi déterminer dans quelles conditions il peut être utilisé de manière fiable, contrôlée et réversible.

Au 10 janvier 2025, aucune organisation ne détient seule toutes les réponses à cette équation. Les entreprises disposent de modèles, de moyens de calcul et de retours d’usage. Les chercheurs apportent des méthodes d’évaluation et une capacité de contradiction indépendante. Les autorités définissent un cadre collectif. Les spécialistes de la cybersécurité, du droit, de la psychologie ou des sciences sociales aident, eux, à comprendre des risques que la seule mesure des performances techniques ne permet pas de voir. C’est cette coopération qui donne à la recherche sur la sécurité de l’IA son importance stratégique.

Sécurité de l’IA : de quoi parle-t-on exactement ?

L’expression « sécurité de l’IA » recouvre plusieurs réalités souvent confondues. Elle concerne d’abord la capacité d’un système à produire un comportement suffisamment fiable dans son contexte d’utilisation. Un assistant conversationnel qui invente une information, un outil de tri de candidatures qui discrimine ou un système de pilotage qui interprète mal une situation ne posent pas le même problème, mais ils relèvent tous d’une gestion insuffisante des risques.

Elle recouvre également la cybersécurité des systèmes eux-mêmes. Un acteur malveillant peut tenter de contourner les protections d’un modèle, d’extraire des données sensibles, de manipuler ses instructions ou d’empoisonner les données utilisées lors de son entraînement. Dans ce domaine, l’IA devient à la fois une cible et, parfois, un outil utilisable par des défenseurs comme par des attaquants.

Enfin, la sécurité renvoie à la gouvernance : qui décide qu’un système peut être déployé, avec quels tests, auprès de quels utilisateurs, pour quelles tâches et avec quels moyens de recours en cas d’incident ? Une IA peut donner de bons résultats dans une démonstration contrôlée tout en devenant problématique lorsqu’elle est utilisée par des millions de personnes, reliée à des bases de données ou intégrée à une infrastructure critique.

Pourquoi les tests classiques ne suffisent pas

Les concepteurs de systèmes d’IA organisent de plus en plus souvent des exercices de red teaming. Le principe est simple : des équipes cherchent volontairement à pousser un système dans ses retranchements afin de révéler ses failles. Elles tentent, par exemple, de lui faire contourner ses règles, de produire une réponse inappropriée ou de divulguer une information qu’il ne devrait pas communiquer.

Cette démarche est utile, car elle remplace l’idée selon laquelle une technologie serait sûre faute de problème visible par une démarche active de recherche des défauts. Mais elle comporte des limites. Un test est nécessairement réalisé dans un temps donné, avec des scénarios choisis et par un nombre limité de personnes. Il ne peut pas reproduire toutes les manières, parfois imprévisibles, dont un outil sera utilisé après son lancement.

Les modèles d’IA évoluent en outre rapidement. Une modification de données, une nouvelle fonctionnalité ou une connexion à un autre logiciel peut changer le profil de risque du produit. La sécurité ne peut donc pas se réduire à un contrôle unique avant publication. Elle suppose une surveillance continue, la remontée des incidents et la possibilité de corriger, limiter ou suspendre un usage lorsque cela devient nécessaire.

La conception doit également intégrer des mécanismes de sécurité dès le départ. Limiter les droits d’accès, séparer les environnements de test et de production, tracer certaines actions, prévoir une validation humaine pour les décisions les plus sensibles et documenter les limites connues constituent des pratiques plus solides qu’une correction improvisée après un incident.

La coopération élargit ce que les tests peuvent détecter

La recherche collaborative ne signifie pas que toutes les informations techniques doivent être publiques sans distinction. Certaines données, certains détails de vulnérabilités ou certains outils peuvent légitimement être protégés pour éviter de faciliter des abus. Elle signifie plutôt que les méthodes, les constats et les alertes utiles doivent circuler entre les acteurs capables d’agir.

Les chercheurs universitaires peuvent tester des hypothèses ou publier des méthodes d’évaluation indépendantes. Les entreprises disposent de l’accès aux modèles et aux infrastructures nécessaires pour appliquer des correctifs. Les experts en cybersécurité connaissent les techniques employées par les attaquants. Les juristes évaluent la compatibilité avec les droits fondamentaux et les règles applicables. Les spécialistes des sciences humaines peuvent identifier des biais, des effets de confiance excessive ou des détournements liés aux comportements des utilisateurs.

Cette diversité est particulièrement importante pour les systèmes génératifs. Un modèle de langage n’est pas un logiciel dont chaque réponse aurait été écrite à l’avance. Il produit des contenus à partir de probabilités apprises dans de grands volumes de données. Son comportement dépend donc de la formulation de la demande, du contexte fourni et des garde-fous ajoutés par son concepteur. Les évaluations doivent être répétées, comparables et adaptées à des usages réels.

Réguler selon le niveau de risque plutôt qu’avec une règle unique

La réglementation a un rôle distinct de celui des chercheurs ou des entreprises. Elle fixe un seuil collectif de protection et précise qui doit rendre des comptes. Sans cadre commun, une organisation peut être tentée de privilégier la vitesse de mise sur le marché, tandis que les coûts d’un incident sont supportés par les utilisateurs, les travailleurs ou les services concernés.

Dans l’Union européenne, le règlement sur l’intelligence artificielle, souvent appelé AI Act, est entré en vigueur le 1er août 2024. Son architecture repose sur une approche graduée : plus un usage présente de risques pour la santé, la sécurité ou les droits fondamentaux, plus les obligations prévues sont importantes. Cette logique évite de traiter de la même manière un outil de divertissement et un système susceptible d’influencer l’accès à un emploi, à un crédit ou à un service essentiel.

Pour être efficace, un cadre normatif doit cependant rester assez précis pour guider les organisations sans se limiter à des principes généraux. Les critères d’évaluation doivent tenir compte du secteur concerné, du public exposé et de l’échelle de diffusion. Un système utilisé à petite échelle dans un environnement très encadré n’emporte pas les mêmes conséquences qu’un outil déployé auprès de millions d’utilisateurs.

Les autorités ont également besoin de capacités d’expertise. Elles doivent pouvoir examiner les informations pertinentes, comprendre les limites techniques et intervenir lorsque des risques sérieux apparaissent. Dans les cas les plus graves, la possibilité de retirer, de corriger ou de suspendre un système dangereux fait partie des outils de protection à envisager. Un tel mécanisme doit être proportionné, transparent et fondé sur une évaluation solide des risques.

Le principe de précaution, une méthode d’action et non un frein absolu

Le principe de précaution est parfois présenté comme un refus du progrès. Dans le champ de l’IA, il peut au contraire servir de méthode pratique : lorsqu’un dommage potentiel est élevé et difficile à réparer, il est raisonnable de demander davantage de preuves, de tests et de contrôles avant de généraliser un outil.

Cette logique ne commande pas d’attendre une certitude absolue sur tous les risques. Une telle certitude est rarement accessible avec une technologie qui évolue vite et s’adapte à de multiples usages. Elle invite à organiser l’incertitude : identifier les scénarios plausibles, mesurer ce que l’on ne sait pas encore, réduire l’exposition et préparer une réponse en cas de problème.

Concrètement, cela peut passer par des déploiements progressifs, des restrictions d’accès pour certaines fonctions, des évaluations réalisées par des tiers ou encore des mécanismes simples permettant aux utilisateurs de signaler un comportement préoccupant. L’important est que ces mesures soient pensées avant l’incident, et non uniquement après sa survenue.

Les difficultés concrètes d’une recherche réellement partagée

La collaboration est indispensable, mais elle ne s’improvise pas. Les entreprises peuvent hésiter à partager des résultats qui révèlent une faiblesse, par crainte d’atteindre leur réputation ou d’aider des concurrents. Les chercheurs n’ont pas toujours accès aux modèles les plus avancés ni aux données nécessaires pour les étudier. Les régulateurs, de leur côté, doivent suivre une innovation rapide avec des ressources et des compétences spécialisées.

La coopération internationale ajoute une difficulté supplémentaire. Les systèmes d’IA, les infrastructures de calcul, les données et les attaques informatiques ne s’arrêtent pas aux frontières. Des standards communs sur l’évaluation des risques, le signalement des incidents et la documentation faciliteraient la comparaison des pratiques. Ils réduiraient aussi le risque de voir des acteurs choisir les juridictions les moins exigeantes.

Des cadres de référence existent déjà pour structurer cette réflexion. Le cadre de gestion des risques liés à l’IA du National Institute of Standards and Technology, aux États-Unis, propose par exemple d’identifier, mesurer, gérer et suivre les risques. Les principes de l’OCDE soulignent, eux, l’importance d’une IA robuste, sûre et responsable. Ces textes ne remplacent pas les lois ni les audits, mais ils offrent un langage commun à des acteurs aux intérêts différents.

Ce qu’il faut surveiller

Le rythme du développement de l’IA est plus rapide que celui des cycles habituels de normalisation et de régulation. Cette accélération rend la coopération encore plus nécessaire. Les acteurs publics et privés devront notamment s’accorder sur ce qui constitue un test crédible, sur la manière de partager des informations sans exposer inutilement les systèmes, et sur les procédures à activer lorsqu’un risque se matérialise.

La priorité ne consiste pas à promettre une IA sans aucun défaut, objectif irréaliste pour toute technologie complexe. Elle est de construire des systèmes capables de reconnaître leurs limites, de résister davantage aux attaques, d’être contrôlés par des personnes compétentes et d’être corrigés lorsqu’ils échouent.

L’avenir de la sécurité de l’IA dépendra donc moins d’une solution miracle que d’une discipline collective. Chercheurs, entreprises, décideurs publics, spécialistes de la sécurité et société civile ont des responsabilités différentes, mais complémentaires. C’est de leur capacité à confronter les résultats, partager les alertes et imposer des garde-fous proportionnés que dépendra une innovation à la fois utile et digne de confiance.