Cryptographie et IA : les technologies qui promettent de mieux protéger nos données

Les systèmes d’intelligence artificielle sont souvent conçus autour d’un paradoxe : plus ils reçoivent de données, plus ils peuvent espérer repérer des tendances utiles, mais plus les informations personnelles risquent d’être exposées. Dossiers médicaux, transactions financières, historiques de navigation ou données d’entreprise constituent des ressources précieuses pour entraîner et faire fonctionner des modèles. Ce sont aussi des données dont la circulation doit être limitée, contrôlée et justifiée.

La cryptographie offre une piste importante pour sortir de cette opposition apparente. Son ambition n’est pas de rendre les données miraculeusement anonymes, ni de dispenser une organisation de ses obligations légales. Elle consiste à organiser des calculs, des échanges et des accès de manière à ce que chaque participant ne voie que ce qui lui est nécessaire. Dans le domaine de l’IA, ces techniques ouvrent la voie à des modèles capables de tirer parti d’informations sensibles tout en réduisant l’exposition de celles-ci.

Pourquoi l’IA pose un défi particulier pour la vie privée

Un modèle d’IA apprend à partir d’exemples. Dans une architecture classique, ces exemples sont regroupés dans une base de données puis utilisés sur des serveurs pour entraîner le modèle. Cette centralisation facilite le travail des équipes techniques, mais elle concentre aussi les risques : accès abusif, erreur de configuration, attaque informatique, réutilisation des données au-delà de la finalité initiale ou conservation excessive.

Le risque ne disparaît pas nécessairement une fois le modèle entraîné. Selon sa conception, un système peut reproduire des fragments de ses données d’apprentissage, permettre d’inférer si une personne figurait dans un jeu de données ou révéler des informations par le biais de requêtes répétées. Un modèle peut également produire une réponse sensible parce que les droits d’accès à sa base documentaire ont été mal définis.

Il faut donc distinguer trois moments : la collecte des données, leur traitement pour l’entraînement ou l’inférence, puis la diffusion du résultat. Chiffrer un fichier stocké sur un serveur est utile, mais cela ne suffit pas à protéger les informations lorsqu’elles doivent être déchiffrées pour être calculées par un modèle.

Ce que la cryptographie change concrètement

La cryptographie traditionnelle protège déjà les données lors de leur transmission et de leur stockage. C’est le rôle du chiffrement qui empêche un tiers non autorisé de lire un message ou un fichier. Les techniques dites avancées cherchent, elles, à aller plus loin : elles visent à autoriser un calcul ou une vérification sans donner un accès complet aux informations sous-jacentes.

Le chiffrement homomorphe est l’exemple le plus parlant. Il permet d’effectuer certaines opérations sur des données chiffrées. Le détenteur du serveur manipule alors des valeurs illisibles, et seul le détenteur de la clé peut déchiffrer le résultat final. En théorie, une organisation pourrait ainsi faire analyser des informations sensibles par un prestataire sans lui transmettre les données en clair.

Le calcul multipartite sécurisé repose sur une autre logique. Plusieurs acteurs détiennent chacun une part des informations nécessaires à un calcul commun. Le protocole leur permet d’obtenir le résultat convenu sans que l’un d’eux accède à l’ensemble des données des autres. Cette approche peut intéresser, par exemple, des institutions qui souhaitent produire une statistique commune tout en gardant leurs bases séparées.

Les preuves à divulgation nulle de connaissance permettent pour leur part de prouver qu’une affirmation est vraie, sans révéler l’information qui sert à l’établir. Elles ne constituent pas un outil d’entraînement d’IA à elles seules, mais elles peuvent contribuer à vérifier une propriété, un droit ou une règle d’accès sans exposer les données concernées.

L’apprentissage fédéré garde-t-il vraiment les données privées ?

L’apprentissage fédéré est souvent présenté comme une réponse directe au problème de centralisation. Au lieu d’envoyer les données d’un téléphone, d’un hôpital ou d’une entreprise vers un serveur unique, le modèle est entraîné localement. L’appareil transmet ensuite une mise à jour mathématique, par exemple des paramètres ou des gradients, qui est agrégée avec celles d’autres participants.

Cette méthode réduit la circulation de données brutes. C’est un avantage réel lorsque celles-ci sont particulièrement sensibles ou difficiles à déplacer. Mais elle ne doit pas être confondue avec une garantie absolue de confidentialité. Des travaux de recherche ont montré que des informations peuvent parfois être déduites des mises à jour produites par un modèle. Un acteur malveillant, ou un dispositif insuffisamment protégé, pourrait aussi compromettre l’intégrité de l’entraînement en injectant des mises à jour trompeuses.

C’est pourquoi l’apprentissage fédéré est souvent associé à d’autres mécanismes : agrégation sécurisée, qui empêche le serveur de voir la contribution individuelle de chaque participant, confidentialité différentielle, qui introduit un bruit contrôlé, et contrôles d’accès robustes. La protection naît de cette combinaison, pas d’un seul mot-clé technique.

La confidentialité différentielle mérite une attention particulière. Elle ne chiffre pas les données. Elle limite plutôt ce que l’on peut déduire de la présence ou de l’absence d’un individu dans un ensemble de données, grâce à une perturbation mathématiquement encadrée. Son paramétrage est décisif : trop peu de bruit réduit la protection, trop de bruit dégrade la qualité des résultats.

Le cas Bittensor et la promesse d’une IA décentralisée

La publication d’origine cite Bittensor parmi les initiatives qui s’inscrivent dans un mouvement de développement décentralisé de l’IA. Le projet organise un réseau dans lequel des participants contribuent à des services et à des modèles, avec des mécanismes d’incitation et d’évaluation. Cette organisation peut favoriser la collaboration entre acteurs plutôt qu’un fonctionnement entièrement concentré chez un unique opérateur.

La décentralisation ne doit toutefois pas être assimilée automatiquement à la confidentialité. Répartir une infrastructure ou multiplier les participants peut réduire certains points uniques de défaillance, mais cela crée aussi de nouvelles questions : quelles données sont visibles par les nœuds du réseau ? Quels éléments sont inscrits durablement dans l’infrastructure ? Comment les participants sont-ils authentifiés ? Qui est responsable en cas de fuite ou d’usage non conforme ?

La sécurité d’un système dépend donc des protocoles réellement employés, de leur mise en œuvre et de leur audit, pas seulement de son architecture annoncée. Une IA décentralisée peut bénéficier de techniques cryptographiques, mais elle doit aussi appliquer une gouvernance claire, une gestion rigoureuse des identités et des règles de minimisation des données.

Cryptographie quantique et post-quantique : deux sujets à ne pas confondre

Le rapprochement entre cryptographie et IA conduit aussi à évoquer les technologies quantiques. Deux notions différentes sont souvent réunies sous une même expression, alors qu’elles répondent à des problèmes distincts.

La cryptographie quantique, souvent associée à la distribution quantique de clés, exploite des propriétés de la physique quantique pour permettre à deux parties d’établir une clé secrète et de détecter, en principe, une interception de l’échange. Les expérimentations dans ce domaine nourrissent l’idée de communications plus robustes. Elles ne rendent cependant pas un système « impénétrable » : les équipements, les logiciels, les terminaux et les procédures humaines demeurent des cibles possibles.

La cryptographie post-quantique poursuit un autre objectif. Elle vise à développer des algorithmes résistants aux futurs ordinateurs quantiques capables de mettre en difficulté certains mécanismes cryptographiques actuels. Pour une IA qui traite des données dont la valeur doit rester protégée pendant de nombreuses années, cette question devient stratégique : des informations chiffrées aujourd’hui pourraient être conservées par un adversaire dans l’espoir de les déchiffrer plus tard.

Des compromis techniques, économiques et juridiques

Le principal obstacle aux technologies de préservation de la vie privée est souvent leur coût. Calculer sur des données chiffrées ou faire dialoguer plusieurs participants par un protocole sécurisé exige davantage de puissance de calcul, de mémoire, de temps et d’expertise qu’un traitement centralisé en clair. Pour certains usages, notamment lorsqu’une réponse doit être immédiate, ces contraintes sont déterminantes.

Il faut aussi évaluer la nature précise du risque. Une petite structure qui utilise un outil d’IA pour classer des documents non sensibles n’a pas les mêmes besoins qu’un hôpital, une banque ou une administration. La bonne approche consiste à identifier les données collectées, les personnes qui y ont accès, les transferts nécessaires, la durée de conservation et les conséquences d’une divulgation.

En Europe, le Règlement général sur la protection des données, ou RGPD, impose notamment de prendre en compte la protection des données dès la conception et par défaut. La cryptographie peut contribuer à cette exigence, mais elle ne remplace ni une base légale pour traiter les données, ni l’information des personnes, ni le respect de leurs droits. Un système chiffré peut rester contraire au droit s’il collecte trop de données ou les utilise pour une finalité non prévue.

Depuis le 2 février 2025, certaines premières obligations du règlement européen sur l’intelligence artificielle sont applicables, notamment celles relatives aux pratiques interdites et à la culture de l’IA. Ce cadre rappelle que les choix techniques doivent s’accompagner d’une responsabilité organisationnelle. La protection de la vie privée dépend autant de la conception des outils que des décisions de celles et ceux qui les déploient.

Ce qu’il faut surveiller

La prochaine étape ne sera pas l’adoption d’une solution unique, mais la capacité à combiner les méthodes avec discernement. Pour des données très sensibles, une organisation peut envisager un apprentissage local, une agrégation sécurisée et de la confidentialité différentielle. Dans d’autres cas, un chiffrement solide des flux, une segmentation des accès et une politique de conservation courte seront plus efficaces et plus réalistes.

Les lecteurs, clients et citoyens gagneront aussi à regarder au-delà des promesses de « données anonymisées » ou d’« IA privée ». Les questions concrètes sont simples : les données brutes quittent-elles l’appareil ou l’organisation ? Qui peut lire les résultats intermédiaires ? Les informations peuvent-elles être réidentifiées ? Le système a-t-il été testé contre les fuites et les attaques ? Une personne peut-elle faire valoir ses droits sur les données qui la concernent ?

La cryptographie avancée ne rendra pas l’IA automatiquement éthique ou sûre. Elle fournit toutefois des outils essentiels pour réduire l’exposition des informations, partager certaines connaissances sans partager toutes les données et renforcer la confiance dans des usages où celle-ci est indispensable. Son efficacité dépendra de la maturité des technologies, de leur coût, des contrôles indépendants et de règles claires pour celles et ceux qui conçoivent ou exploitent les systèmes.