Silver économie : cinq alertes sur les algorithmes et les données des seniors

Vieillir dans un environnement plus connecté peut faciliter le maintien à domicile, l’accès à des services ou le suivi de certaines démarches. Mais cette promesse numérique a un revers : les outils de la silver économie collectent parfois des informations très intimes, allant des habitudes de vie aux coordonnées, en passant par des données liées à la santé ou à l’autonomie. Leur sécurité et leur utilisation équitable ne sont donc pas des questions secondaires.

À la mi-novembre 2024, plusieurs actualités rappellent l’ampleur de cet enjeu. Une affaire d’algorithme discriminant aux Pays-Bas, l’accompagnement proposé par la CNIL aux innovateurs de la silver économie, l’évolution du modèle de Meta, des fuites de données chez Picard et Molotov, ainsi que le débat européen sur l’open data dessinent un même impératif : mieux gouverner les données, sans sacrifier les droits des personnes.

Pourquoi un algorithme peut-il devenir discriminant ?

Un algorithme ne formule pas nécessairement une règle ouvertement discriminatoire pour aboutir à un résultat injuste. Il peut s’appuyer sur des données ou des critères qui semblent neutres, mais qui, dans les faits, désavantagent davantage un groupe de personnes. On parle alors souvent de discrimination indirecte.

Le cas récemment examiné aux Pays-Bas l’illustre. L’autorité néerlandaise de protection des données a mis en cause l’utilisation d’un algorithme de détection de fraude aux bourses étudiantes. Les critères de ciblage employés discriminaient des étudiants issus de l’immigration et contrevenaient aux exigences du Règlement général sur la protection des données, le RGPD. Cette affaire ne concerne pas directement les seniors, mais elle pose une question transposable à tous les secteurs où des systèmes automatisés classent, évaluent ou signalent des personnes.

Dans la silver économie, une telle situation pourrait survenir si un outil réservait un traitement différent à certains usagers sur la base de variables mal choisies ou insuffisamment contrôlées. L’âge lui-même peut être une donnée utile pour adapter un service, mais il ne doit pas devenir le prétexte à des décisions arbitraires, à une tarification injustifiée ou à l’exclusion d’une personne.

Les risques viennent aussi des variables dites « de substitution ». Un code postal, un type de logement, un historique de navigation ou la fréquence d’utilisation d’un service peuvent révéler indirectement une situation sociale, familiale ou de santé. Un système statistiquement performant n’est donc pas automatiquement juste.

Pour les concepteurs, la première précaution consiste à poser une question simple avant le déploiement : la donnée collectée est-elle réellement nécessaire au service rendu ? Vient ensuite l’examen des effets concrets de l’outil sur différents profils d’utilisateurs. La transparence n’implique pas de révéler tout un code informatique, mais de pouvoir expliquer clairement la finalité du système, les principales données traitées et les possibilités de recours humain.

Cinq signaux à suivre pour les données des seniors

Les cinq actualités suivantes relient, chacune à leur manière, l’innovation numérique à la protection de la vie privée. Elles ne parlent pas toutes exclusivement de la silver économie, mais elles éclairent les conditions dans lesquelles ce secteur peut se développer de façon responsable.

Le bac à sable de la CNIL, un cadre pour expérimenter sans négliger les droits

La CNIL s’est engagée à examiner les enjeux propres à la silver économie en mettant en place un bac à sable réglementaire. Le principe est d’accompagner des projets innovants, conçus pour améliorer la qualité de vie des seniors, afin qu’ils intègrent dès leur conception les exigences liées aux données personnelles.

Un bac à sable réglementaire n’est ni une dispense de respecter la loi ni un label automatique de conformité. C’est un espace d’échanges entre porteurs de projet et régulateur. Il permet de clarifier les difficultés juridiques et techniques rencontrées par un service avant une généralisation de son usage. Pour des solutions qui peuvent traiter des données sensibles, par exemple dans l’accompagnement à domicile ou la prévention de la perte d’autonomie, cet échange précoce peut éviter des choix coûteux à corriger plus tard.

Cette démarche rejoint le principe de protection des données dès la conception. Au lieu d’ajouter des réglages de confidentialité une fois le produit terminé, l’organisation doit réfléchir au plus tôt à plusieurs éléments :

• la finalité précise du service ;
• les seules données nécessaires à cette finalité ;
• la durée pendant laquelle elles seront conservées ;
• les personnes ou prestataires qui pourront y accéder ;
• les explications fournies aux utilisateurs et, le cas échéant, à leurs proches.

L’enjeu est particulièrement important pour les services s’adressant à des publics variés. Les seniors ne forment pas un groupe homogène : leurs usages numériques, leurs besoins d’accompagnement et leur degré d’autonomie diffèrent fortement. Concevoir un outil accessible ne consiste pas à présumer de leurs compétences ou de leurs fragilités. Il faut au contraire permettre un consentement compréhensible, des réglages simples et une assistance humaine lorsqu’elle est nécessaire.

Meta, une adaptation sous la pression des règles européennes

Le débat sur les données ne concerne pas seulement les services médico-sociaux ou les jeunes entreprises de la silver économie. Les très grandes plateformes sont elles aussi contraintes de revoir certaines pratiques. Meta, maison mère de Facebook et Instagram, a annoncé une évolution de son modèle économique pour se conformer aux exigences européennes, notamment celles du DMA et du RGPD.

L’entreprise a prévu une réduction de 40 % des frais d’abonnement et l’introduction de la publicité contextuelle pour les utilisateurs qui ne souscrivent pas à l’abonnement. La publicité contextuelle consiste à afficher des annonces liées au contexte dans lequel l’internaute navigue, plutôt qu’à s’appuyer sur une personnalisation aussi poussée fondée sur son comportement ou son profil.

Ce changement montre que la protection des données a désormais des conséquences directes sur les modèles économiques du numérique. Le RGPD encadre les conditions de collecte et d’utilisation des données personnelles. Le règlement sur les marchés numériques, ou DMA, vise pour sa part les pratiques de grandes plateformes désignées comme contrôleurs d’accès. Les deux textes n’ont pas le même objet, mais ils participent à redessiner le rapport entre les plateformes, la publicité et le consentement des utilisateurs.

Pour les acteurs de la silver économie, la leçon est moins liée au cas précis de Meta qu’à la méthode : un modèle économique fondé sur la donnée doit pouvoir être expliqué et justifié. La confiance ne se résume pas à une longue politique de confidentialité. Elle suppose de présenter un choix compréhensible et de ne pas faire dépendre indûment l’accès à un service essentiel d’une collecte excessive d’informations.

Picard et Molotov : ce que révèlent les fuites de données

Les incidents de sécurité touchant Picard et Molotov rappellent que la protection de la vie privée ne se joue pas seulement au moment où une entreprise collecte une donnée. Elle dépend aussi de sa capacité à la protéger contre l’accès de tiers non autorisés.

Chez Picard, une fuite a concerné 45 000 clients. Les informations exposées comprenaient notamment les noms, les adresses et les historiques de commandes. Même lorsqu’elles ne contiennent pas de données bancaires, ces informations peuvent fournir une matière précieuse à des campagnes d’hameçonnage ciblées. Un message frauduleux mentionnant une livraison, une commande ou une adresse semble plus crédible qu’un courriel générique.

Molotov a également subi une cyberattaque impliquant des tiers non autorisés. Selon les éléments disponibles, les mots de passe et les données bancaires n’ont pas été compromis. Cette précision est importante, mais elle ne doit pas faire oublier que d’autres données personnelles peuvent déjà suffire à perturber les utilisateurs ou à alimenter de futures tentatives de fraude.

Dans la silver économie, une fuite peut avoir des conséquences particulières si elle révèle des informations sur les habitudes quotidiennes, les besoins d’assistance ou l’état de santé. Cela ne signifie pas que les seniors seraient incapables de se protéger, mais que les entreprises ont un devoir accru de concevoir des interfaces claires et des procédures de signalement accessibles à tous.

Face à un message inattendu faisant référence à une commande ou à un service, le bon réflexe reste de ne pas cliquer dans la précipitation. Il est préférable de se connecter directement au site ou à l’application habituelle, ou de contacter le service client par un canal connu. Les organisations, elles, doivent limiter les accès internes, sécuriser leurs prestataires, surveiller les anomalies et préparer une information rapide des personnes concernées en cas d’incident.

Open data : l’ouverture des données ne signifie pas tout publier

À Paris, un rendez-vous réunissant des acteurs européens de la donnée a remis en avant l’intérêt de la circulation de l’information et du portail Data.europa.eu, soutenu par la Commission européenne. Cette plateforme vise à faciliter l’accès et la réutilisation de jeux de données publics issus d’institutions européennes, nationales ou locales.

L’open data peut être utile à la recherche, à la création de nouveaux services et à une meilleure compréhension des politiques publiques. Dans le champ du vieillissement, des données agrégées sur les équipements, les territoires ou la démographie peuvent par exemple aider à identifier des besoins collectifs. Mais cette ouverture ne signifie pas que les informations relatives à des personnes identifiables doivent circuler librement.

La distinction est fondamentale :

• les données ouvertes sont publiées pour être réutilisées, dans un cadre défini ;
• les données personnelles permettent d’identifier directement ou indirectement une personne et sont protégées par le RGPD ;
• des données anonymisées de manière effective ne permettent plus de remonter à une personne, tandis que des données simplement pseudonymisées restent des données personnelles.

L’équilibre entre ouverture et vie privée repose donc sur la qualité de la préparation des jeux de données. Retirer un nom ne suffit pas toujours : le croisement de plusieurs informations peut parfois permettre de réidentifier une personne. C’est pourquoi les organismes doivent évaluer le risque de réidentification avant toute publication.

Quels garde-fous avant de confier une décision à une IA ?

La montée en puissance de l’intelligence artificielle rend encore plus nécessaire une gouvernance précise. Un outil de détection d’abus, de recommandation de services ou de priorisation de demandes ne devrait pas être adopté parce qu’il paraît techniquement impressionnant. Il doit répondre à un besoin légitime et démontrer qu’il n’aggrave pas les inégalités.

Le RGPD prévoit déjà des droits utiles. Les personnes doivent notamment être informées du traitement de leurs données et peuvent, selon les situations, demander l’accès, la rectification ou l’effacement de celles-ci. Il encadre aussi les décisions fondées exclusivement sur un traitement automatisé lorsqu’elles produisent des effets juridiques ou affectent significativement les personnes.

Dans la pratique, un déploiement responsable passe par plusieurs vérifications : la qualité des données d’apprentissage, l’existence de biais dans les résultats, la possibilité d’un contrôle humain, la sécurité des infrastructures et la capacité à expliquer une décision contestée. Lorsque les risques pour les droits et libertés sont élevés, une analyse d’impact relative à la protection des données peut être nécessaire avant le traitement.

La sécurité technique complète ce cadre juridique. Chiffrement des données, gestion stricte des droits d’accès, journalisation des opérations, séparation des environnements et sécurisation des traitements dans le cloud sont autant de moyens de réduire le risque. Aucun protocole ne rend un système invulnérable, mais une architecture pensée pour limiter les accès et les données collectées réduit l’ampleur possible d’un incident.

Ce qu’il faut surveiller pour une silver économie digne de confiance

Les innovations destinées aux seniors ne seront acceptées durablement que si elles apportent un bénéfice perceptible sans imposer une surveillance disproportionnée. La promesse d’un service personnalisé ne doit pas se traduire par une collecte permanente, opaque ou impossible à contester.

Trois points méritent une attention continue. D’abord, les critères employés par les algorithmes doivent être audités au regard de leurs effets réels, et pas seulement de leurs performances statistiques. Ensuite, les organisations doivent démontrer qu’elles savent protéger les informations qui leur sont confiées, y compris chez leurs sous-traitants. Enfin, les utilisateurs doivent pouvoir comprendre ce qui est fait de leurs données et obtenir une intervention humaine lorsqu’une décision automatisée les concerne.

Le dossier néerlandais, le bac à sable de la CNIL, les changements imposés aux grandes plateformes, les incidents chez Picard et Molotov ainsi que le développement de l’open data européen convergent sur ce point. L’innovation numérique n’est pas opposée à la vie privée, à condition que la protection des personnes soit considérée comme une condition de départ, et non comme une correction apportée après coup.