CAF : le Conseil d’État saisi contre l’algorithme de score de suspicion

Un chiffre compris entre 0 et 1 peut sembler abstrait. Pour les allocataires de la Caisse d’allocations familiales, il peut pourtant jouer un rôle concret : un algorithme de notation leur attribue un « score de suspicion » destiné à repérer les dossiers appelant des contrôles supplémentaires. C’est ce mécanisme qui se retrouve au cœur d’un recours devant le Conseil d’État, engagé par une coalition de quinze organisations.

Les requérants demandent l’interdiction de l’algorithme. Leur critique porte autant sur l’ampleur de la surveillance des personnes bénéficiant de prestations sociales que sur les règles de protection des données personnelles. Ils redoutent également que l’outil, présenté comme un moyen de lutter contre la fraude, ne produise des effets discriminatoires sur des publics déjà fragilisés, notamment parmi les bénéficiaires du RSA ou de l’allocation aux adultes handicapés, l’AAH.

Cette affaire ne se résume pas à une querelle technique. Elle met à l’épreuve une question devenue centrale pour les administrations : jusqu’où peut-on automatiser le ciblage des contrôles publics, et quelles garanties doivent accompagner l’usage de données personnelles pour que les droits des usagers restent effectifs ?

Un recours contre le ciblage algorithmique des contrôles

Le système contesté attribue à chaque allocataire un score de suspicion allant de 0 à 1. Sa fonction est de déterminer quels dossiers doivent faire l’objet de vérifications supplémentaires. Il s’agit donc d’un outil de sélection et de priorisation : plutôt que de contrôler tous les dossiers avec la même intensité, l’administration concentre son attention sur ceux que le système considère comme plus susceptibles de présenter une anomalie.

C’est précisément cette logique qui est attaquée devant le Conseil d’État. Les quinze organisations à l’origine de la procédure jugent l’usage de cet algorithme abusif et injuste. Elles demandent que son emploi soit interdit, en mettant notamment en avant une atteinte aux exigences du Règlement général sur la protection des données, le RGPD.

Le Conseil d’État est la plus haute juridiction de l’ordre administratif français. Il peut être saisi de contestations visant des décisions ou des dispositifs relevant des administrations publiques. Dans ce dossier, son appréciation est très attendue, car elle pourrait préciser les conditions dans lesquelles une administration peut s’appuyer sur un système algorithmique pour organiser ses contrôles.

L’enjeu est d’autant plus sensible que les prestations familiales et sociales concernent des personnes dont la situation financière peut être précaire. Un contrôle peut entraîner des demandes de justificatifs, des échanges prolongés avec la caisse ou, selon la situation examinée, des conséquences administratives importantes. Pour les associations requérantes, le recours à un score de suspicion risque ainsi de transformer un outil de gestion en instrument de surveillance systématique.

Que mesure le score de suspicion de la CAF ?

Le score se présente sous la forme d’une valeur numérique comprise entre 0 et 1. Plus cette valeur est élevée, plus le dossier est susceptible d’être identifié pour un contrôle additionnel. Mais un tel nombre ne constitue pas, à lui seul, la preuve d’une fraude ni une décision sur le droit à une prestation.

Cette distinction est essentielle. Un algorithme de ciblage ne remplace pas nécessairement l’examen d’un dossier par l’administration. En revanche, il influence la manière dont cette dernière répartit ses moyens de contrôle et les personnes auxquelles elle demande des explications. C’est pourquoi le choix des critères pris en compte, la qualité des données utilisées et la possibilité de comprendre le processus revêtent une importance particulière.

Pour les allocataires, l’opacité peut naître de plusieurs niveaux. Il peut être difficile de savoir qu’un outil algorithmique a participé au ciblage d’un dossier, de comprendre quels éléments ont pesé dans l’évaluation ou de distinguer une simple vérification d’une décision défavorable. Or une information compréhensible est nécessaire pour pouvoir exercer utilement ses droits.

Les organisations requérantes reprochent justement à la CAF une information insuffisante sur le fonctionnement du système et sur les critères de notation. Leur argument est que les personnes concernées ne disposeraient pas d’une visibilité adéquate sur la façon dont leurs données sont analysées et utilisées.

Ce que le RGPD impose aux administrations

Le RGPD s’applique aux organismes publics lorsqu’ils traitent des données personnelles. Il ne prohibe pas par principe les traitements algorithmiques. Il impose en revanche des règles sur leur finalité, leur nécessité, leur proportionnalité, leur sécurité et l’information des personnes.

Dans le cas d’un outil de notation, plusieurs principes comptent particulièrement :

• les données doivent être utilisées pour une finalité déterminée et explicite ;
• l’organisme doit disposer d’une base juridique pour le traitement ;
• seules les données pertinentes et nécessaires doivent être traitées ;
• les personnes doivent recevoir une information claire sur l’utilisation de leurs données ;
• elles conservent notamment des droits d’accès, de rectification et, selon les situations, d’opposition ou de contestation.

Une précision juridique est utile : dans le cadre de l’action d’une administration, le consentement de l’usager n’est pas nécessairement la base juridique utilisée pour traiter des données. Le RGPD prévoit aussi qu’un traitement peut être nécessaire au respect d’une obligation légale ou à l’exécution d’une mission d’intérêt public. Cela ne dispense toutefois jamais l’organisme de respecter les autres garanties du règlement, au premier rang desquelles la transparence et la minimisation des données.

Le RGPD encadre aussi les décisions individuelles fondées exclusivement sur un traitement automatisé lorsqu’elles produisent des effets juridiques ou affectent significativement une personne. L’application exacte de cette règle dépend des caractéristiques concrètes du dispositif. Dans l’affaire de la CAF, le score sert à orienter un contrôle, ce qui n’équivaut pas automatiquement à une décision de suppression ou de réduction d’une aide. Mais l’influence d’un algorithme sur le parcours administratif d’un allocataire demeure une question déterminante.

Le risque de discrimination au centre des critiques

Les associations à l’origine du recours dénoncent aussi les discriminations que le système pourrait engendrer. Le risque ne tient pas seulement à une erreur informatique manifeste. Il peut apparaître lorsqu’un modèle statistique accorde davantage d’attention à certains profils ou à certaines situations, parce qu’il apprend à partir de données et de pratiques administratives existantes.

Un système peut ainsi sembler neutre puisqu’il manipule des chiffres, tout en reproduisant des inégalités présentes dans les données utilisées ou dans les critères retenus. Dans le champ social, ce danger est particulièrement surveillé : les personnes recevant des allocations peuvent déjà être confrontées à des difficultés de logement, de santé, d’emploi ou de situation familiale. Un ciblage jugé trop large ou mal calibré peut renforcer leur exposition aux contrôles.

Les requérants mettent en garde contre une lutte disproportionnée contre la fraude sociale. Leur position ne consiste pas à nier la nécessité de protéger les ressources publiques, mais à contester la méthode employée et ses effets potentiels. Selon eux, le recours à une surveillance algorithmique insuffisamment explicable peut stigmatiser des catégories de population vulnérables.

Le débat porte donc sur une exigence d’équilibre. Une administration a besoin de moyens pour détecter les erreurs et les fraudes. Mais l’efficacité attendue d’un outil ne suffit pas, à elle seule, à justifier un traitement de données : l’outil doit aussi préserver les droits individuels et éviter que la présomption de suspicion ne devienne un mode ordinaire de relation avec les usagers.

Un score n’est pas une preuve de fraude

La contestation de l’algorithme rappelle un point essentiel : une prédiction n’est pas un constat. Un score associe un dossier à un niveau de risque défini par le système. Il ne démontre pas qu’une personne a commis une irrégularité, pas plus qu’il ne permet de comprendre à lui seul la réalité d’une situation administrative souvent complexe.

Cette différence est décisive dans les relations entre les services publics et les usagers. Une déclaration de ressources, une séparation, une reprise d’activité ou un changement de logement peuvent nécessiter une interprétation au cas par cas. Les données ne reflètent pas toujours immédiatement l’ensemble de la situation vécue par une personne.

C’est pourquoi l’intervention humaine, la vérification des éléments et la possibilité de faire valoir des informations complémentaires sont des garanties importantes. Lorsqu’une administration prend une décision qui affecte une prestation, cette décision doit pouvoir être expliquée et contestée selon les procédures applicables. L’existence d’un score en amont ne doit pas empêcher cet examen.

Pour les associations, le problème vient aussi du déséquilibre d’information. L’administration dispose des données et de l’outil de notation, tandis que l’allocataire peut ignorer pourquoi son dossier est contrôlé ou quels éléments ont attiré l’attention du système. Réduire cet écart est l’un des objectifs poursuivis par la demande de transparence.

Quels droits pour les allocataires concernés ?

Les personnes dont le dossier fait l’objet d’un contrôle ne sont pas dépourvues de moyens d’action. Elles peuvent répondre aux demandes de pièces, vérifier les informations enregistrées à leur sujet et signaler les erreurs susceptibles d’affecter leur dossier. En matière de données personnelles, le RGPD reconnaît notamment un droit d’accès aux données traitées et un droit de rectification lorsqu’elles sont inexactes ou incomplètes.

Lorsqu’une décision administrative intervient à l’issue d’un contrôle, elle peut être contestée par les voies de recours prévues. Dans les faits, cette possibilité n’est réellement utile que si la personne comprend la décision, dispose de ses motifs et peut fournir les éléments permettant de corriger une erreur ou d’expliquer sa situation.

L’affaire devant le Conseil d’État dépasse donc le seul sort d’un logiciel. Elle interroge la capacité des usagers à comprendre les outils qui contribuent à orienter l’action publique. Une administration peut recourir à des instruments techniques complexes, mais elle doit rester en mesure d’expliquer ses choix et de traiter les cas particuliers avec équité.

L’enjeu est également collectif. Les informations communiquées sur un algorithme permettent non seulement à une personne de défendre son dossier, mais aussi à des associations, des chercheurs, des autorités de contrôle et au public de discuter de la pertinence du dispositif. Cette possibilité de débat est indispensable lorsque des systèmes automatisés interviennent dans l’accès aux droits sociaux.

Ce qu’il faut surveiller après la saisine du Conseil d’État

À la date du 19 octobre 2024, la décision du Conseil d’État reste à venir. La juridiction devra apprécier les griefs soulevés par les quinze organisations et, notamment, la conformité du dispositif aux exigences relatives à la protection des données et à l’information des personnes.

Selon l’issue de la procédure, les conséquences pourraient dépasser le seul cas de la CAF. Une décision défavorable au dispositif pourrait conduire à revoir les critères d’utilisation d’outils de notation dans les organismes publics. À l’inverse, une décision validant tout ou partie du mécanisme pourrait préciser les garanties attendues pour employer des algorithmes de ciblage dans l’action administrative.

Dans tous les cas, plusieurs questions resteront centrales : quelles données peuvent être mobilisées, comment prévenir les biais, quel niveau d’explication doit être fourni aux personnes et quelle place doit conserver l’examen humain ? L’essor des outils algorithmiques dans les services publics rend ces interrogations difficilement évitables. Le recours contre le score de suspicion de la CAF les porte désormais devant la plus haute juridiction administrative française.