Depuis 2010, la Caisse nationale des allocations familiales (Cnaf) utilise des algorithmes pour noter les allocataires en fonction du risque qu’ils représentent. Une note qui joue ensuite dans les choix des contrôles effectués.

"On est devenu une mini-PME. On n’est plus là pour aider les gens, mais pour faire du chiffre." Ainsi parle un "technicien conseil" qui travaille depuis plusieurs années au sein de l’une des 101 Caisses des allocations familiales (Caf) en France. "Notre prime d’intéressement est calculée en fonction des objectifs atteints par les caisses locales, explique le représentant CGT dans les instances nationales de la Sécurité sociale, Yves Alexis. Or parmi ces objectifs, il y a les délais de traitement, l’accueil… mais aussi la détection de fraudes."

Et pour détecter ces fraudes, la Cnaf a recours à une méthode au nom très anglais : le "datamining". C’est une technique numérique de statistiques prédictives qui, en croisant différentes données dans différentes administrations, est censée identifier les risques d’erreurs ou de fraude dans un dossier d’allocataire. Elle s’est généralisée au sein de la Cnaf à partir de 2010, avec l’utilisation d’algorithmes. "La Cnaf a été le laboratoire, le bon élève du datamining au sein des administrations françaises", explique le sociologue Vincent Dubois, professeur à l’Institut d’études politiques (IEP) de Strasbourg et auteur de l’ouvrage Contrôler les assistés. Genèses et usages d’un mot d’ordre (Ed. Raisons d’Agir). "Elle a développé une politique d’automatisation du déclenchement des contrôles." (...)

Nous avons décidé d’engager une action résolue contre les fraudes sociales, déclare Nicolas Sarkozy, le 15 novembre 2011, à Bordeaux. C’est la fraude qui mine les fondements même de cette République sociale que les frères d’armes de la Résistance ont voulu bâtir pour la France et qu’ils nous ont légué. Frauder la Sécurité sociale, ce n’est pas simplement abuser du système, profiter de ses largesses, c’est voler chacun et chacune d’entre nous."
Des allocataires notés

Mais l’algorithme ne fait pas que détecter des risques d’erreurs ou de fraude. En mars 2021, après avoir échangé avec la Caf qui lui réclamait injustement un indu (un trop-perçu) de 542 euros, la journaliste indépendante Lucie Inland découvre qu’on lui a attribué un "score de risque". "J’avais une note de 0,4. Je n’étais donc pas trop risquée… Mais un petit peu quand même, explique-t-elle. Je me suis alors rendu compte que ma déclaration d’aide au logement et de prime d’activité passait par la moulinette de l’algorithme de la Caf."

"La Cnaf a créé un profil type de présumé fraudeur avec un certain nombre de caractéristiques, confirme Noémie Levain, juriste à La Quadrature du net. (...)

Interrogée sur ce point, la Caf minimise l’utilisation de cette technologie. Selon elle, seuls 6 % de l’ensemble des contrôles seraient issus de l’outil datamining, tout en reconnaissant que 70 % des contrôles effectués en présence de l’allocataire, qui ont entraîné un remboursement d’allocation, ont bien été initiés par lui. (...)

Un taux de fraude "insignifiant"

"Avant l’utilisation du datamining, le contrôle s’effectuait dans une ambiance d’organisme social, se souvient Yves Alexis, représentant CGT et contrôleur de la Caf du Tarn et Garonne. On faisait une étude globale du dossier, en vérifiant la déclaration, mais en contrôlant aussi que l’intégralité des droits était bien versée. Désormais, c’est un peu l’inverse : le datamining cible les erreurs de saisie des allocataires, alors que ces erreurs sont rarement des fraudes." Selon Vincent Dubois, "le fait qu’un dossier soit fortement ‘scoré’, comme on dit dans l’institution, place les contrôleurs dans la quasi-obligation de trouver quelque chose qui cloche".

La Cour des comptes estime pourtant le montant des fraudes à 309 millions d’euros en 2021, soit un taux de 0,39 % rapporté à l’ensemble des prestations versées. "On met en place un énorme dispositif, alors que ce taux de fraude est insignifiant", regrette Didier Minot, le président du collectif Changer de cap qui prône un changement de la politique de la Caf en la matière. (...)

Les précaires plus à risques

Parmi les critiques qui visent cet algorithme, il y a d’abord le fait qu’il ciblerait plus particulièrement les personnes précaires. (...)

La multiplication de déclarationsde prestations (APL, prime d’activité, allocation adulte handicapé…) augmente aussi le risque d’erreur. "Les déclarations de ressources trimestrielles sont très complexes à remplir correctement", estime Bernadette Nantois qui travaille depuis plus de 20 ans au sein de l’association Apiced qui aide les travailleurs précaires. "Il y a souvent des erreurs de bonne foi, ce n’est pas de la fraude."

"La moindre variation de ressource, le moindre changement dans la situation familiale du ménage va générer de manière quasi-automatique un contrôle, ajoute Bernadette Nantois. Avec, dans la majorité des cas, une suspension préventive des versements dont le ménage ou la famille bénéficiait jusque-là." Pour elle, c’est "une population avec des revenus modestes, qui se retrouve, de fait, ciblée par l’algorithme". (...)

Des situations dramatiques

L’autre point mis en avant par les détracteurs de l’algorithme, c’est le fait que la Caf ne respecterait pas toujours les procédures légales. Des situations dramatiques

L’autre point mis en avant par les détracteurs de l’algorithme, c’est le fait que la Caf ne respecterait pas toujours les procédures légales. (...)

"Quand on vous suspend le RSA, vous tombez plus bas que terre, témoigne cet homme. Même si vous agitez les bras, on ne vous entend pas. Et vous vous retrouvez avec 1 000 euros de factures impayées d’électricité. Le plus difficile à vivre, c’est de se retrouver aux Restaurants du Cœur et d’aller, entre guillemets, mendier pour pouvoir manger." (...)

"Les Caf ont des prérogatives exorbitantes du droit commun puisqu’elles peuvent récupérer par la force de l’argent, sans jugement préalable, constate l’ancien haut-fonctionnaire Didier Minot. Cela leur impose une responsabilité qui devrait se traduire par un respect des règles de droit : présomption d’innocence, contradictoire, reste à vivre, c’est-à-dire un minimum vital." (...)

Parcours du combattant

En cas de contestation, l’allocataire peut saisir une Commission de recours amiable, et deux mois plus tard, la justice (le tribunal administratif ou le pôle social du tribunal judiciaire). "Entre le moment où on conteste l’indu et la réponse du tribunal, la somme litigieuse aura été récupérée par la Caf, assure l’avocat Clément Terrasson. C’est extrêmement problématique puisque ça valide le mode de fonctionnement potentiellement illégal de la Caf. Ça s’apparente à un déni de justice."

"L’une des pratiques fréquentes de la Caf consiste à débloquer les droits de la personne, la veille ou le lendemain de l’audience, explique Bernadette Nantois. Mais cela ne signifie pas pour autant que les droits sont rétablis sur le long terme. Les procédures peuvent durer plusieurs années." (...)

Un algorithme très secret

Une autre interrogation porte sur le modèle de fonctionnement de l’algorithme utilisé par la Cnaf. En septembre 2017, dans un rapport, le Défenseur des droits avait alerté sur "les dangers" de l’utilisation du datamining. Il mettait notamment en garde contre un risque de discrimination, parce qu’une circulaire interne de la Cnaf datée de 2012 recommandait de "cibler les personnes nées hors de l’Union européenne". “Plus qu’un ciblage sur des ’risques présumés’, la pratique du datamining contraint à désigner des populations à risque et, ce faisant, conduit à instiller l’idée selon laquelle certaines catégories d’usagers seraient plus enclines à frauder", écrivait alors le Défenseur des droits. Interrogé sur ce point, la Cnaf n’a pas répondu.

De son côté, en 2010, la Commission nationale informatique et libertés (Cnil), a donné son feu vert à l’utilisation du datamining par la Cnaf. Mais depuis 2016, il existe tout de même des obligations légales à respecter pour les administrations. (...)

Pour en avoir le cœur net, l’association La Quadrature du net a demandé à la Cnaf de lui fournir le code source de son algorithme de contrôle, autrement dit : la formule utilisée pour aboutir au score de risque attribué aux allocataires. "Ils nous ont envoyé un fichier texte qui ne sert à rien, raconte un membre de l’association. Il y a une formule avec le nombre de variables utilisées pour calculer le score de risque, mais les noms de ces variables ont été masqués. On peut donc lire : ’Variable 1’, ’Variable 2’, ’Variable 3’, etc. Comme si la Cnaf n’assumait pas cette surveillance des plus précaires." (...)

Plusieurs chercheurs de l’Institut national de recherche en sciences et technologies du numérique (INRIA) ont également travaillé sur le calcul des aides au logement. "Conformément aux dispositions de la loi République numérique de 2016, l’algorithme de calcul du code source des aides au logement a été publié par la Cnaf en 2018, explique l’un de ses chercheurs, Denis Merigoux. Or, dès les prémices de notre étude, nous nous sommes aperçus que le code source publié avait été écrit dans le langage de programmation Cobol qui semble avoir été produit à l’aide d’un atelier de génie logiciel, ce qui en rend la lecture par un humain quasiment impossible." Le chercheur souligne également que "seules les grandes organisations comme la Cnaf disposent des machines" pouvant lire ce code source.

Moins d’humains, plus d’ordinateurs

Cette contestation de l’utilisation des algorithmes par la Cnaf se double d’une critique plus large portant sur les conséquences de la numérisation et de la dématérialisation des dossiers des allocataires. (...)

7 % de la population est touchée par ce qu’on appelle l’illectronisme, la difficulté face à l’outil numérique.

Cette difficulté se conjugue avec le nombre de guichets d’accueil qui se réduisent au sein des Caf. "Le but, c’est d’expédier les gens, raconte une personne chargée de l’accueil et qui tient à rester discrète. On nous explique qu’il faut les éduquer et les renvoyer sur Caf.fr. Dès qu’on a un entretien, le logiciel se déclenche et au bout d’un quart d’heure, le chronomètre commence à clignoter, en rouge." À quoi Bernadette Nantois ajoute : "Derrière ces procédures, il y a une certaine vision de l’allocataire considéré comme un fraudeur en puissance."

Interrogée sur ces différents témoignages, la Cnaf se défend d’être dans un tel état d’esprit. (...)

Cette numérisation s’accompagne d’importants marchés publics passés avec des entreprises du secteur, mais aussi avec Atos, Cap Gemini ou Thalès. En octobre-novembre 2022, 470 millions d’euros de marchés publics ont ainsi été souscrits par la Cnaf pour différentes prestations de services. "Il y a notamment un contrat de 125 millions d’euros conclu avec Cap Gemini sur quatre ans pour gérer la relation avec les allocataires, souligne Didier Minot. Comme si l’ensemble du dispositif informatique glissait vers une privatisation." Rien de tel n’est envisagé, répond la Cnaf. (...)

Mais en interne, le malaise semble profond. "Auparavant, lorsqu’on rentrait à la Sécurité sociale, on y restait : ce n’est plus le cas, constate Lise Charlebois, assistante sociale à la Caf du Doubs et membre du syndicat Sud. Depuis une dizaine d’années, on a des ruptures conventionnelles, des démissions. En 2021, dans notre Caf, 19 CDI sont partis, il y a eu six ruptures conventionnelles et une reconversion professionnelle. C’est énorme. La personne qui est partie en rupture conventionnelle m’a dit : ’J’ai besoin de remettre du sens dans mon travail. Parce que ce que je fais n’en a plus.’" Dans ce contexte, le prochain contrat d’objectif et de gestion de la Cnaf pour les cinq ans à venir, doit être renégocié en 2023.

Lire aussi :

Contrôler les assistés.
Genèses et usages d’un mot d’ordre - Vincent Dubois

(...) Un mécanisme implacable à plusieurs facettes sous-tend cette spirale rigoriste à l’égard des assistés : des leaders politiques qui pourfendent la fraude sociale et qui parviennent à stigmatiser leurs contradicteurs comme naïfs ou complices ; des administrations qui surenchérissent dans des technologies de contrôle toujours plus performantes ; une division du travail bureaucratique qui déréalise et déshumanise le traitement des cas ; le fonctionnement interne de commissions où la clémence est toujours plus difficile à défendre que la sévérité ; le point d’honneur professionnel du contrôleur de la caisse locale qui traque la moindre erreur au nom de l’exactitude des dossiers.
Au nom de la responsabilisation individuelle, de la lutte contre l’abus, de la maîtrise des dépenses, un service public fondamental qui vise à garantir des conditions de vie dignes à tous les citoyens contribue désormais à un gouvernement néopaternaliste des conduites qui stigmatise et précarise les plus faibles.

Vincent Dubois, sociologue et politiste, est professeur à l’université de Strasbourg et membre du laboratoire SAGE (UMR 7363).
Il a notamment publié La vie au guichet (Points Seuil, 2015) et aux éditions Raisons d’agir La Culture comme vocation en 2013.