Algorithme discriminatoire de la CAF : la Seine-Saint-Denis saisit la Défenseure des droits

Après les révélations du « Monde » sur l’algorithme de la CAF accusé de discriminer les personnes les plus précaires, le président du conseil départemental de Seine-Saint-Denis Stéphane Troussel a interpellé la Défenseure des droits.

Après l’enquête du Monde, qui révèle que l’algorithme anti-fraude de la CAF discrimine les personnes aux revenus les plus faibles et favorise le contrôle des plus précaires, le président du conseil départemental de Seine-Saint-Denis (93) Stéphane Troussel a décidé de rétorquer.

Ce mercredi 6 décembre, il a saisi la Défenseure des droits Claire Hédon, afin de dénoncer le caractère discriminatoire de cet outil utilisé par la Caisse nationale d’allocations familiales (Cnaf) pour cibler ses contrôles. Celui-ci s’inquiète alors d’un « ciblage excessif » des habitants de son département, qui est le plus pauvre de France.

Des associations dénoncent un algorithme « pauvrophobe »

Selon l’élu, « certaines catégories de populations, déjà en proie aux difficultés, sont particulièrement visées, ce qui représente une double peine à mon sens inacceptable ». Avant de continuer « il s’avère que les critères retenus par l’algorithme ont une évidente portée discriminatoire à l’égard des populations les plus vulnérables et que celle-ci est d’autant plus importante dans un territoire qui cumule les difficultés socio-économiques comme la Seine-Saint-Denis », a-t-il écrit dans une lettre adressée à Claire Hédon.

Car, selon l’algorithme, ce sont les personnes les plus précaires qui sont les personnes les plus susceptibles de frauder, et donc de subir des contrôles. Ces allocataires étant jugés selon des critères spécifiques : avoir un enfant de plus de 12 ans dans le foyer, déclarer ses ressources pour l’allocation adulte handicapée (AAH) chaque trimestre, ou encore avoir été veuf, divorcé, ou séparé, le fait d’avoir des revenus inférieurs à 942 euros par mois pour une personne seule.

Des informations récoltées par l’algorithme grâce aux données personnelles. « Force est de constater que des critères pourtant protégés, comme l’âge, le handicap ou la situation familiale, sont utilisés dans l’algorithme, et qu’il en résulte un ciblage plus systématique des populations les plus vulnérables », écrit alors Stéphane Troussel dans sa lettre.

Par ailleurs, plusieurs associations dénoncent cette politique de contrôle. Comme La Quadrature du Net, engagée pour la défense des libertés numériques, et ATD Quart Monde, qui lutte contre la pauvreté, ont demandé à l’organisme d’abandonner son algorithme, jugé « discriminatoire et pauvrophobe », rappelle Le Monde.

Vous aimez nos articles ? Vous adorerez nos podcasts. Toutes nos séries, à écouter d’urgence ici.