Recherche dans la base des amendements

Compléter l’alinéa 2 par les quatre phrases suivantes : 

« L’utilisation de traitements automatisés de données, y compris les techniques d’intelligence artificielle ou les systèmes de notation de risques, par les organismes mentionnés au présent article, ne peut intervenir qu’aux fins de vérification d’informations déjà détenues par l’administration et ne peut en aucun cas se fonder exclusivement sur la situation sociale, le niveau de ressources ou le bénéfice de minima sociaux. Ces traitements font l’objet d’une publication annuelle comprenant la finalité, les catégories de données traitées, les critères retenus, l’existence éventuelle de biais discriminatoires constatés et les modalités de contrôle humain des décisions prises. Toute décision affectant les droits d’un allocataire ne peut être fondée exclusivement sur un traitement algorithmique et doit faire l’objet d’une motivation individuelle reposant sur des éléments matériellement vérifiés. Un décret en Conseil d’État, pris après avis de la Commission nationale de l’informatique et des libertés et du Défenseur des droits, fixe les modalités d’encadrement, d’audit et de transparence de ces outils. »

Plusieurs mesures étendent massivement l’accès à des données sociales sensibles, renforçant le risque de fichage et de surveillance ciblée des allocataires du Revenu de solidarité active (RSA) et élargissant encore l’accès aux fichiers sociaux à de nombreuses institutions, sans garde-fous suffisants. Ce texte pousse encore plus loin une logique dangereuse : la pauvreté devient un motif de suspicion automatique. C’est un élargissement sans précédent du pouvoir de surveillance de l’État social, qui touche en premier lieu les allocataires du RSA. Pourtant, des données officielles indiquent que la fraude détectée au RSA représente moins de 0,3 % du budget total, selon la Caisse nationale des allocations familiales (CNAF) en 2021. De plus, parmi les « anomalies », plus de 90 % des indus sont des erreurs involontaires selon la CNAF.

Les bénéficiaires du RSA ne sont pas des suspects de droit commun. Pourtant, le Gouvernement et plusieurs départements expérimentent déjà des technologies intrusives — scoring algorithmique, surveillance numérique, géolocalisation — qui n’existent même pas pour les fraudeurs fiscaux les plus fortunés. L’État social devient un État policier pour les pauvres. Or, l’utilisation d’outils de ciblage et d’intelligence artificielle (IA) déjà existants pose plusieurs problèmes éthiques et juridiques. Ainsi, certains dispositifs seraient discriminatoires et attentatoires aux droits fondamentaux des personnes percevant les minima sociaux.

Par exemple, l’algorithme dit de « scoring social » utilisé par la CNAF vise à attribuer un « score de risques » à chacun des 32 millions de bénéficiaires (dont 13,5 millions d’enfants) de prestations sociales. Cela revient à évaluer, selon les chiffres de la CNAF en 2023, la moitié de la population française. Ce score, calculé mensuellement, définit la probabilité pour un allocataire d’être soumis à un contrôle : plus le score est élevé, plus le risque d’être contrôlé augmente. Parmi les facteurs augmentant ce score figurent notamment le fait d’avoir de faibles revenus, d’être au chômage, de percevoir le RSA ou l’Allocation aux adultes handicapés (AAH).

Or, le volume de données traitées est colossal et concerne des informations très précises sur la vie des personnes. Cette pratique est en contradiction avec une obligation du Règlement général sur la protection des données (RGPD) qui exige de minimiser la quantité de données collectées et de ne recueillir que les données personnelles « adéquates, pertinentes et nécessaires » au regard des finalités du traitement. Enfin, l’ensemble de ces données subit un traitement automatisé, suite auquel l’algorithme de la CNAF prend des décisions.

Cette opacité algorithmique peut, de plus, engendrer des discriminations directes (liées au paramétrage de l’outil) ou indirectes (résultant de ses effets). Cet algorithme est la traduction d’une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect aux yeux de l’algorithme, et donc contrôlé. C’est une double peine pour des populations déjà fragilisées. Le Gouvernement fabrique artificiellement un ennemi intérieur : le précaire, le pauvre, présenté comme un profiteur et un voleur.

Ces outils numériques de surveillance massive sont opaques, empêchant tout contrôle indépendant, bien qu’ayant un impact direct sur la vie de millions de personnes. Depuis plusieurs années, il existe une logique de suspicion généralisée envers les allocataires du RSA. Pourtant, selon la Confédération française démocratique du travail (CFDT) — section CNAF — « les systèmes automatisés de détection des risques conduisent à des injustices massives et à des contrôles ciblés illégitimes ». Suspensions de versements, demandes de remboursements d’indus non motivés, privation totale de ressources… Les situations de détresse engendrées par ces contrôles sont nombreuses. Tout cela alimente le non-recours.

Ce texte veut faire des allocataires du RSA un groupe surveillé davantage que les fraudeurs financiers, les employeurs fraudeurs ou les investisseurs internationaux. Aucun autre groupe social n’est visé par une telle concentration algorithmique et administrative, alors que cette fraude reste marginale. Il est possible d’organiser des contrôles sur des bases objectivables en s’appuyant sur des données vérifiées, et non sur des suspicions liées à la situation sociale des personnes.

Les alertes sont nombreuses : SUD-Solidaires, la Ligue des droits de l’homme (LDH), le Défenseur des droits, Solidaires Finances Publiques, tous dénoncent le tournant répressif du système social français. La France ne doit pas devenir un pays où l’on traque les allocataires du RSA comme des délinquants. Cet amendement rappelle une évidence : la surveillance numérique de masse ne peut pas être la réponse à la précarité.

Ainsi, cet amendement impose un garde-fou démocratique indispensable pour que les plus précaires ne deviennent pas des suspects permanents et pour que l’utilisation d’algorithmes et de l’IA par tout organisme chargé d’une mission de service public soit strictement encadrée et rendue transparente.