ART. 7	N°513	
ASSEMBLÉE NATIONALE
16 Mars 2023
___________________________________________________________________
RELATIF AUX JEUX OLYMPIQUES ET PARALYMPIQUES DE 2024 - (N° 939)
Commission		
Gouvernement		
Non soutenu
AMENDEMENT N°513
présenté par
Mme Garin et Mme Taillé-Polian
------------
ARTICLE 7
Supprimer cet article.
EXPOSÉ SOMMAIRE
L’algorithme proposé par l’article 7, de par son fonctionnement,sera amené à identifier par lui-même les caractéristiques qui luipermettent de détecter de la manière la plus certaine et pertinentece qu’il est censé rechercher à partir des images qui lui aurontservi à s’entraîner et qui l’auront nourri, sans que les êtrehumains n’aient de contrôle réel sur ces critères en raison du deeplearning. Or cela constitue un problème majeur qui ne doit pas êtreminimisé.
En effet, si l’algorithme considère que certaines caractéristiquestelles que le port d’un vêtement particulier ou une couleur de peausont plus susceptibles d’être associées au risque recherché, il lesintégrera et sera donc amené à les utiliser de manièreindifférenciée avec d’autres caractéristiques pour effectuer unsignalement d’un comportement jugé anormal. Outre le fait qu’il sefondera sur des données biométriques, cela fait de l’utilisation dela vidéosurveillance par algorithme une pratique potentiellementdiscriminatoire et raciste et pose clairement la question de laconstitutionnalité du dispositif, aucun garde-fou contre cettedérive n’étant, encore une fois, techniquement possible.
De plus, la liberté qui sera laissée aux concepteurs del’algorithme pour mettre au point les paramètres du logiciel chargéd’aider à assurer le maintien de la sécurité publique en détectantdes comportements “anormaux”, dont la définition même constitueraune stigmatisation d’une partie de la population et engendrera desdiscriminations, étant édictée selon les normes de ceux qui laconçoivent, renvoyant les comportements des personnes les moinsintégrées socialement à des “comportements déviants”, pose unproblème majeur. 
Il est donc absolument nécessaire de supprimer cet article, quiviole les principes démocratiques de notre pays et les valeurs del’Union européenne.