ART. 26	N°752	
ASSEMBLÉE NATIONALE
29 Septembre 2023
___________________________________________________________________
VISANT À SÉCURISER ET RÉGULER L’ESPACE NUMÉRIQUE - (N° 1674)
Commission		
Gouvernement		
Rejeté
AMENDEMENT N°752
présenté par
Mme Amiot, Mme Abomangoli, M. Alexandre, M. Amard, Mme Amrani, M. Arenas, Mme Autain, M. Bernalicis, M. Bex, M. Bilongo, M. Bompard, M. Boumertit, M. Boyard, M. Caron, M. Carrière, M. Chauche, Mme Chikirou, M. Clouet, M. Coquerel, M. Corbière, M. Coulomme, Mme Couturier, M. Davi, M. Delogu, Mme Dufour, Mme Erodi, Mme Etienne, M. Fernandes, Mme Ferrer, Mme Fiat, M. Gaillard, Mme Garrido, Mme Guetté, M. Guiraud, Mme Hignet, Mme Keke, M. Kerbrat, M. Lachaud, M. Laisney, M. Le Gall, Mme Leboucher, Mme Leduc, M. Legavre, Mme Legrain, Mme Lepvraud, M. Léaument, Mme Pascale Martin, Mme Élisa Martin, M. Martinet, M. Mathieu, M. Maudet, Mme Maximi, Mme Manon Meunier, M. Nilor, Mme Obono, Mme Oziol, Mme Panot, M. Pilato, M. Piquemal, M. Portes, M. Prud’homme, M. Quatennens, M. Ratenon, M. Rome, M. Ruffin, M. Saintoul, M. Sala, Mme Simonnet, Mme Soudais, Mme Stambach-Terrenoir, Mme Taurinya, M. Tavel, Mme Trouvé, M. Vannier et M. Walter
------------
ARTICLE 26
Substituer à l’alinéa 16 lescinq alinéas suivants :
« 3° L’articleL. 111‑7‑1 est ainsi rédigé :
« « Art. L. 111‑7‑1. – Toutopérateur de plateforme qui propose des contenus, biens ou servicesau moyen d’algorithmes informatiques en informe chaque utilisateurpar le biais d’une mention explicite. Cette mention expliciteprécise que l’utilisateur a le droit d’obtenir les principalescaractéristiques de mise en œuvre de ces algorithmes, surdemande.
« « L’opérateur deplateforme saisi d’une demande visée au premier alinéa doitcommuniquer à tout utilisateur, sous une forme intelligible et dansun délai maximum d’un mois, les informations suivantes :
« « 1° Les donnéestraitées et leurs sources ;
« « 2° Lesparamètres de traitement et, le cas échéant, leur pondération,appliqués à la situation de l’utilisateur. » »
EXPOSÉ SOMMAIRE
Cet amendement crée une obligationde transparence sur les mécanismes et les pondérations utilisés parles algorithmes des plateformes numériques envers leursconsommateurs et usagers à travers la création d’un droit numériqueà « l’explicitation ».
Comme le rappelle la CNIL en 2017,tout algorithme est « en un sens, biaisé, dans la mesure où il esttoujours le reflet – à travers son paramétrage et ses critères defonctionnement, ou à travers les données d’apprentissage qui luiont été fournies – d’un système de valeurs et de choix de société».
Le risque est alors d’«automatiser» et de renforcer les discriminations systémiques existantes de nossociétés, comme le souligne différentes chercheuses comme VirginiaEubanks (2018) qui démontre que ces systèmes tendent à davantagecibler et contrôler – et donc stigmatiser - les membres des groupessociaux déjà défavorisés et dominés.
Cela remet en question laprotection effective de nos droits fondamentaux, comme lesoulignent de nombreuses institutions telles que le Défenseur desDroits (2020). Il réaffirme que l’utilisation d’algorithmes crééeun risque par exemple en termes de respect du droit à lanon-discrimination, qui se manifeste notamment par unefragilisation du droit à un recours effectif – le manque detransparence caractérisant les systèmes mis en œuvre rendantdifficile voire impossible pour les utilisateurs de savoir qu’ilsont été victime d’une décision d’un algorithme injustementdéfavorable et donc d’exercer effectivement leur droit aurecours.
Or, malgré l’importance de l’enjeu,un constat s’impose : les concepteurs d’algorithmes, tout comme lesorganisations achetant et utilisant ce type de systèmes et lesutilisateurs finaux sont peu, voire pas sensibilisés aux risquesque font peser les algorithmes sur les droits fondamentaux.
Sans révéler les secrets defabrication commerciaux, l’information des usagers sur les donnéestraitées par les algorithmes, les paramètres de traitement et leurpondération est indispensable.
Nous reprenons dans cet amendementune proposition du groupe écologiste-NUPES lors de l’examen encommission spéciale.