ART. 7	N°148	
ASSEMBLÉE NATIONALE
15 Mars 2023
___________________________________________________________________
RELATIF AUX JEUX OLYMPIQUES ET PARALYMPIQUES DE 2024 - (N° 939)
Commission		
Gouvernement		
Rejeté
AMENDEMENT N°148
présenté par
M. Vicot, Mme Rouaux, M. Guedj, M. Vallaud, M. Saulignac, Mme Untermaier, Mme Karamanli, M. Aviragnet, M. Baptiste, Mme Battistel, M. Mickaël Bouloux, M. Philippe Brun, M. Califer, M. David, M. Delaporte, M. Delautrette, M. Echaniz, M. Olivier Faure, M. Garot, M. Hajjar, Mme Jourdan, Mme Keloua Hachi, M. Leseul, M. Naillet, M. Bertrand Petit, M. Bertrand Petit, Mme Pic, Mme Pires Beaune, M. Potier, Mme Rabault, Mme Santiago, Mme Thomin et les membres du groupe Socialistes et apparentés (membre de l’intergroupe Nupes)
------------
ARTICLE 7
Rédiger ainsicet article :
« I. – À titreexpérimental, du 26 juillet au 8 septembre 2024, et à la seule find’assurer la sécurité des jeux Olympiques et Paralympiques, lesimages collectées au moyen de systèmes de vidéoprotection autoriséssur le fondement de l’article L. 252‑1 du code de lasécurité intérieure et de caméras installées sur des aéronefsautorisées sur le fondement du chapitre II du titre IV dulivre II du même code dans les lieux accueillant cesmanifestations et à leurs abords, ainsi que dans les véhicules etemprises de transport public et sur les voies les desservant,peuvent faire l’objet de traitements algorithmiques ayant pourunique objet de détecter, en temps réel, des abandons de bagages etde les signaler en vue de la mise en œuvre des mesures nécessairespar les services de la police et de la gendarmerie nationales, lesservices d’incendie et de secours, les services de policemunicipale et les services internes de sécurité de la SNCF et de laRégie autonome des transports parisiens dans le cadre de leursmissions respectives.
« II. – Lestraitements mentionnés au I du présent article, y comprispendant leur conception, ainsi que les images qui sont nécessairesà leur entraînement sont régis par les dispositions applicables durèglement (UE) 2016/679 du Parlement européen et du Conseil du27 avril 2016 relatif à la protection des personnesphysiques à l’égard du traitement des données à caractère personnelet à la libre circulation de ces données, et abrogeant la directive95/46/CE (règlement général sur la protection des données) etde la loi n° 78‑17 du 6 janvier 1978 relative àl’informatique, aux fichiers et aux libertés.
« II bis – Lepublic est informé par tout moyen approprié de l’emploi detraitements algorithmiques sur les images collectées au moyen desystèmes de vidéoprotection autorisés sur le fondement del’article L. 252‑1 du code de la sécurité intérieure etde caméras installées sur des aéronefs autorisées sur le fondementdu chapitre II du titre IV du livre II du même code,sauf lorsque les circonstances l’interdisent ou que cetteinformation entrerait en contradiction avec les objectifspoursuivis.
« Une information générale dupublic sur l’emploi de traitements algorithmiques sur les imagescollectées au moyen de systèmes de vidéoprotection et de camérasinstallées sur des aéronefs est organisée par le ministre del’intérieur.
« III. – Cestraitements n’utilisent aucun système d’identification biométrique,ne traitent aucune donnée biométrique et ne mettent en œuvre aucunetechnique de reconnaissance faciale. Ils ne peuvent induire aucuneforme des discriminations mentionnées à l’article 225‑1du code pénal. Ils ne peuvent procéder à aucun rapprochement,interconnexion ou mise en relation automatisée avec d’autrestraitements de données à caractère personnel.
« Ils procèdent exclusivementà un signalement d’attention, strictement limité à l’indication del’abandon de bagages. Ils ne produisent aucun autre résultat et nepeuvent fonder, par eux‑mêmes, aucune décision individuelle ou actede poursuite.
« Ils demeurent en permanencesous le contrôle des personnes chargées de leur mise en œuvre.
« IV. – Le recours àun traitement mentionné au I du présent article est, pardérogation à l’article 31 de la loi n° 78‑17 du6 janvier 1978 relative à l’informatique, aux fichiers etaux libertés, autorisé par un décret pris après avis conforme de laCommission nationale de l’informatique et des libertés qui seprononce sur la base du code du traitement qui lui aura étépréalablement transmis.
« Ce décret fixe lescaractéristiques essentielles du traitement. Il rappelle et précisela nature des abandons d’objets que le traitement a pour uniqueobjet de signaler, les services mentionnés au second alinéadu I du présent article susceptibles de le mettre en œuvre,les éventuelles conditions de leur participation financière àl’utilisation du traitement, et les conditions d’habilitation et deformation des agents pouvant accéder aux signalements dutraitement. Il désigne l’autorité chargée d’établir l’attestationde conformité mentionnée au dernier alinéa du V.
« Le décret est accompagnéd’une analyse d’impact relative à la protection des donnéespersonnelles qui expose :
« 1° Le bénéfice escomptéde l’emploi du traitement au service de la finalité mentionnéeau I, c’est-à-dire les abandons de bagages donnant lieu àsignalement par le système ;
« 2° L’ensemble desrisques éventuellement créés par le système et les mesuresenvisagées afin de les minimiser et de les rendre acceptables aucours de son fonctionnement.
« V. – L’État assurele développement du traitement ainsi autorisé. Dans tous les cas,le traitement doit satisfaire aux exigences suivantes :
« 1° Lorsque le systèmed’intelligence artificielle employé repose sur un apprentissage,des garanties sont apportées afin que les données d’apprentissage,de validation et de test choisies soient pertinentes, adéquates etreprésentatives. Leur traitement doit être loyal et éthique,reposer sur des critères objectifs et permettre d’identifier et deprévenir l’occurrence de biais et d’erreurs. Ces données doiventdemeurer accessibles et être protégées tout au long dufonctionnement du traitement ;
« 2° Le traitementcomporte un enregistrement automatique des signalements desévénements prédéterminés détectés permettant d’assurer latraçabilité de son fonctionnement ;
« 3° Le traitementcomporte des mesures de contrôle humain et un système de gestiondes risques permettant de prévenir et de corriger la survenue debiais éventuels ou de mauvaise utilisation ;
« 4° Les modalités selonlesquelles, à tout instant, le traitement peut être interrompu sontprécisées ;
« 5° Le traitement faitl’objet d’une phase de test conduite dans des conditions analoguesà celles de son emploi tel qu’autorisé par le décret mentionné auV, attestée par un rapport de validation.
« Dans le cadre duprésent VI, la Commission nationale de l’informatique et deslibertés exerce, en lien avec l’Agence nationale de la sécurité dessystèmes d’information chargée de vérifier le respect des exigencesrelatives à la cybersécurité, les missions prévuesau 2° du I de l’article 8 de laloi n° 78‑17 du 6 janvier 1978 relative àl’informatique, aux fichiers et aux libertés, en particulier enaccompagnant les personnes chargées du développement dutraitement.
« Le respect des exigencesénoncées au présent VI fait l’objet d’une attestation deconformité établie par l’autorité administrative compétente. Cetteattestation est publiée avant que le traitement soit mis à ladisposition des services mentionnés au I qui demandentl’autorisation de l’utiliser dans les conditions prévuesau VII.
« VI. – L’emploi dutraitement est autorisé par le représentant de l’État dans ledépartement ou, à Paris, par le préfet de police après avoirrecueilli les avis conformes des conseils municipaux desterritoires concernés. Cette autorisation peut uniquement êtreaccordée, durant la période des jeux olympiques et paralympiquelorsque le recours au traitement est proportionné au regard de lafinalité poursuivie .
« La demande qui lui estadressée par l’un des services mentionnés au I comprend entant que de besoin l’actualisation de l’analyse d’impact réaliséelors de l’autorisation du traitement par décret, adaptée auxcirconstances du déploiement. Cette analyse actualisée est adresséeà la Commission nationale de l’informatique et des libertés.
« La décision d’autorisationest publiée et motivée. Elle précise :
« 1° Le responsable dutraitement et les services associés à sa mise en œuvre ;
« 2° Le périmètregéographique concerné par la mise en œuvre du traitement dans leslimites mentionnées audit I ;
« 3° Les modalitésd’information du public, notamment sur ses droits, ou, lorsquecette information entre en contradiction avec les finalitéspoursuivies, les motifs pour lesquels le responsable du traitementen est dispensé, accompagnés d’un renvoi vers l’informationgénérale organisée par le ministère de l’intérieur mentionnée ausecond alinéa du II bis du présentarticle ;
« 4° La duréed’autorisation. Cette durée ne peut excéder celle des jeuxolympiques et paralympiques.
« VII. – L’autoritéresponsable tient un registre des suites apportées aux signalementseffectués par le traitement ainsi que des personnes ayant accès auxsignalements.
« Le représentant de l’Étatdans le département ou, à Paris, le préfet de police et les mairesdes territoires concernés sont tenus informés chaque semainedes conditions dans lesquelles le traitement est mis en œuvre. Lepréfet en tient informée régulièrement la Commission nationalede l’informatique et des libertés et peut suspendre sa décisiond’autorisation ou y mettre fin à tout moment s’il constate que lesconditions ayant justifié sa délivrance ne sont plus réunies.
« VII bisA. – Les images mentionnées au I du présent articledont la durée de conservation, prévue aux articles L. 242‑4 etL. 252‑5 du code de la sécurité intérieure, n’est pas expiréepeuvent être utilisées comme données d’apprentissage destraitements dans les conditions prévues au 1° du VIdu présent article jusqu’à l’expiration de leur durée deconservation.
« VII bis – La Commission nationale del’informatique et des libertés exerce un contrôle sur l’applicationdu présent article. À cette fin, elle peut mettre en œuvre lesdispositions des sections 2 et 3 du chapitre II dutitre Ier de la loi n° 78‑17 du6 janvier 1978 relative à l’informatique, aux fichiers etaux libertés.
« VIII. – LaCommission nationale de l’informatique et des libertés est informéetous les trois mois des conditions de mise en œuvre del’expérimentation mentionnée au I. Le Gouvernement remet auParlement, au plus tard six mois après le terme del’expérimentation fixé au 8 septembre 2024, un rapport d’évaluationde sa mise en œuvre, dont le contenu est fixé par décret en Conseild’État après avis de la Commission nationale de l’informatique etdes libertés. Ce décret fixe notamment les modalités de pilotage etd’évaluation pluridisciplinaire et objective de l’expérimentationet les indicateurs utilisés par celle‑ci. L’évaluation associe,dans le respect du principe de parité entre les femmes et leshommes, deux députés et deux sénateurs, dont au moins un député etun sénateur appartenant à un groupe d’opposition, désignésrespectivement par le président de l’Assemblée nationale et leprésident du Sénat. L’évaluation associe également desreprésentants d’associations dont l’objet social résideessentiellement dans la protection des données personnelles. Ledécret précise également les modalités selon lesquelles le publicet les agents concernés sont informés de l’expérimentation etassociés à l’évaluation. Le rapport d’évaluation est égalementtransmis à la Commission nationale de l’informatique et deslibertés et rendu public sur internet, dans les mêmesdélais. »
EXPOSÉ SOMMAIRE
Cet amendement du groupe”socialistes et apparentés” vise à réécrire l’article 7 en posantles exigences fondamentales qui doivent être respectées lors de lamise en oeuvre de nouvelles technologies appliquées dans le domainede la sécurité publique. 
Les travaux de la commission des lois n’ont pas permis de faireévoluer le dispositif de manière substantielle, néanmoins cetamendement reprend quelques unes des évolutions positives qui ontété adoptées : soumission des algorithmes au RGPD y compris durantleur conception, garantie d’un traitement éthique, association del’Agence nationale de sécurité des systèmes d’information,évaluation du dispositif par des parlementaires dont au moins undéputé ou un sénateur appartenant à l’opposition et publication surInternet de ce rapport d’évaluation. 
Pour le reste, le groupe socialiste rappelle ses exigences faceà ces traitements : 
1°) La mise en oeuvre de traitements algorithmiques couplés à lavidéo surveillance doit être strictement limitée eu égard auxsituations qu’elle vise à détecter : seule la détection desituations d’abandon de bagages parait à cet égard justifiée. Eneffet, les termes flous de l’article 7 dans sa rédaction issue duSénat risque de conduire à la définition de ce qui constitue un”comportement normal” dans l’espace public, ce qui serait le pointde départ d’une surveillance généralisée.
Au demeurant, en limitant cette technologie à la seule détectiondes abandons de bagages, on maximise son efficacité alors qu’enmultipliant les situations qu’il faut détecter on multiplieégalement les risques d’erreurs de la machine.
2°) La mise en oeuvre de cette technologie doit être limitée àla seule période nécessaire, soit la tenue des jeux olympiques etparalympiques de 2024.
3°) L’avis de la CNIL doit être un avis conforme et non unsimple avis. Cet avis sera rendu par la CNIL sur la base du codequi lui aura été préalablement transmis dans son intégralité.
4°) Le traitement algorithmique ne doit induire aucune forme dediscrimination. 
5°) L’Etat doit être le responsable du développement de cestraitements algorithmiques. L’intervention d’entreprises privéespose de nombreux problèmes en termes de garanties des libertéspubliques alors que ces technologies sont particulièrementintrusives.
6°) Le déploiement de ces traitements doit se faire sur avisconforme des conseils municipaux des territoires concernés et lesmaires doivent être tenus informés des conditions de mise en oeuvrede cette technologie au même titre que les Préfets. 
7°) L’évaluation de l’expérimentation doit associer desassociations dont l’objet social réside dans la protection desdonnées personnelles.
Si ces différentes exigences étaient respectées, l’usage d’unetelle technologie paraitrait acceptable, uniquement au titre d’uneexpérimentation qui permettrait de faire le bilan de ses avantageset inconvénients.