APRÈS ART. 19	N°1780	
ASSEMBLÉE NATIONALE
15 Janvier 2021
___________________________________________________________________
RESPECT DES PRINCIPES DE LA RÉPUBLIQUE - (N° 3649)
Adopté
AMENDEMENT N°1780
présenté par
Mme Avia, rapporteure thématique et M. Boudié, rapporteur
------------
ARTICLE ADDITIONNEL
APRÈS L’ARTICLE 19, insérer l’article suivant:
I. – La loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifiée :
1° Le quatrième alinéa du 7 du I de l’article 6 est ainsi modifié :
a) La première phrase est complétée par les mots et une phrase ainsi rédigés : « et rendre publics les moyens qu’elles consacrent à la lutte contre ces activités illicites. Ces obligations ne sont pas applicables aux opérateurs mentionnés au premier alinéa de l’article 6‑5 pour la lutte contre la diffusion des contenus mentionnés au même alinéa. » ;
b) Au début de la seconde phrase, le mot : « Elles » est remplacé par les mots : « Les personnes mentionnées aux 1 et 2 » ;
c) À la même seconde phrase, les mots : « , d’une part, » et les mots : « , et, d’autre part, de rendre publics les moyens qu’elles consacrent à la lutte contre ces activités illicites » sont supprimés.
2° Après l’article 6‑4, il est inséré un article 6‑5 ainsi rédigé : 
« Art. 6‑5. – Les opérateurs de plateformes en ligne définis à l’article L. 111‑7 du code de la consommation qui proposent un service de communication au public en ligne reposant sur le classement, le référencement ou le partage de contenus mis en ligne par des tiers et dont l’activité sur le territoire français dépasse un seuil de nombre de connexions déterminé par décret, qu’ils soient ou non établis sur le territoire français, concourent à la lutte contre la diffusion publique des contenus contrevenant aux dispositions mentionnées au troisième alinéa du 7 du I de l’article 6 de la présente loi ainsi qu’à l’article 24 bis et aux troisième et quatrième alinéas de l’article 33 de la loi 29 juillet 1881 sur la liberté de la presse. À ce titre : 
« 1° Ils mettent en œuvre des procédures et des moyens humains et technologiques proportionnés permettant :
« a) D’informer, dans les meilleurs délais, les autorités judiciaires ou administratives des actions qu’ils ont mises en œuvre à la suite des injonctions émises par ces dernières relatives aux contenus mentionnés au premier alinéa du présent article ;
« b) D’accuser réception sans délai des demandes des autorités judiciaires ou administratives tendant à la communication des données dont ils disposent de nature à permettre l’identification des utilisateurs qui ont mis en ligne des contenus mentionnés au premier alinéa, et d’informer ces autorités dans les meilleurs délais des suites données à ces demandes ;
« c) De conserver temporairement les contenus qui leur ont été signalés comme contraires aux dispositions mentionnées au premier alinéa et qu’ils ont retirés ou rendus inaccessibles, aux fins de les mettre à disposition de l’autorité judiciaire pour les besoins de la recherche, de la constatation et de la poursuite des infractions pénales ; la durée et les modalités de conservation de ces contenus sont définies par décret en Conseil d’État, après avis de la Commission nationale de l’informatique et des libertés.
« 2° Ils désignent un point de contact unique chargé de la communication avec les autorités publiques pour la mise en œuvre des dispositions du présent article, auquel pourront notamment être adressées par voie électronique les demandes présentées par le Conseil supérieur de l’audiovisuel en application de l’article 62 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication ;
« 3° Ils mettent à la disposition du public, de façon facilement accessible, les conditions générales d’utilisation du service qu’ils proposent ; ils y intègrent des dispositions prévoyant l’interdiction de mettre en ligne les contenus mentionnés au même premier alinéa ; ils y décrivent en termes clairs et précis leur dispositif de modération visant à détecter, identifier et traiter ces contenus, en détaillant les procédures et les moyens humains ou automatisés employés à cet effet ainsi que les mesures qu’ils mettent en œuvre affectant la disponibilité, la visibilité et l’accessibilité de ces contenus ; ils y indiquent les mesures qu’ils mettent en œuvre à l’égard des utilisateurs qui ont mis en ligne ces contenus, ainsi que les recours internes et judiciaires dont disposent ces utilisateurs ;
« 4° Ils rendent compte au public des moyens mis en œuvre et des mesures adoptées pour lutter contre la diffusion des contenus mentionnés audit premier alinéa, par la publication, selon des modalités et une périodicité fixées par le Conseil supérieur de l’audiovisuel, d’informations et d’indicateurs chiffrés définis par celui-ci, portant notamment sur le traitement des notifications reçues et des recours internes des utilisateurs ainsi que, le cas échéant, les critères de sélection des tiers de confiance dont les notifications font l’objet d’un traitement prioritaire et les modalités de coopération avec ces tiers ;
« 5° Ils mettent en place un dispositif aisément accessible et facile d’utilisation permettant à toute personne de porter à leur connaissance, par voie électronique, un contenu qu’elle considère comme contraire aux dispositions mentionnées au premier alinéa, en lui permettant de préciser clairement son emplacement ainsi que les raisons pour lesquelles elle estime que ce contenu doit être considéré comme illégal et de fournir les informations permettant de la contacter, et en l’informant des sanctions encourues en cas de notification abusive ;
« 6° Ils mettent en œuvre des procédures et des moyens humains et technologiques proportionnés permettant :
« a) D’accuser réception sans délai des notifications relatives aux contenus mentionnés au premier alinéa, sous réserve de disposer des informations nécessaires pour contacter leur auteur ;
« b) De garantir leur examen approprié dans un prompt délai ;
« c) D’informer leur auteur des suites qui y sont données ainsi que des voies de recours internes et judiciaires dont il dispose, sous réserve de disposer des informations nécessaires pour le contacter ;
« d) Lorsqu’ils décident de retirer ou de rendre inaccessible un contenu pour un motif tiré de la méconnaissance des dispositions mentionnées audit premier alinéa, d’en informer l’utilisateur à l’origine de sa publication, sous réserve de disposer des informations nécessaires pour le contacter :
« – en indiquant les raisons qui ont motivé cette décision ;
« – en précisant si cette décision a été prise au moyen d’un outil automatisé ;
« – en l’informant des voies de recours internes et judiciaires dont il dispose ;
« – et en l’informant que des sanctions civiles et pénales sont encourues pour la publication de contenus illicites ;
« 7° Ils mettent en œuvre des dispositifs de recours interne permettant :
« a) À l’auteur d’une notification relative à un contenu mentionné au premier alinéa, de contester la décision adoptée par l’opérateur en réponse à cette notification ;
« b) À l’utilisateur à l’origine de la publication d’un contenu ayant fait l’objet d’une décision mentionnée au d du 6° , de contester cette décision ;
« c) À l’utilisateur ayant fait l’objet d’une décision mentionnée au a ou au b du 8° , de contester cette décision.
« Ils veillent à ce que ces dispositifs soient aisément accessibles et faciles d’utilisation et à ce qu’ils permettent un traitement approprié des recours dans les meilleurs délais, qui ne soit pas uniquement fondé sur l’utilisation de moyens automatisés, une information sans délai de l’utilisateur sur la décision adoptée, et l’annulation sans délai des mesures relatives au contenu en cause ou à l’utilisateur mises en œuvre par l’opérateur lorsque le recours le conduit à considérer que la décision contestée n’était pas justifiée ;
« 8° Lorsqu’ils décident de mettre en œuvre de telles procédures, ils exposent dans leurs conditions d’utilisation, en des termes clairs et précis, les procédures conduisant :
« a) À suspendre ou, dans les cas les plus graves, à résilier le compte des utilisateurs qui ont mis en ligne de manière répétée des contenus contraires aux dispositions mentionnées au même premier alinéa ;
« b) À suspendre l’accès au dispositif de notification à l’égard des utilisateurs qui ont soumis, de manière répétée, des notifications manifestement infondées relatives aux contenus mentionnés audit premier alinéa.
« Lorsque de telles procédures sont mises en œuvre, elles prévoient un examen au cas par cas visant à caractériser de façon objective l’existence d’un comportement mentionné au a ou au b en tenant compte notamment :
« – du nombre de contenus illicites mentionnés au premier alinéa, ou de notifications manifestement infondées, dont l’utilisateur a été à l’origine au cours de l’année écoulée, à la fois en valeur absolue et en proportion du nombre total de contenus ou de notifications dont il a été à l’origine ;
« – et de la gravité et des conséquences de ces abus.
« Lorsqu’elles sont mises en œuvre, ces procédures prévoient que les mesures mentionnées au a et au b sont proportionnées, dans leur nature, à la gravité des agissements en cause et, dans le cas d’une suspension, que celle-ci est prononcée pour une durée raisonnable. Elles prévoient l’avertissement préalable de l’utilisateur et son information sur les voies de recours internes et juridictionnelles dont il dispose.
« 9° Les opérateurs mentionnés au premier alinéa dont l’activité sur le territoire français dépasse un seuil de nombre de connexions déterminé par décret et supérieur à celui mentionné au premier alinéa :
« a) Procèdent chaque année à une évaluation des risques systémiques liés au fonctionnement et à l’utilisation de leurs services en matière de diffusion des contenus mentionnés au premier alinéa et en matière d’atteinte aux droits fondamentaux, notamment à la liberté d’expression ;
« b) Mettent en œuvre des mesures raisonnables, proportionnées et efficaces visant à atténuer les risques de diffusion de ces contenus, qui peuvent notamment porter sur les procédures et les moyens humains et technologiques mis en œuvre pour détecter, identifier et traiter ces contenus, tout en veillant à prévenir les risques de retrait non justifié au regard du droit applicable et de leurs conditions générales d’utilisation ;
« c) Rendent compte au public, selon des modalités et une périodicité fixées par le Conseil supérieur de l’audiovisuel, de l’évaluation de ces risques systémiques et des mesures d’atténuation des risques mises en œuvre ;
« 10° Les opérateurs mentionnés au premier alinéa rendent compte au Conseil supérieur de l’audiovisuel des procédures et des moyens mis en œuvre pour l’application du présent article dans les conditions prévues à l’article 62 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication. »
II. – La loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication est ainsi modifiée :
1° Au troisième alinéa du 1° du I de l’article 19, les mots : « ainsi que des plateformes de partage de vidéos » sont remplacés par les mots : « , des plateformes de partage de vidéos ainsi que des opérateurs de plateformes en ligne mentionnés à l’article 62 de la présente loi » ;
2° Au premier alinéa de l’article 42‑7, les mots : « et 48‑3 » sont remplacés par les mots :« 48‑3 et 62 ».
3° Le titre IV est complété par un chapitre III ainsi rédigé :
« Chapitre III
« Dispositions applicables aux plateformes en ligne en matière de lutte contre les contenus haineux
« Art. 62. – I. – Le Conseil supérieur de l’audiovisuel veille au respect, par les opérateurs de plateformes en ligne mentionnés au premier alinéa de l’article 6‑5 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique, des dispositions de cet article, en prenant en compte, pour chacun des services qu’ils proposent, les caractéristiques de ce service et l’adéquation des moyens mis en œuvre par l’opérateur pour lutter contre la diffusion sur celui-ci des contenus mentionnés au premier alinéa de l’article 6‑5 tout en évitant les retraits injustifiés au regard du droit applicable et de ses conditions générales d’utilisation.
« Il recueille auprès de ces opérateurs, dans les conditions fixées à l’article 19 de la présente loi, les informations nécessaires au suivi de leurs obligations. À ce titre, les opérateurs mentionnés au 9° de l’article 6‑5 de la même loi n° 2004‑575 du 21 juin 2004 lui donnent accès aux principes de fonctionnement des outils automatisés auxquels ils ont recours pour répondre à ces obligations, aux paramètres utilisés par ces outils, aux méthodes et aux données utilisées pour l’évaluation et l’amélioration de leur performance, ainsi qu’à toute autre information ou donnée lui permettant d’évaluer leur efficacité, dans le respect des dispositions relatives à la protection des données personnelles. Ils lui permettent d’accéder au moyen d’outils automatisés à toute donnée pertinente pour évaluer leur efficacité, dans le respect de ces mêmes dispositions.
« Il définit les informations et les indicateurs chiffrés que ces opérateurs sont tenus de publier en application du 4° de l’article 6‑5 de ladite loi n° 2004‑575 du 21 juin 2004, ainsi que les modalités et la périodicité de cette publication.
« Il publie chaque année un bilan de l’application des dispositions de l’article 6‑5 de la même loi n° 2004‑575 du 21 juin 2004.
« II. – Le Conseil supérieur de l’audiovisuel peut mettre en demeure un opérateur de se conformer, dans le délai qu’il fixe, aux dispositions de l’article 6‑5 de ladite loi n° 2004‑575 du 21 juin 2004.
« Lorsque l’opérateur ne se conforme pas à la mise en demeure qui lui est adressée, le Conseil supérieur de l’audiovisuel peut, dans les conditions prévues à l’article 42‑7 de la présente loi, prononcer une sanction pécuniaire dont le montant prend en considération la gravité des manquements ainsi que, le cas échéant, leur caractère réitéré, sans pouvoir excéder 20 millions d’euros ou 6 % du chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu. Lorsque le même manquement a fait l’objet, dans un autre État, d’une sanction pécuniaire calculée sur la base de cette même assiette, le montant de cette sanction est pris en compte pour la détermination de la sanction prononcée en application du présent alinéa. 
« Par dérogation au précédent alinéa, le montant de la sanction prononcée en cas de refus de communiquer les informations demandées par le régulateur au titre du deuxième alinéa du I ou en cas de communication d’informations fausses ou trompeuses ne peut excéder 1 % du chiffre d’affaires annuel mondial total de l’exercice précédent.
« Le Conseil supérieur de l’audiovisuel peut rendre publiques les mises en demeure et sanctions qu’il prononce. Il détermine dans sa décision les modalités de cette publication, qui sont proportionnées à la gravité du manquement. Il peut également ordonner leur insertion dans des publications, journaux et supports qu’il désigne, aux frais des opérateurs faisant l’objet de la mise en demeure ou de la sanction.
« Les sanctions pécuniaires sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine. »
III. – Les dispositions du présent article s’appliquent à compter de la date d’entrée en vigueur de la présente loi et jusqu’au 31 décembre 2023.
EXPOSÉ SOMMAIRE
Le présent amendement a pour objet de renforcer le dispositif de lutte contre les contenus haineux en ligne, en conférant, aux plateformes, d’une part, des obligations de moyens et des obligations de transparence s’agissant de la modération des contenus et au Conseil supérieur de l’audiovisuel (CSA), d’autre part, des pouvoirs de supervision des processus de modération mis en place par les plateformes.
Il s’inscrit dans la continuité de certaines dispositions de la loi n° 2020‑766 du 24 juin 2020 visant à lutter contre les contenus haineux sur internet, qui conférait, de la même manière, des obligations de moyens aux opérateurs de plateformes et un pouvoir de régulation au CSA. Ces dispositions n’ont pas été censurées sur le fond par le Conseil constitutionnel, mais par voie de conséquence car elles renvoyaient à des dispositions elles-mêmes censurées. 
Cet amendement s’inscrit dans la dynamique européenne, dont une nouvelle impulsion a été donnée en décembre 2020, par la présentation du Digital Services Act, projet de règlement européen sur les services numériques qui a pour ambition de construire un nouveau cadre de lutte contre la diffusion de contenus illicites, en responsabilisant les plateformes numériques à travers les obligations de moyens reprises dans le présent amendement.
En pratique, l’amendement crée un article 6‑5 à la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique, qui impose plusieurs obligations aux opérateurs de plateformes en ligne dans la modération des contenus illicites. Les opérateurs visés sont les opérateurs de plateformes, établis en France ou à l’étranger, qui proposent un service de communication au public en ligne reposant sur le classement, le référencement ou le partage de contenus mis en ligne (réseaux sociaux, plateformes de partage de vidéos et moteurs de recherche). 
Les contenus visés, eux, sont ceux listés au 7 du I de l’article 6 de la loi pour la confiance dans l’économie numérique, pour lesquels un devoir de coopération renforcé existe dores et déjà, ainsi que les négationnistes et des injures discriminatoires, qui sont au cœur de la lutte contre les contenus haineux en France.
Premièrement, l’amendement renforce l’obligation de coopération de ces opérateurs avec les autorités publiques, que ce soit dans la bonne mise en œuvre des injonctions judiciaires ou administratives, que la transmission de données permettant l’identification des auteurs de contenus haineux. Les contenus signalés devront être temporairement conservés aux fins de l’enquête judiciaire.
Les plateformes devront également désigner un interlocuteur unique référent des autorités publiques françaises, pour assurer l’effectivité de cette coopération. 
Deuxièmement, l’amendement prévoit des obligations de transparence renforcées pour ces opérateurs.
Leur conditions générales d’utilisation devront expliciter leur politique et moyens, humains comme technologiques, de modération, ainsi que les mesures prises en cas de diffusion de contenus haineux, et les voies de recours interne et judiciaires dont disposent les utilisateurs. 
Ils devront également publier régulièrement des informations et indicateurs chiffrés, définis par le CSA, relatives au traitement des notifications et des recours internes. 
Ils devront désigner des tiers de confiance, dont les notifications font l’objet d’un traitement prioritaire, de manière transparente.
Enfin, les plateformes les plus importantes en nombre de connexions devront procéder chaque année à une évaluation des risques systémiques liés au fonctionnement et à l’utilisation de leurs services en matière de diffusion des contenus illicites, mais aussi en matière d’atteinte aux droits fondamentaux, notamment à la liberté d’expression. Elles devront rendre compte au public, selon des modalités fixées par le CSA, de l’évaluation de ces risques systémiques et des mesures d’atténuation qu’ils doivent mettre œuvre.
Troisièmement, les droits de l’ensemble des utilisateurs sont préservés.
Les plateformes devront mettre en place des dispositifs simplifiés de notification des contenus illicites, examiner ces signalements et y apporter des réponses dans un prompt délai. 
En parallèle, les plateformes devront également prévenir les signalements abusifs et offrir à leurs utilisateurs des garanties et des voies de recours internes et judiciaires.
Pour les opérateurs qui prévoient la suspension ou la résiliation des comptes d’utilisateurs, ou la suspension de l’accès au dispositif de notification à l’égard des utilisateurs qui ont soumis des signalements abusifs, l’amendement prévoit un encadrement de ces procédures, une transparence et des voies de recours internes comme judiciaires.
Afin de contrôler la mise en œuvre de ces obligations, les pouvoirs de régulation du CSA sont renforcés.
Le CSA aura notamment accès aux principes de fonctionnement des outils automatisés de modération, notamment les algorithmes.
Le CSA devra définir les informations et indicateurs chiffrés que les plateformes devront lui transmettre, pour l’évaluation de leur politique de modération, et rendre publiques, par soucis de transparence.
En cas de manquement, le CSA pourra mettre en demeure un opérateur de se conformer à ses obligations dans un délai déterminé, puis prononcer une sanction pécuniaire plafonnée à 20 millions d’euros ou 6 % du chiffre d’affaires annuel mondial total de l’exercice précédent, conformément aux sanctions portées dans le Digital services act. 
L’amendement fixe une échéance au 31 décembre 2023 pour l’application de ces dispositions, dans l’attente de l’adoption du DSA auquel le droit national devra nécessairement être conforme.