Lutte contre la haine sur internet

TRAVAUX DE LA COMMISSION DES LOIS
 

Article 1^er : Obligation de retrait en vingt-quatre heures des contenus manifestement haineux en ligne

Insertion des dispositions de l’article 1^er dans la loi pour la confiance dans l’économie numérique (LCEN) [CL88 de la rapporteure].

Extension de l’obligation de retrait aux moteurs de recherche [CL90 de la rapporteure].

Détermination, par décret, des opérateurs concernés par l’obligation de retrait en fonction de l’activité réalisée sur le territoire français [CL91 de la rapporteure].

Élargissement du champ des contenus dont le retrait pourra être exigé (ajouts de la commission en gras) :

– à la provocation au terrorisme ou son apologie [CL283 de la rapporteure] ;

– à ceux comportant une atteinte à la dignité de la personne humaine [CL40 de M. Marilossian (LaREM)] ;

– à ceux comportant une incitation à la haine, à la violence ou à la discrimination [CL266 de M. Belhaddad et des membres du groupe LaREM] ou une injure envers une personne ou un groupe de personnes [CL266 précité] à raison de l’origine [CL207 de Mme Pau-Langevin et des membres du groupe], d’une prétendue race [et non « de la race » ; CL267 de M. Marilossian et des membres du groupe LaREM], de la religion, de l’ethnie, de la nation  [CL219 de M. Tan (LaREM)] , du sexe, de l’orientation sexuelle, de l’identité de genre [identiques CL2 de la commission des Affaires culturelles, 192 de M. Balanant (MoDem) et 231 de M. Tan (LaREM)] ou du handicap, vrais ou supposés [CL300 de la rapporteure] ;

– à ceux relevant d’un certain nombre d’infractions prévues par le code pénal, notamment : l’apologie des crimes de guerre, des crimes contre l’humanité, des crimes de réduction en esclavage ou d’exploitation d’une personne réduite en esclavage ; le harcèlement sexuel ; la traite des êtres humains ; le proxénétisme ; la fixation, l’enregistrement ou la transmission de l’image ou de la représentation pornographique d’un mineur en vue de sa diffusion, ainsi que l’offre, la mise à disposition, la diffusion, l’importation ou l’exportation d’une telle image ou représentation [CL93 (Rect) de la rapporteure].

Obligation pour les opérateurs concernés de procéder au déréférencement des contenus manifestement haineux [CL 93 (Rect) de la rapporteure].

Possibilité de notification des contenus manifestement haineux reconnue à « un ou plusieurs utilisateurs » des services visés par le texte [CL256 de Mme de La Raudière (UAI-I)].

Obligation, pour les opérateurs concernés, de substituer au contenu illicite en cause un message indiquant que celui-ci a été retiré [CL148 (Rect) de M. Dunoyer (UAI-I)].

Création d’un nouveau délit de refus de retrait ou de déréférencement de contenus manifestement haineux par les opérateurs de plateforme en ligne [CL94 de la rapporteure].

Remplacement, dans la LCEN, de la notion « d’identité sexuelle » par celle « d’identité de genre » [CL3 de la commission des Affaires culturelles].

Article 1^er bis (nouveau) : Formalisme de la notification d’un contenu manifestement haineux

Intégration dans la LCEN des dispositions prévues par le texte initial et relatives au formalisme de la notification de contenus manifestement haineux à un opérateur de plateforme en ligne. Précision apportée au contenu de la notification, laquelle devra indiquer la description des faits litigieux et les motifs pour lesquels le contenu notifié contrevient manifestement, d’après le notifiant, à la loi [CL97 de la rapporteure].

Article 1^er ter (nouveau) : Sanction des notifications abusives ou malveillantes

Sanction des signalements abusifs (un an d’emprisonnement et 15 000 euros d’amende) [CL274 de M. Tan et des membres du groupe LaREM, sous-amendé par le CL284 de la rapporteure].

Article 2 : Amélioration de la procédure de notification d’un contenu haineux en ligne

Intégration dans la LCEN des obligations de moyen à la charge des opérateurs de plateformes. Obligation pour les opérateurs concernés de se conformer aux recommandations émises par le Conseil supérieur de l’audiovisuel (CSA) pour la bonne application de l’obligation de retirer ou de rendre inaccessible tout contenu manifestement haineux dans les 24 heures suivant sa notification [CL100 (Rect) de la rapporteure].

Apport d’un certain nombre de clarifications s’agissant des suites que les opérateurs de plateforme devront donner après la notification d’un contenu litigieux [CL101 de la rapporteure, sous-amendé par le CL291 de Mme de La Raudière] :

– les opérateurs devront informer de ces suites non seulement le notifiant mais aussi l’auteur du contenu litigieux ;

– l’information ainsi délivrée devra comporter des explications sur les motifs de la décision prise ;

– l’ensemble de ces éléments devront être transmis au notifiant et à l’auteur du contenu dans un délai de 24 heures en cas de retrait ou de déréférencement de celui-ci ou, à défaut, dans un délai de sept jours ;

– les opérateurs devront rappeler à l’utilisateur à l’origine de la publication que des sanctions civiles et pénales sont encourues pour la publication de contenus manifestement illicites.

Apport d’une précision s’agissant du bouton de notification mis en place par les opérateurs, qui devra être accessible « directement », et non « facilement », depuis le contenu jugé illicite [CL268 de Mme Abadie et des membres du groupe LaREM].

Insertion dans la LCEN des dispositions qui figuraient auparavant à l’article 1^er de la proposition de loi initiale (dispositions relatives aux mécanismes de recours interne contre les décisions prises par les opérateurs de plateforme en ligne à l’égard des contenus manifestement haineux) [CL101 de la rapporteure].

Article 3 : Devoir d’information des opérateurs de plateforme en ligne à fort trafic

Obligation d’information des opérateurs de plateforme en ligne vis-à-vis de leurs utilisateurs s’agissant des possibilités de recours interne contre une décision prise à la suite de la notification d’un contenu litigieux [CL101 de la rapporteure].

Obligation d’information des opérateurs de plateforme en ligne vis-à-vis de leurs utilisateurs s’agissant des délais applicables aux recours internes et judiciaires dont disposent les victimes de contenus haineux en ligne [CL269 de Mme Abadie et des membres du groupe LaREM].

Obligation d’information des opérateurs de plateforme en ligne vis-à-vis des personnes notifiant des contenus s’agissant des risques encourus en cas de notification abusive [CL280 de Mme Abadie et des membres du groupe LaREM].

Obligation d’information des opérateurs de plateforme en ligne vis-à-vis des auteurs des contenus retirés, bloqués ou déréférencés, s’agissant des voies de recours internes et judiciaires possibles [CL109 de la rapporteure].

Obligation d’information des opérateurs de plateforme en ligne vis-à-vis de leurs utilisateurs s’agissant des sanctions encourues en cas de publication de contenus illicites [CL19 (Rect) de Mme Kuster (LR)].

Obligation de publicité des règles de modération de leurs contenus par les opérateurs de plateforme en ligne [CL268 (Rect) de Mme Gaillot et des membres du groupe LaREM].

Obligation pour les opérateurs de plateforme en ligne permettant l’inscription de mineurs de moins de quinze ans de leur délivrer, ainsi qu’à leurs parents, une sensibilisation à l’utilisation civique et responsable de leurs services ainsi qu’une information sur les risques juridiques encourus en cas de diffusion de contenus haineux [CL11 de la commission des Affaires culturelles, sous-amendé par les CL285 et 286 de la rapporteure].

Obligation pour les opérateurs de plateforme en ligne de rendre compte aux autorités publiques des activités haineuses qui leur sont notifiées afin de faciliter les poursuites à l’encontre de leurs auteurs [CL111 de la rapporteure].

Apport de précisions s’agissant du rôle du représentant légal en France des opérateurs concernés [CL112 de la rapporteure].

Article 3 bis (nouveau) : Triplement du montant de la peine d’amende encourue en cas de non-coopération avec l’autorité judiciaire

Aggravation des peines encourues en cas de non-respect des obligations prévues par la LCEN, en portant le montant de l’amende de 75 000 à 250 000 euros [CL112 de la rapporteure].

Article 4 : Rôle du Conseil supérieur de l’audiovisuel dans la lutte contre la haine sur internet

Renvoi aux dispositions de la future loi s’agissant du rôle du CSA dans la lutte contre les contenus haineux en ligne [CL5 de la commission des Affaires culturelles, sous-amendé par le CL287 de la rapporteure].

Possibilité, pour le CSA, d’établir des lignes directrices et des bonnes pratiques au profit des opérateurs concernés [CL115 de la rapporteure].

Bilan annuel du CSA sur l’application de leurs obligations par les opérateurs concernés et sur l’effectivité de ces dispositions [CL8 de la commission des Affaires culturelles, sous-amendé par le 288 de la rapporteure].

Procédure suivie par le CSA avant le prononcé d’une sanction pécuniaire en cas de manquement par un opérateur à ses obligations. Conditionnement de la sanction à l’envoi d’une mise en demeure préalable. Modalités de fixation du montant de la sanction (jusqu’à 4 % du chiffre d’affaires annuel mondial total de l’exercice précédent). Possibilité pour le CSA de rendre publiques les mises en demeure et sanctions [CL116 (2^e Rect) de la rapporteure]

Article 5 : Renforcement de l’obligation de coopération des opérateurs numériques avec l’autorité judiciaire en matière de lutte contre les contenus illicites

Suppression de l’article par cohérence avec le transfert des dispositions concernées vers d’autres articles du texte [CL118 de la rapporteure].

Article 6 : Simplification de la procédure de blocage et de déréférencement des sites haineux et possibilité pour l’autorité administrative d’enjoindre le blocage de sites miroirs

Renforcement de la lutte contre les « sites miroirs » de contenus haineux ayant fait l’objet d’une décision de justice définitive [CL121 (Rect) de la rapporteure] :

– possibilité pour le  juge civil se prononçant sur le retrait d’un contenu haineux d’habiliter l’autorité administrative (en l’espèce l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication) à demander aux fournisseurs d’accès à internet, aux fournisseurs de noms de domaine et aux moteurs de recherche de prendre les mesures nécessaires pour empêcher l’accès à tout contenu identique à celui jugé illicite ;

– possibilité pour l’autorité judiciaire saisie en référé ou sur requête d’ordonner le blocage ou le déréférencement des contenus litigieux.

Article 6 bis (nouveau) : Sensibilisation des élèves à la lutte contre la diffusion de la haine en ligne

Inscription de la lutte contre la diffusion de messages haineux en ligne dans les programmes scolaires au sein du programme de formation à l’utilisation responsable des outils et des ressources numériques scolaires [CL12 de la commission des Affaires culturelles].

Article 6 ter (nouveau) : Formation des enseignants en matière de lutte contre la haine en ligne

Renforcement de la formation des enseignants en matière de lutte contre les contenus haineux en ligne [CL13 de la commission des Affaires culturelles].

Article 7 : Rapport sur l’exécution de la loi et les moyens consacrés à la lutte contre les contenus illicites

Article 8 : Gage financier

Suppression de l’article [CL296 du Gouvernement].

Article 9 (nouveau) : Modalités d’entrée en vigueur

Modalités d’entrée en vigueur des différentes dispositions du texte [CL124 de la rapporteure].

 
 
 
TRAVAUX DE LA COMMISSION DES AFFAIRES CULTURELLES
 

Article 1^er : Obligation de retrait des contenus haineux en ligne

Intégration dans la future loi de la lutte contre les contenus transphobes sur internet [AC32 de M. Raphaël Gérard (LaREM)].

Remplacement de la notion « d’identité sexuelle » par celle « d’identité de genre » [AC33 de M. Raphaël Gérard (LaREM)].

Article 4 : Extension des compétences du CSA dans la lutte contre la diffusion de contenus sur internet

Renvoi aux dispositions de la future loi s’agissant des missions du CSA en matière de lutte contre la haine sur internet [AC47 de la rapporteure].

Formalisation de la transmission d’informations au CSA de la part des associations œuvrant dans le champ de la haine et des discriminations [AC49 de la rapporteure]. Seules les associations régulièrement déclarées depuis au moins cinq ans à la date des faits sont concernées par cette transmission [sous-amendement AC57 de M. Raphaël Gérard (LaREM)].

Mention du caractère annuel de la publication du bilan du CSA sur l’application des dispositions de la loi par les opérateurs de plateforme [AC50 de la rapporteure].

Possibilité pour le CSA de publier tout ou partie des informations que les opérateurs de plateforme seront tenus de lui transmettre mensuellement [AC52 de la rapporteure].

Sanction du non-respect de l’obligation de moyen mis à la charge des plateformes et prise en compte de la gravité du manquement, ainsi que de son caractère persistant, après une première mise en demeure [AC56 de la rapporteure].

Article additionnel après l’article 4

Obligation pour les opérateurs de plateforme en ligne qui permettent l’inscription de mineurs de moins de quinze ans de leur délivrer, ainsi qu’à leurs parents, une sensibilisation à l'utilisation civique et responsable de leurs services, ainsi qu'une information sur les risques juridiques encourus en cas de diffusion de contenus haineux [AC53 de la rapporteure].

Article additionnel après l’article 6

Intégration de la lutte contre les propos haineux dans les programmes scolaires [AC54 de la rapporteure].

Renforcement de la formation des enseignants en matière de lutte contre les contenus haineux en ligne [AC55 de la rapporteure].

À la suite de l’échec de la commission mixte paritaire, l’Assemblée nationale est saisie, en nouvelle lecture, de la proposition de loi, dans la version adoptée par le Sénat en première lecture.

Les articles 10, 6 bis et 8 ayant été adoptés dans des termes identiques ou supprimés en première lecture à l’Assemblée nationale et au Sénat, ils ne peuvent plus faire l’objet de modifications.

Article 1^er : Obligation de retrait des contenus manifestement haineux en ligne

Rétablissement de l’obligation de retrait sous 24 heures et adaptation du dispositif initialement adopté par l’Assemblée nationale en première lecture afin de tenir compte de certains apports du Sénat (notamment : ajout du négationnisme dans le champ des contenus illicites visés) et des observations formulées par la Commission européenne [CL49 de la rapporteure].

Article 1^er ter B (nouveau) : Rôle des associations de protection de l’enfance en matière de notification des contenus haineux en ligne

Possibilité reconnue à l’ensemble des associations de protection de l’enfance de notifier des contenus haineux en ligne à la suite d’une saisine par un mineur (suppression de la limitation de cette possibilité, introduite par le Sénat, aux seules associations « reconnues d’utilité publique ») [identiques CL52 de la rapporteure et CL43 de Mme Abadie et des membres du groupe LaREM].

Obligation, pour l’association ayant opéré la notification, d’en informer les représentants légaux du mineur « selon des modalités adaptées à l’intérêt » de celui-ci [CL53 de la rapporteure].

Article 2 : Obligations de moyens en matière de traitement des notifications de contenus

Rétablissement dans le champ de la régulation administrative des moteurs de recherche soumis à l’obligation de retrait en 24 heures des contenus manifestement haineux. Suppression de la disposition, introduite par le Sénat, permettant au Conseil supérieur de l’audiovisuel (CSA) d’attraire devant lui tout site internet acquérant en France un rôle significatif pour l’accès du public aux contenus [CL54 de la rapporteure].

Article 3 : Obligations de moyens en matière d’information, de transparence et de coopération avec les autorités publiques compétentes

Suppression de l’obligation, introduite par le Sénat, consistant pour les opérateurs à mettre en place les moyens nécessaires à la suppression des comptes de ceux de leurs utilisateurs publiant des contenus haineux et qui feraient en conséquence l’objet d’un nombre important de notifications [identiques CL59 de la rapporteure, 34 de Mme Obono (LFI), 37 de M. Latombe (MoDem) et 34 de Mme Abadie et des membres du groupe LaREM].

Article 3 bis : Triplement du montant de la peine d’amende encourue en cas de non-coopération avec les autorités publiques

Suppression de l’extension aux éditeurs de services en ligne de l’amende prévue par l’article, initialement introduite par le Sénat [CL60 de la rapporteure].

Article 4 : Rôle du Conseil supérieur de l’audiovisuel dans la lutte contre la haine sur internet

Possibilité, pour le CSA, de prendre en compte « l’application disproportionnée des procédures et moyens » par un opérateur conduisant à un retrait excessif de contenus pour apprécier un éventuel manquement de la part de celui-ci [CL75 de la rapporteure].

Suppression du rôle confié par le Sénat au CSA en matière de promotion de l’interopérabilité auprès des opérateurs [CL66 de la rapporteure].

Article 6 bis C (supprimé) : Compétence du juge unique pour le délit de refus de retrait d’un contenu manifestement haineux en ligne

Rétablissement de l’article dans sa rédaction initiale [CL72 de la rapporteure].

Article 7 : Création d’un Observatoire de la haine en ligne

Rétablissement du champ d’intervention initial de l’Observatoire [CL45 de Mme Abadie et des membres du groupe LaREM].