Accueil > Commission de réflexion sur le droit et les libertés à l’âge du numérique > Les comptes rendus

Afficher en plus grand
Afficher en plus petit
Voir le compte rendu au format PDF

Commission de réflexion et de propositions sur le droit et les libertés à l’âge du numérique

Mercredi 15 avril 2015

Séance de 18 heures 30

Compte rendu n° 13

Présidence de Mme Christiane Féral-Schuhl, coprésidente Et de M. Christian Paul, coprésident

– Audition de Mme Christine Lazerges, présidente de la Commission nationale consultative des droits de l’homme (CNCDH), M. Pascal Beauvais, rapporteur, et M. Hervé Henrion, conseiller juridique à la CNCDH, sur la liberté d’expression et la lutte contre les contenus illicites sur Internet

COMMISSION DE RÉFLEXION ET DE PROPOSITIONS
SUR LE DROIT ET LES LIBERTÉS À L’ÂGE DU NUMÉRIQUE

Mercredi 15 avril 2015

La séance est ouverte à dix-huit heures quarante

(Présidence de Mme Christiane Féral-Schuhl, co-présidente
et de M. Christian Paul, co-président)

——fpfp——

Audition de Mme Christine Lazerges, présidente de la Commission nationale consultative des droits de l’homme (CNCDH), M. Pascal Beauvais, rapporteur, et M. Hervé Henrion, conseiller juridique à la CNCDH, sur la liberté d’expression et la lutte contre les contenus illicites sur Internet

M. le président Christian Paul. Je remercie de leur présence nos invités, que je prie à l’avance de bien vouloir excuser mon probable départ précipité. Le projet de loi relatif au renseignement est débattu en séance publique et, le moment venu, j’irai défendre un amendement tendant à supprimer les alinéas de l’article 2 qui introduisent dans le code de la sécurité intérieure un nouvel article autorisant l’usage de sondes algorithmiques, une disposition à propos de laquelle notre commission a exprimé de sérieuses réserves. Et puisque la CNCDH va rendre de manière imminente un avis sur ce texte, c’est le sujet que je vous propose, madame Lazerges, de traiter pour commencer.

Mme Christine Lazerges, présidente de la Commission nationale consultative des droits de l’homme (CNCDH). Je vous remercie de votre invitation, et aussi d’avoir installé cette commission de réflexion qui travaille sur un sujet majeur pour la CNCDH, vieille institution de la République inventée par René Cassin en 1947 et définie par M. Robert Badinter comme « une compagnie de vigilants ». La CNCDH compte une trentaine de personnalités qualifiées et une trentaine de représentants des organisations non gouvernementales et des syndicats. Aussi, quand ce petit parlement à la composition pluraliste adopte un avis à l’unanimité, il signale la réalité des contradictions ou des obstacles que nous avons entrevus au regard du respect des droits de l’homme.

Il en est évidemment ainsi pour l’avis que nous rendrons demain sur le projet de loi relatif au renseignement. Nous disons en introduction que la procédure accélérée qui, dans l’absolu, ne devrait être utilisée que très rarement, est rigoureusement inadéquate pour des textes d’une aussi grande technicité. Lorsque j’étais députée, M. Lionel Jospin étant Premier ministre, cette procédure n’a jamais été utilisée au cours de la législature ; on peut donc gouverner sans en passer par là.

Pour ce qui concerne précisément le projet de loi sur le renseignement, l’extrême accélération confine à la précipitation puisque le texte, adopté par le conseil des ministres le 19 mars dernier, sera examiné en séance publique le 13 avril. Nous avons été auditionnés par la commission des lois huit jours après l’adoption du projet par le conseil des ministres, et nous ne disposions que d’une étude d’impact partielle ; partielle, elle l’est d’ailleurs très largement restée.

Le rapporteur de l’avis que nous rendrons demain est M. Henri Leclerc, mais M. Hervé Henrion, magistrat et conseiller juridique, en est le rédacteur et je lui laisserai la parole après vous avoir dit nos inquiétudes les plus fortes. C’est qu’avec la captation de masse d’informations, « on passe de la pêche à la ligne à la pêche au chalut » comme l’a observé M. Jean-Marie Delarue. Or nous n’avons pas les moyens de protéger la vie privée de ceux que l’on va écouter, non plus que d’analyser la masse des informations recueillies – sans que l’on sache très bien où elles seront conservées et dans quelles conditions – pour une durée beaucoup plus longue que ne le sont les interceptions actuellement confiées aux soins de la Commission nationale de contrôle des interceptions de sécurité (CNCIS).

Nous éprouvons donc une très vive inquiétude sur l’effectivité du contrôle qu’opérera la Commission nationale de contrôle des techniques de renseignement (CNCTR), autorité administrative indépendante (AAI) qui se substituera à la CNCIS. Comme le Conseil d’État, nous critiquons très fortement la composition de la CNCTR, dont on voit bien ce qu’elle a d’artificiel si l’on veut que la nouvelle instance fonctionne bien. Il est prévu d’y faire siéger neuf membres : deux députés, deux sénateurs, deux membres du Conseil d’État, deux magistrats de la Cour de cassation et une personnalité qualifiée. Nul ne disconviendra que s’il faut réunir ce collège sous 24 ou 48 heures, les quatre parlementaires seront peu disponibles, singulièrement dans un pays où le non-cumul des mandats n’est pas encore entré dans les faits pour tous. Et sauf s’ils sont détachés auprès de la CNCTR, ce que le projet de loi ne dit pas, il en ira de même pour les deux magistrats du Conseil d’État invités à se présenter à des réunions en urgence. Cette belle composition apparente ne permettra donc pas à la CNCTR de travailler sérieusement, d’autant qu’y siégera un seul scientifique véritablement compétent en ces matières techniques. Quand il est question d’algorithmes, une commission de ce type doit être constituée de gens qui œuvrent à plein temps à la protection des libertés et qui ont une compétence réelle sur ce qu’ils doivent contrôler.

De plus, la CNCTR sera saisie a priori mais ses avis sont consultatifs. Ils seront transmis pour décision au Premier ministre, ainsi investi de compétences qui, outre qu’elles sont presque inhumaines, ne sont pas bordées. Le projet prévoit en effet que si le Premier ministre ne donne pas suite aux recommandations de la Commission ou lorsque les suites sont insuffisantes, la CNCTR disposera seulement de la faculté de saisir le Conseil d’État, qui rendra en formation spéciale une décision non motivée au terme d’une procédure non contradictoire. Outre cela, le texte prévoit qu’en cas d’« urgence », notion très vague, l’autorisation de recourir à une technique de renseignement sera donnée par le chef de service ou la personne spécialement déléguée par lui, sans que l’avis de la CNCTR ait été préalablement recueilli.

Tout cela fait que la CNCDH, comme quantité d’autres institutions - le défenseur des droits, la Commission nationale de l’informatique et des libertés (CNIL) et le Conseil d’État – estime que ce texte devrait être infiniment plus réfléchi. Le Président de la République s’est engagé à ce qu’il n’y ait pas de Patriot Act à la française ; personne n’emploie cette expression pour qualifier ce projet de loi, mais l’on peut se demander si ce n’est pas d’une sorte de Patriot Act qu’il s’agit.

M. Hervé Henrion, magistrat, conseiller juridique à la CNCDH. Nous partageons vos inquiétudes relatives au dispositif algorithmique. Le problème principal tient à la manière dont on définira les critères et le contrôle de ces critères. La dernière version du projet de loi prévoit que la CNCTR rendra son avis à ce sujet – mais en sera-t-elle capable, alors qu’elle comptera une seule personnalité qualifiée ? Les membres de la CNCTR devraient pouvoir suivre une formation spécifique leur permettant de vérifier la pertinence des critères de l’algorithme.

Le texte a évolué pour ce qui concerne la collecte des données de connexions. Dans sa version initiale, on ne savait pas si elles seraient collectées ou si elles ne l’étaient pas. La commission des lois nous a indiqué qu’elles ne le seraient pas, mais l’étude d’impact indique incidemment qu’elles le seront. Toutefois, le projet de loi a heureusement évolué sur ce point : il est maintenant précisé que l’on ne peut recueillir de données autres que celles qui répondent aux critères de l’algorithme. Il faudra veiller à ce que le texte n’évolue pas dans le mauvais sens en légalisant en creux la collecte de toutes autres données.

Pour ce qui concerne l’identification des personnes, les données sur lesquelles travaille l’algorithme sont dites anonymes ; en réalité, comme le signale également la CNIL, elles sont directement ou indirectement identifiantes, puisque l’anonymat peut être levé. Telles sont les principales réserves que nous exprimons à propos du dispositif algorithmique.

M. le président Christian Paul. Le but du dispositif est de comparer des profils de comportement identifiés par les services de renseignement et des données collectées. Pour ce faire, il faut disposer des données de connexion d’un individu dans la durée, et donc les collecter. Je ne vois pas comment il pourrait en aller autrement.

M. Hervé Henrion. La commission des lois nous a dit ne pouvoir garantir que les données ne seraient pas collectées ; mais il est évident qu’elles doivent l’être pour alimenter l’algorithme.

M. le président Christian Paul. À ce stade de la procédure, les données sont anonymes – mais « désanonymisables »… d’après ce que nous avons compris. Manifestement, sur des sujets aussi complexes, les auditions n’ont pas permis, jusqu’ici, d’y voir clair.

M. Hervé Henrion. Les données sont collectées mais, depuis sa présentation au conseil des ministres, le projet de loi a évolué sur ce point : dans sa dernière version, il est précisé que le dispositif de détection devra être mis en œuvre « sans procéder au recueil d’autres données que celles qui répondent aux critères de conception des traitements automatisés ». On repère des données qui, isolément, n’ont aucune signification mais qui, lorsqu’elles sont mises en relation les unes avec les autres, prennent une signification. Ce système est pratiqué aux États-Unis, et l’expérience montre que, techniquement, il ne fonctionne pas toujours. Le risque de pareil dispositif est que l’on recueille les données relatives à des personnes qui n’ont à être soupçonnées de rien et que ces renseignements soient conservés ; or, plus longtemps ils le seront, plus grand sera le risque de divulgation et de déperdition de ces données. C’est un grave problème.

Mme Christine Lazerges. La durée de conservation des données collectées est, en soi, extrêmement importante.

M. Daniel Le Métayer. Au-delà de la pertinence des critères de l’algorithme, le texte introduit un changement de paradigme, puisque l’on collectera des informations parcellaires que l’on accumulera pour les corréler ; où seront-elles stockées et pour quelle durée ? Il y aura forcément une « pêche au chalut ». Le problème de fond est donc de savoir si l’on autorise ou si l’on n’autorise pas la collecte massive de données relatives à des personnes qui n’ont a priori nulle raison d’être soupçonnées.

M. Hervé Henrion. Nous nous opposons évidemment à ce que l’on passe de la pêche à la ligne à la pêche au chalut. Il va sans dire que ces méthodes permettent une surveillance généralisée et indifférenciée des personnes et diluent la notion de soupçon. J’ai simplement appelé votre attention sur le fait que le dispositif algorithmique tel qu’il est déjà pratiqué à l’étranger ne fonctionne pas et que, bien souvent, on recueille massivement les données concernant des personnes qui n’ont strictement rien à voir avec la surveillance engagée.

M. Daniel Le Métayer. C’est le mode de fonctionnement intrinsèque de ce type de procédé.

Mme Valérie-Laure Benabou. Pour être efficace, l’algorithme, qui se nourrit de la collecte, doit être affiné en permanence ; c’est dire l’importance de la compétence technique des contrôleurs. Mais si l’on justifie la collecte par la nécessité de renforcer l’efficacité de l’algorithme, le serpent se mord la queue.

M. Pascal Beauvais, CNCDH. La CNCDH s’inquiète aussi fortement du champ extrêmement large des domaines dans lesquels les services de renseignement pourront être autorisés à recourir à cette collecte de données, sur un fondement particulièrement flou, qu’il s’agisse des « intérêts essentiels de la politique étrangère » ou des « intérêts économiques, industriels et scientifiques essentiels de la France ». Et c’est sans parler de « la prévention des violences collectives de nature à porter gravement atteinte à la paix publique » ; qu’entend-on par là ? Cela vaudra-t-il pour les mouvements sociaux ou les activités syndicales ? Surveillera-t-on à ce titre les militants syndicaux un peu radicaux ? Ces indications changent la nature d’un texte présenté comme destiné à lutter contre le terrorisme mais qui a une portée infiniment plus large et dont le champ est beaucoup trop vague et trop large pour présenter des garanties.

M. Jean Dionis du Séjour. À mon sens, la surveillance de masse suscite des critiques de deux ordres. L’une tient à l’efficacité supposée du dispositif : a-t-on les moyens de trier le produit de la pêche au chalut ? L’autre est le risque de dérive totalitaire des pratiques proposées : comment éviter que les informations recueillies par ce biais ne soient utilisées à une autre fin que la lutte contre le terrorisme ? En leur temps, la Stasi et la Securitate ne procédaient pas autrement. Un algorithme n’est qu’une pensée codifiée ; le risque n’est pas là mais dans le danger d’une surveillance de masse et du stockage de données permettant, comme on le faisait en République démocratique allemande en d’autres temps, d’autres usages que ceux qui sont annoncés.

M. le président Christian Paul. Je vous remercie pour ces précisions. Nous lirons avec intérêt l’avis de la CNCDH à ce sujet.

Mme la présidente Christiane Féral-Schuhl. Nous avons souhaité vous entendre nous dire comment l’on peut concilier liberté d’expression et lutte contre les contenus illicites sur l’Internet.

L’emblématique loi du 29 juillet 1881 sur la liberté de la presse, qui a fait ses preuves, est progressivement écartée. Ainsi, la réforme du 13 novembre 2014 a rendu possible des condamnations en comparution immédiate pour apologie du terrorisme et provocation au terrorisme ; à cette occasion, on est sorti du régime dérogatoire institué par la loi de 1881 pour passer à un autre régime dérogatoire, non plus protecteur des libertés mais inscrit dans le code pénal, c’est-à-dire répressif. Le même mécanisme est envisagé pour la lutte contre le racisme, l’antisémitisme et la xénophobie. Le contrôle de l’autorité judiciaire est donc contourné, alors que le juge judiciaire est, constitutionnellement, le garant des libertés individuelles. Nous nous inquiétons de ce que, peu à peu, le juge soit écarté, les arguments invoqués pour justifier cette évolution étant l’urgence et le souci d’efficacité.

Outre que l’AAI dont vous proposez la création dans l’avis sur la lutte contre les discours de haine sur internet viendrait en concurrence avec le juge, la loi pour la confiance dans l’économie numérique (LCEN) rend possibles des interventions auprès des fournisseurs d’accès afin qu’ils bloquent les sites publiant de tels discours ; comme tout cela s’articulerait-il ? Sur le fond, considérez-vous que la loi de 1881 est vouée à s’éteindre progressivement ?

Mme Christine Lazerges. Nous avons eu deux occasions de réfléchir à ces questions, et pour commencer au moment d’élaborer l’avis sur le projet de loi renforçant la lutte contre le terrorisme qui a donné lieu à la loi adoptée le 13 novembre 2014. Nous avons alors été amenés à nous prononcer sur le basculement dans le code pénal des infractions de provocation publique aux actes de terrorisme suivie ou non suivie d’effet et d’apologie de tels actes. Je vous en dirai deux mots avant que M. Pascal Beauvais, qui en a été le rapporteur, ne vous présente l’avis de la CNCDH relatif à la lutte contre les discours de haine sur internet.

Considérant que les chausse-trapes de la loi de 1881 n’ont pas à protéger les auteurs d’une infraction aussi lourde et qu’il est cohérent de leur appliquer la procédure des infractions liées au terrorisme, nous étions assez d’accord pour que ce qui concernait la provocation au terrorisme suivie d’effet bascule dans le code pénal. En revanche, nous étions opposés, et nous le sommes toujours, au transfert dans le code pénal de la provocation au terrorisme non suivie d’effet et de l’apologie du terrorisme. L’actualité du mois de janvier nous a donné raison : on a vu ces centaines de majeurs et de mineurs condamnés en comparution immédiate parce qu’ils avaient prononcé des mots certainement condamnables, mais pas tous forcément pénalement condamnables. Les poursuites et le comportement des magistrats, sous le coup de l’émotion suscitée par les attentats, immédiatement après l’adoption de la loi renforçant la lutte contre le terrorisme, nous ont convaincus que nous ne nous trompions pas : pour des paroles, il faut rester dans le cadre de la loi de juillet 1881. Nous sommes très favorables à des alternatives aux poursuites, à des réponses peut-être pénales mais porteuses d’un message éducatif, plutôt qu’à des sanctions « bêtes et méchantes » à l’encontre de personnes qui, souvent, n’ont pas conscience de la portée des paroles qu’elles ont proférées.

Mme la présidente Christiane Féral-Schuhl. Considérez-vous que les sanctions prononcées auraient été les mêmes dans le cadre de la loi de 1881 ? Selon vous, ont-elles été alourdies par le changement de texte ou par le contexte ?

Mme Christine Lazerges. Largement par le changement de texte, puisque la loi de 1881 n’autorise ni la comparution immédiate ni la comparution sur reconnaissance préalable de culpabilité. Le fait que l’on ait voulu sanctionner très vite a évidemment joué sur la sanction. Si ces infractions étaient restées incriminées par la loi de 1881, la procédure aurait été plus longue. Nous avons eu un débat à ce sujet car la Ligue contre le racisme et l’antisémitisme, membre très actif de la CNCDH, considère depuis longtemps que la loi de 1881 ne permet pas de sanctionner assez vite ce type d’infraction ; elle seule s’est opposée au dispositif que nous proposons. L’avis a donc été adopté à l’unanimité moins une voix.

Cela étant, nous pensons que la loi de juillet 1881 doit être toilettée car elle contient de nombreuses chausse-trapes. Qu’à Paris, seule la 17ème chambre du tribunal de grande instance traite de ces affaires et que seuls quelques avocats hyper compétents en aient à connaître montre qu’une évolution s’impose. M. Pascal Beauvais vous en dira davantage.

M. Pascal Beauvais, rapporteur de l’avis de la CNCDH sur la lutte contre les discours de haine sur internet. Pour comprendre la teneur et la signification de nos propositions, il convient d’abord d’exposer les constats faits par la CNCDH. Nous avons installé un groupe de travail composé d’associations – MRAP, Licra, SOS Racisme, Ligue des droits de l’homme, Reporters sans frontières – et d’experts appartenant à la Commission, et nous avons procédé à une quarantaine d’auditions au spectre large, de La Quadrature du net au collectif contre l’islamophobie en passant par vous, madame la présidente Féral-Schuhl. En dépit de la diversité des intervenants et de la composition de la CNCDH, quelques points font consensus, le premier étant que la révolution numérique est une formidable transformation sociétale, porteuse d’un accroissement considérable des libertés, de l’autonomie des personnes, de l’information et de la liberté d’expression. C’est aussi la possibilité d’une refondation démocratique sur une base beaucoup plus informée, délibérative et participative.

La CNCDH se félicite de cette révolution ; surtout, elle n’entend pas porter atteinte au développement de ces nouvelles libertés pour lutter contre les discours de haine sur internet. En outre, la CNCDH, à l’instar de la Cour européenne des droits de l’homme, considère que la liberté d’expression s’applique également aux propos « qui heurtent, choquent ou inquiètent ».

Dans le même temps, le constat est également partagé de la prolifération des discours racistes, antisémites, islamophobes, xénophobes et homophobes qui avaient très peu de place dans les médias traditionnels et dont la visibilité est nécessairement accrue par l’effet démultiplicateur d’un réseau où l’expression publique est généralisée et offerte à tous.

Or, face à la montée de l’expression publique raciste dans le monde virtuel, les autorités publiques paraissent absentes. Cette prolifération pose donc aussi la question de l’efficacité des politiques et des moyens mis en œuvre et, plus généralement, celle de l’effectivité des dispositifs existants. Par exemple, la plate-forme Pharos, chargée de recevoir les constatations de bon nombre d’infractions en ligne, ne comptait, il y a peu de temps encore, qu’une vingtaine d’agents pour toute la France. Le nombre de procédures et de condamnations pour des propos racistes sur internet est chaque année ridiculement bas par rapport au nombre de propos de ce type relevé. La CNCDH, qui est l’organe étatique chargé de dresser un rapport annuel sur la lutte contre le racisme, l’antisémitisme et la xénophobie, inquiète de ce phénomène et de cette absence de moyens, se devait de proposer au débat public des pistes de réflexion. Elles sont contenues dans l’avis.

La difficulté est de définir comment parvenir à mieux lutter contre les discours de haine sur Internet sans que cela ne se traduise par la réduction de la liberté d’expression. En premier lieu, il convient de conserver la loi de 1881. Ce grand texte libéral historique, socle de notre démocratie et qui a fait ses preuves, doit rester notre référence, notre texte fondamental en la matière. Les infractions qu’il contient, incriminant les abus de la liberté d’expression, doivent rester les mêmes ; il ne faut ni les élargir, ni en créer de nouvelles, ni aggraver les peines encourues. La loi de 1881 ne doit pas être détricotée : il ne faut pas en extraire certaines infractions pour les noyer dans le droit commun du code pénal. Elle doit conserver le monopole des infractions incriminant les abus de l’expression.

Doit rester gravé dans le marbre de la loi le fait que les infractions incriminant les abus de l’expression et de l’opinion ne sont pas des infractions comme les autres. Potentiellement liberticides et anti-démocratiques, elles ne peuvent être qu’une exception très encadrée au principe général de liberté d’expression. Elles doivent donc être contenues dans une loi spéciale qui protège la liberté d’expression et qui offre des garanties et une protection elles aussi spéciales à celui qui s’exprime. Cette protection n’existe pas dans le code pénal. Dans la loi de 1881, celui qui s’exprime est protégé par une procédure d’offre de preuve et par la prise en compte du sérieux de son propos et de sa bonne foi. Il ne peut être l’objet de la procédure pénale expéditive entre les mains du parquet et de la police que permettent par exemple la comparution immédiate ou la comparution sur reconnaissance préalable de culpabilité. Il est protégé des procédures abusives et éventuellement instrumentalisées par des délais de prescription réduits.

Dans l’esprit du juge qui applique cette loi ce balancement doit demeurer : le principe est la liberté d’expression, l’exception, très strictement encadrée, étant l’abus de cette liberté. Le juge doit conserver la main tremblante de celui qui pose une limite à une liberté constitutionnelle en précisant dans sa jurisprudence les limites de la liberté d’expression. Le code pénal, orienté vers la répression des atteintes à l’ordre public, ne contient pas cette affirmation solennelle de la liberté d’expression. Il banaliserait ces infractions en les noyant dans les autres. La preuve en a été apportée, au lendemain des attentats de janvier 2015, par une salve de condamnations en comparution immédiate pour apologie du terrorisme totalement disproportionnées.

La CNCDH craint que le mouvement de sortie de la loi du 29 juillet 1881 de certaines infractions vide ce grand texte de sa substance en lui faisant perdre sa cohérence, au risque de le marginaliser et de le voir disparaître à terme.

En revanche, la Commission est favorable au toilettage procédural d’une loi réservée, en pratique, à un contentieux « de luxe », un contentieux journalistique extrêmement complexe que seuls maîtrisent des avocats réputés et très spécialisés. Cela ne tient pas tant aux garanties qu’elle apporte à la liberté d’expression qu’au fait que ce texte ancien est illisible et que son application suppose que l’on évite bien des chausse-trapes.

Cette loi, pensée pour encadrer l’activité des professionnels de la communication responsabilisés et soumis à un encadrement déontologique, n’avait pas vocation à s’appliquer à tout internaute désormais devenu un éditeur public potentiel. Le texte n’a pas été conçu pour une expression publique généralisée non filtrée en amont.

C’est pourquoi la CNCDH recommande certaines améliorations : renforcer la lisibilité des dispositions de la loi du 29 juillet 1881 en précisant et en actualisant les notions d’« espace public » et d’« espace privé » sur le réseau Internet ; envisager la numérisation de certaines procédures ; faciliter les procédures de référé par la création d’un référé numérique ; donner la possibilité de déposer plainte en ligne ; prévoir un droit de réponse effectif sur Internet au profit des associations antiracistes ; aligner le droit de la presse numérique sur le droit de la presse papier en donnant au juge le pouvoir d’ordonner la suspension du fonctionnement d’un site comme il peut suspendre la publication d’un journal pour trois mois en cas de provocation à la haine raciale.

La CNCDH recommande par ailleurs une politique pénale beaucoup plus volontariste de lutte contre les discours racistes. Dans un cadre inchangé sur le fond, les parquets doivent mener en cette matière une politique pénale offensive qui aujourd’hui n’existe pas. Elle peut se traduire par le renforcement des coopérations européennes et internationales pour assurer la traçabilité et identifier les hébergeurs de sites diffusant des contenus illicites ; par l’augmentation des moyens humains, techniques et matériels des services compétents, notamment ceux de la plateforme de signalement Pharos ; par des alternatives aux poursuites.

Si la loi de 1881 doit rester le socle absolu des atteintes à la liberté d’expression, la CNCDH considère que la lutte contre les discours racistes et de haine contre des groupes de personnes ne doit pas passer uniquement par cette loi. Le problème de la situation actuelle est que l’on ne peut agir que par le biais de la loi de 1881 ; sinon, il n’y a rien. Une alternative à ce choix binaire – répression ou impunité – est nécessaire. C’est le sens de l’avis.

La CNCDH recommande que la présence des autorités publiques dans la lutte contre le racisme sur Internet soit largement renforcée, et qu’elle se traduise par des réactions individualisées, graduées et mieux proportionnées aux différents types de discours racistes. Procédures et sanctions ne doivent pas être les mêmes selon que l’on répond à une propagande raciste récidiviste élaborée par un groupuscule violent, à des propos racistes ambigus tenus par des journalistes ou des personnes interviewées ou à l’expression raciste plus « ordinaire » d’un groupe de lycéens moquant un de leurs camarades sur Facebook. À titre d’exemple, il peut être répondu à un propos raciste tenu par un lycéen par une convocation chez le proviseur ou par un rappel à la loi par le procureur. Un contre-discours peut être utile dans un premier temps, sans qu’il faille nécessairement aller jusqu’au tribunal judiciaire prévu par la loi de 1881. L’avis est rédigé dans cet esprit : nous insistons sur la nécessité d’une plus grande intervention des pouvoirs publics, se traduisant par des réponses graduées et multiformes.

Cela passe évidemment par une action éducative nettement plus ambitieuse. Un plan national d’apprentissage à l’expression numérique doit être défini pour faire prendre conscience à tous les internautes que s’exprimer sur le Net emporte une responsabilité et que les discours de haine heurtent et blessent. L’Éducation nationale doit contribuer à la formation des jeunes à l’usage du Net et la France doit s’engager dans l’enseignement des « humanités numériques », traduction des valeurs humanistes de tolérance et de respect d’autrui dans un espace numérique où l’anonymat favorise l’expression de propos violents et racistes.

Le souci de réponse graduée aux discours de haine sur internet explique que la CNCDH recommande de doter une autorité administrative indépendante de compétences en matière de lutte contre les discours de haine sur Internet. L’AAI aurait un rôle d’observation ; elle favoriserait le dialogue entre les différents acteurs pour mettre au point des bonnes pratiques et des normes infra-législatives adaptées au monde numérique ; elle apporterait des réponses individualisées – avertissements, médiations ou mises en demeure. La CNCDH est très attachée à ce que le pouvoir de sanction et de répression reste entre les mains du juge. Cependant, la lutte contre les discours racistes passe aussi par la notification, le contre-discours, l’avertissement, le rappel à la loi, la pédagogie ; l’Autorité pourrait avoir ce rôle et, éventuellement, saisir le juge si avertissements et mises en demeure ne sont pas suivies d’effet, afin que des sanctions soient envisagées à l’encontre d’un auteur de propos raciste.

Nous recommandons aussi de réformer la LCEN. Cette grande loi a apporté beaucoup à la régulation du numérique mais elle et relativement ineffective pour ce qui est de la responsabilité des fournisseurs d’accès et des hébergeurs dans la prolifération des discours racistes sur internet. Il apparaît nécessaire de mieux distinguer, parmi les prestataires, ceux qui jouent un rôle actif sur les contenus mis en ligne, et de renforcer leur responsabilité. Il ne revient évidemment pas aux opérateurs du Net de se faire censeurs, et il ne faut certes pas aboutir à une censure privée. Mais au motif que leur siège est situé aux États-Unis, où ils bénéficient de règles sur la liberté d’expression extrêmement favorables, certains opérateurs ont longtemps considéré ne pas avoir à répondre du développement des propos racistes sur leur plateforme. Cependant, depuis quelques mois, ce discours a changé et ils se disent prêts à jouer un rôle actif. Pour que cette bonne volonté produise ses effets sans que s’instaure une censure privée, il convient d’obliger les opérateurs à coopérer avec les autorités judiciaires et administratives, d’instaurer une obligation de détection préventive des contenus susceptibles de constituer une infraction relative aux abus de la liberté d’expression, une obligation de vigilance, et une responsabilité renforcée quand ils ne réagissent pas aux signalements et aux notifications. À ce sujet, la procédure de notification, complexe et formaliste, pourrait être utilement simplifiée dans le cadre d’une réforme permettant un meilleur accès à la justice pour les victimes des discours racistes sur internet.

En conclusion, l’avis réaffirme le rôle des pouvoirs publics en matière de lutte contre le racisme sur Internet. Si les discours de haine se sont multipliés ces dernières années sur la toile, c’est en raison d’un sentiment d’impunité dû à l’absence des autorités publiques sur le web. La CNCDH réitère donc sa recommandation visant à engager une réflexion générale sur ce point. L’avènement de la société numérique n’est pas le retour à un nouvel « état de nature » sans contrat social ni souveraineté politique. Dans le monde numérique comme dans le monde réel, il n’y a de libertés et de droits fondamentaux que dans le cadre d’un État de droit, c’est-à-dire d’un État faisant respecter les droits. Les libertés ne sont réelles que si elles sont garanties effectivement, c’est-à-dire s’il existe une garantie publique et juridictionnelle.

Mme la présidente Christiane Féral-Schuhl. Je vous remercie pour cet exposé complet et riche de propositions. Vous considérez donc que les articles 23 et 24 de la loi de juillet 1881 ont été intégralement transférés dans le code pénal ; ce n’est pas ce que j’avais cru comprendre.

Mme Christine Lazerges. La provocation au terrorisme, suivie d’effet ou non suivie d’effet, a été transférée dans le code pénal. Mais les condamnations du premier chef d’accusation sont très rares.

M. Daniel Le Métayer. J’approuve sans réserve votre recommandation relative à la numérisation des procédures, qui permettrait aux citoyens un accès plus rapide à la justice, mais c’est un sujet en soi. L’obligation de détection préventive que vous recommandez pour les prestataires qui jouent « un rôle actif » sur les contenus mis en ligne m’inquiète ; je peux la comprendre pour les contenus protégés par le droit de la propriété intellectuelle, mais je conçois mal comment l’on parviendrait à un résultat effectif avec un algorithme pour les discours propageant la haine. Enfin, comment distinguera-t-on une provocation suivie d’effet d’une provocation non suivie d’effet ? N’y a-t-il pas là un risque d’incertitude juridique supplémentaire ?

Mme Valérie-Laure Benabou. La formulation assez vague du paragraphe 18 de l’avis m’a également fait tiquer. Je vois là aussi un risque manifeste de basculement vers une censure privée, et le retour de la « pêche au chalut ». Quelle est votre cible précise ? Visez-vous les moteurs de recherche, comme le laisse entendre la référence au « caractère ubiquitaire » des contenus dont la Cour européenne de justice a fait état dans l’arrêt Costeja ? Au paragraphe 15, relatif au toilettage de la loi de juillet 1881, vous recommandez de donner au juge « le pouvoir d’ordonner la suspension du fonctionnement d’un site » en cas de provocation à la haine raciale, et « d’ordonner l’arrêt d’un service de communication en ligne » pour toutes les infractions relatives aux abus de la liberté d’expression. N’est-ce pas un peu trop large ? Pour vous, un service de communication en ligne est-il autre chose qu’un site ? Pourrait-on en venir à faire fermer Facebook ? Je m’interroge enfin sur le paragraphe 35 de l’avis, aux termes duquel « l’intervention du juge doit nécessairement être subsidiaire, sa saisine devant avoir lieu après que l’éditeur ou l’hébergeur a été mis en demeure par l’autorité administrative indépendante (AAI) de retirer ou de republier le contenu litigieux » ; le juge ne serait donc saisi que sur action de cette Autorité.

Mme Christine Lazerges. La provocation non suivie d’effet se distingue de la provocation suivie d’effet en ce que dans le premier cas les mots restent des mots alors que dans le second cas l’infraction est matérialisée à la suite du discours : la menace d’attentat est suivie d’un attentat.

M. Daniel Le Métayer. Peut-on facilement établir un lien de causalité entre la commission d’un acte et des paroles proférées ?

Mme Christine Lazerges. Les paroles sont parfois suivies d’effet par celui qui les a prononcées.

Mme la présidente Christiane Féral-Schuhl. En règle générale, une fois l’acte commis, le lien est assez facile à établir avec les propos tenus antérieurement.

Mme Valérie-Laure Benabou. En son paragraphe 33, l’avis recommande de confier à l’AAI la gestion d’un espace réservé au stockage temporaire de contenus suspects dans l’attente d’une décision de justice, et de l’habiliter à ordonner le déréférencement provisoire d’un contenu suspect. L’Autorité aurait donc la capacité de suspendre ou de vitrifier, un temps donné, des contenus « suspects » sans jugement ni discussion. Quel serait le statut juridique de cette période de glaciation ?

M. Hervé Henrion. Beaucoup d’opérateurs d’Internet nous ont dit souhaiter des précisions sur la licéité de certains contenus. La disposition recommandée tend à les aider en leur permettant d’adresser à l’AAI les contenus sur lesquels ils ont des doutes. Chargée d’une veille juridique, elle pourrait leur dire assez rapidement si ses doutes sont fondés et donner aux opérateurs les informations qui leur manquent. L’Autorité ne pourrait ordonner le retrait ou le blocage d’un site mais, dans l’optique d’une gradation des sanctions, elle pourrait dans certains cas être habilitée à ordonner, le cas échéant, le déréférencement d’un contenu suspect. Le recours au juge devrait avoir lieu sous 48 heures car, parallèlement, la CNCDH souhaiterait que le juge des libertés et de la détention soit un véritable juge des libertés et qu’il intervienne vite.

Mme la présidente Christiane Féral-Schuhl. Dans ce délai de 48 heures, la saisine émanerait-elle uniquement de la personne qui se considère comme victime, ou pourrait-elle aussi résulter de l’initiative du site qui ne serait pas d’accord avec le retrait d’une publication ?

M. Hervé Henrion. Les deux parties doivent pouvoir exposer leurs arguments, au lieu qu’aujourd’hui, la personne à qui l’on reproche un contenu illicite n’a pas le moyen de faire valoir ses observations.

Mme Myriam Quemener. La sous-direction de lutte contre la cybercriminalité réfléchit à la possibilité de déposer plainte en ligne car le système de « pré-plainte » en ligne en vigueur n’est pas satisfaisant. C’est une priorité, la difficulté technique étant de s’assurer que c’est bien la victime qui dépose plainte et qu’il n’y a pas usurpation d’identité. Je pense, comme la CNCDH, que la justice doit accélérer ses modes de transmission. Une circulaire récente a marqué quelques avancées pour les services d’enquête et la transmission des conclusions des avocats mais une grande marge de progression demeure.

M. Pascal Beauvais. L’obligation de détection préventive des contenus susceptibles de constituer une infraction relative aux abus de la liberté d’expression ne peut être dissociée de l’obligation corrélative d’information rapide des autorités publiques et de coopération avec celles‐ci pour permettre d’identifier et d’atteindre les auteurs d’infractions d’expression publique de haine. Cette seconde obligation figure à la suite de la première dans le même paragraphe de l’avis et vise précisément à empêcher l’instauration d’une censure privée. Le mécanisme recommandé n’est pas un système de censure mais d’information des opérateurs.

Je rappelle que la sphère considérée est celle de l’expression publique, non celle des messageries privées. Cette disposition ne crée aucune ingérence dans la vie privée et elle n’a pas d’effet sur la liberté d’expression : l’avis ne propose pas de déléguer à l’opérateur privé le pouvoir régalien de bloquer un site ou de fermer une page. Aujourd’hui, de très nombreux opérateurs ne se sentent pas concernés par la diffusion, via leurs canaux, de discours nazis. La CNCDH juge cette déresponsabilisation problématique. La situation n’est pas la même que pour les opérateurs téléphoniques car par le téléphone transitent des conversations privées. Dans le cas qui nous occupe, l’expression est éditée et mise en ligne sur un réseau public.

M. Jean Dionis du Séjour. Soit. Mais, pratiquement, que faire sinon retirer les contenus signalés comme illicites ?

M. Pascal Beauvais. Il s’agit d’un ensemble. Cette proposition doit être combinée avec la compétence donnée à l’AAI de mise en demeure et d’avertissement, et avec la possibilité de signalement qui peut produire des effets et des obligations à la charge des opérateurs. C’est la combinaison de différents dispositifs qui, tout en respectant la liberté d’expression et la liberté d’entreprendre, permettra de mieux réagir aux discours de haine véhiculés par le biais d’Internet. Cela passe aussi par l’information de l’autorité publique, de manière que la réaction soit graduée : administrative, puis judiciaire pour les comportements les plus graves et les récidivistes. Enfin, la CNCDH ne propose pas un projet de loi abouti mais des pistes de réflexion.

Mme la présidente Christiane Féral-Schuhl. La difficulté ne tient pas à la notification rendue possible par la LCEN ; elle apparaît à l’étape suivante, lorsque l’opérateur qui reçoit la notification ne sait pas apprécier le caractère « manifestement illicite » d’un contenu. C’est parce qu’il y a un désaccord sur cette notion que l’on va voir le juge. La LCEN ne pouvait anticiper l’apparition de nouveaux tiers tantôt qualifiés d’« hébergeurs », tantôt qualifiés d’« éditeurs ». Cette situation nous conduit à penser qu’il conviendrait de rattacher la responsabilité au service plutôt qu’à la qualité de qui le propose. Il reste à régler le problème de l’extranéité du siège des opérateurs et celui de la rapidité d’intervention ; mais tout cela ne demande-t-il pas forcément l’appréciation d’un juge ? Telle est la teneur de nos débats, et je suis certaine que nos préoccupations sont les mêmes.

Pourrez-vous nous dire votre perception du droit à l’oubli et au déréférencement, une fois la diffamation établie ?

M. Pascal Beauvais. Nous avons omis d’en parler dans l’avis. C’est effectivement un droit complémentaire essentiel pour les victimes de diffamation et de propos blessants, et il doit faire partie du dispositif de lutte contre les discours de haine sur l’internet.

Mme la présidente Christiane Féral-Schuhl. Régler cette question suppose le renforcement de la collaboration avec les hébergeurs et les fournisseurs d’accès.

Mme Valérie-Laure Benabou. Pour s’assurer qu’un contenu notifié manifestement illicite est retiré – notice, take down, stay down, disent les Américains – et empêcher sa réapparition presque immédiate sur des sites miroirs, il faudrait interdire ce contenu où qu’il se trouve et non ordonner son retrait d’une localisation précise. D’autre part, quand les contenus illicites sont le fait de sites particuliers, il faudrait envisager la saisie des noms de domaine ; que penseriez-vous d’une collaboration à cette fin avec les sociétés de nommage ?

M. Pascal Beauvais. Nous ne nous sommes pas prononcés sur cette sanction. Je rappelle que la CNCDH, institution généraliste, n’est pas spécialiste de ces questions. C’est la première fois qu’elle rend un avis aussi fourni sur les droits et libertés à l’ère du numérique. Pour une instance composée de personnalités qui ne sont pas toutes nées à cette ère, c’est une sorte de révolution culturelle… Nous nous sommes appuyés sur un grand nombre d’auditions et d’expertises, mais ce premier avis n’est pas exhaustif. Nous nous pencherons ensuite sur la lutte contre la cybercriminalité en général. Sur le fond, votre suggestion me semble excellente. L’enjeu crucial étant que les autorités publiques aient une réactivité très forte pour jouer efficacement leur rôle dans un domaine très fluide, l’idée de nouvelles peines dissuasives de ce type me paraît très intéressante.

Mme Christine Lazerges. La CNCDH n’est pas imperméable aux implications du développement de l’Internet. En témoignent l’avis portant sur « Le réseau Internet et les droits de l’homme » rendu en 1996 et, en 2004, l’avis relatif à « La lutte contre le racisme et la xénophobie. Le racisme et l’antisémitisme sur internet ». Mais nos travaux fouillés à ce sujet ont véritablement commencé en 2014.

Mme la présidente Christiane Féral-Schuhl. Ces technologies obligent à repenser les questions sociales, politiques et de droit. Vos travaux montrent que les textes fondamentaux résistent bien : vous soulignez que même si elle doit être toilettée, la loi sur la presse de juillet 1881 doit demeurer. Mme Valérie-Laure Benabou ouvre une réflexion intéressante. Pour ma part, je suis « cyber-arbitre » auprès de l’Organisation mondiale de la propriété intellectuelle, où existe un mécanisme de retrait de noms de domaine rapide et efficace, chaque dossier étant traité en 14 jours. Il est très compliqué de modifier l’institution judiciaire mais l’on y parviendra quoi qu’il en soit. Il y a quelques années déjà, le Forum des droits sur internet, sous l’égide de Mme Isabelle Falque-Pierrotin, avait suggéré des e-résolutions. Enfin, des modes alternatifs de résolution des différends permettront d’apporter de nouvelles réponses.

Madame, messieurs, je vous remercie de votre très dense contribution à nos réflexions. Sachez que nous sommes, comme vous l’êtes, favorables au maintien de la loi sur la liberté de la presse de 1881.

La séance est levée à vingt heures quinze

——fpfp——