— 1 —

La séance est ouverte à 17 heures

Présidence de Mme Perrine Goulet, Présidente de la Délégation

La Délégation aux droits des enfants auditionne Mme Clara Chappaz, ministre déléguée auprès du ministre de l'Économie, des Finances et de la Souveraineté industrielle et numérique, chargée de l'intelligence artificielle et du numérique.

Mme la présidente Perrine Goulet. Si le numérique peut être un vecteur formidable de diffusion des connaissances et d’ouverture au monde, il peut aussi s’avérer dangereux pour les mineurs : atteinte à la vie privée, cyberharcèlement, exposition à la pornographie dès le plus jeune âge.

Les chiffres concernant l’utilisation d’internet et des réseaux sociaux par notre jeunesse doivent nous alerter. Selon une enquête menée par l’association Génération Numérique en janvier 2024, 59 % des enfants de 11 à 14 ans étaient inscrits sur un ou plusieurs réseaux sociaux – alors même que cela est interdit –, et 29 % avaient communiqué avec un inconnu sur internet. En outre, 33 % des jeunes de 11 à 18 ans ont déjà été exposés à des contenus pornographiques. L’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) a chiffré à 2,3 millions le nombre de mineurs qui fréquentent des sites pornographiques chaque année. Enfin, 90 % de la prostitution et des pratiques préprostitutionnelles en France passent par internet, facilitant la prostitution des mineurs.

La protection des mineurs vis-à-vis du numérique reste donc un défi. Notre délégation a mené une mission d’information sur l’éducation et le numérique en 2023. Nous avons transmis nos propositions en matière de protection de l’enfance sur les sujets numériques. Il nous a paru important, dans ce cadre, de vous entendre exposer votre feuille de route en la matière.

Je souhaite auparavant vous poser quelques questions. Pour accompagner les enfants, nous avons besoin d’accompagner les parents. Pouvez-vous nous dresser un bilan du site https://jeprotegemonenfant.gouv.fr ? Dans quelle mesure est-il connu par les parents ?

Le contrôle parental sur les appareils connectés vendus en France, inscrit dans la loi visant à renforcer le contrôle parental sur les moyens d’accès à internet, dite loi Studer, est-il opérationnel ? Comment fait-on pour accompagner les parents sur le sujet ?

Comment forme-t-on les enfants à la bonne utilisation du numérique et les informe-t-on des risques engendrés ? Quels outils de signalement leur donne-t-on et comment communique-t-on pour les faire connaître ? Le 3018, numéro unique pour les jeunes victimes de harcèlement et de violence numérique, existe bel et bien mais comment s’assure-t-on qu’ils le connaissent ?

L’intelligence artificielle (IA) fait partie de votre portefeuille. Or les contenus d’intelligence artificielle, qu’ils soient drôles ou qu’ils le soient beaucoup moins, comme les images de pornographie et de pédopornographie, se multiplient. Comment accompagne-t-on les enfants et les jeunes pour les aider à discriminer les contenus et à vérifier les informations qu’ils reçoivent ?

Il faut faire respecter les lois que nous votons. Nous avons ainsi adopté l’obligation de vérification d’âge sur les sites pornographiques. Où en est l’application de cette disposition ? Des sites ont-ils déjà été sanctionnés ? Si oui, comment ?

Enfin, le numérique n’ayant pas de frontière, il faut envisager une législation européenne. Depuis l’arrêté du 26 février 2025, les plateformes de partage de vidéos à caractère pornographique établies dans les pays membres de l’Union européenne ont trois mois pour appliquer la vérification d’âge des utilisateurs. Malgré le caractère très récent de ce texte, avez-vous déjà constaté une évolution auprès de vos homologues ? Comment les différents acteurs se saisissent-ils du sujet ?

Mme Clara Chappaz, ministre déléguée auprès du ministre de l’économie, des finances et de la souveraineté industrielle et numérique, chargée de l’intelligence artificielle et du numérique. La protection de l’enfance en ligne est un sujet qui constitue une urgence éducative, sociétale et démocratique. À l’heure de l’intelligence artificielle, qui transforme nos sociétés à un rythme sans précédent, et en raison du temps que les enfants passent sur les écrans – près de cinq heures par jour –, il est de notre devoir de veiller à ce que les plus jeunes, qui sont aussi les plus vulnérables, puissent grandir dans un environnement sûr, équilibré, porteur d’émancipation.

Nous ne partons pas d’une feuille blanche. De nombreuses étapes ont déjà été franchies en matière de protection de l’enfance en ligne. Je tiens à saluer à ce titre tous les travaux que votre délégation a pu faire sur ce sujet fondamental, ainsi que les travaux de vos collègues au Sénat, de différents chercheurs, des représentants de la société civile et d’associations que j’ai eu l’occasion de rencontrer et qui mènent ce combat avec détermination depuis de nombreuses années.

Dans la droite ligne de ce qui a été fait jusqu’à présent, j’entends poursuivre le combat. Le sujet de l’enfance est une priorité pour mon ministère et je le défends avec conviction et détermination. La route peut sembler encore longue sur certains sujets, comme la pornographie en ligne, mais nous avons aussi remporté des victoires et impulsé des changements profonds, qu’il nous faut poursuivre. Protéger nos enfants sur internet est une mission collective à laquelle le gouvernement prend toute sa part. Je m’y engage devant vous.

Dans les univers virtuels, certaines actions peuvent engendrer des conséquences bien réelles. Certains ont peut-être vu la série Adolescence, qui montre de manière très juste comment les enfants sont exposés dans le monde virtuel à des dérives pouvant mener à des catastrophes bien réelles. La ligne du gouvernement en la matière a toujours été claire : ce qui est interdit dans le monde physique l’est également en ligne.

Pour protéger les mineurs en ligne et faire en sorte que le numérique demeure un espace d’ouverture et un vecteur d’émancipation, il nous faut être lucides sur les conséquences déjà visibles, et parfois dévastatrices, des écrans sur nos enfants. Les travaux de votre délégation, des parlementaires et des associations, ainsi que le rapport « enfants et écrans » (rapport de la commission d’experts sur l’impact de l’exposition des jeunes aux écrans), remis en avril 2024 au président de la République, sont des contributions majeures sur ces phénomènes.

Sans pouvoir être complètement exhaustive, je tenterai de vous présenter les priorités que j’ai faites miennes au vu de ces différents travaux et que je veux promouvoir dans mon ministère.

Tout d’abord, je suis très attachée à l’encadrement de l’usage des écrans. Ces derniers représentent à la fois un outil au fort potentiel, mais aussi des dangers qu’il faut aborder avec lucidité pour y apporter les réponses adéquates. L’usage des écrans n’est ni bon ni mauvais en soi. Il est important de ne pas diaboliser l’écran en tant que tel. Comme toute technologie, c’est l’usage qu’on en fait qui peut revêtir un caractère problématique.

Les écrans sont en effet un outil formidable quand ils contribuent à l’apprentissage, à la stimulation de la curiosité, à l’ouverture de fenêtres sur le monde. Je pense notamment aux ressources pédagogiques. L’IA a fait ses preuves en la matière : les solutions d’entraînement personnalisé à la lecture, les simulateurs de sciences et les applications éducatives adaptées aux enfants en situation de handicap sont autant de sources de progrès pour les enfants. Lorsqu’il est bien encadré, le numérique est une aide indéniable à l’apprentissage et à la réflexion des enfants.

Néanmoins, l’utilisation excessive ou précoce affecte gravement la santé physique et mentale de nos enfants. Les données du rapport « enfants et écrans » que j’évoquais précédemment sont sans appel : entre 8 et 12 ans, les enfants passent près de cinq heures par jour devant des écrans. Chez les adolescents, le chiffre s’élève à sept heures par jour. Les résultats sont les suivants : troubles du sommeil, sédentarité, problèmes de concentration, troubles de l’humeur. En France, quatre enfants de 15 ans sur dix dorment moins de sept heures trente par nuit, soit bien moins que les recommandations médicales. Je sais que vous connaissez ces chiffres, qui ne vous laissent pas indifférents, et que vous vous mobilisez depuis des années pour les améliorer. Soyez assurés que le gouvernement s’inscrit pleinement dans cette démarche.

Une fois les constats posés, il nous faut des réponses fermes pour accompagner les enfants et les familles. Il me semble nécessaire de protéger les plus jeunes – les moins de 6 ans – de l’exposition aux écrans, notamment dans les lieux d’accueil. Les acteurs que j’ai rencontrés à ce sujet sont unanimes : il faut donner aux familles un cadre clair auquel elles pourront se référer, les aider dans l’éducation numérique et les informer des risques de la façon la plus pédagogique et la plus concrète possible.

Le deuxième sujet qui me mobilise tout particulièrement est celui de notre capacité à limiter l’exposition des enfants aux contenus toxiques. Protéger nos enfants des effets néfastes du numérique consiste non seulement à s’attaquer au problème du temps qu’ils passent devant les écrans mais aussi au contenu qu’ils y trouvent, particulièrement lorsqu’ils sont très peu accompagnés, dans leur chambre ou dans différents moments de leur intimité. Les contenus numériques ont une indéniable valeur éducative mais ils peuvent aussi, malheureusement, exposer les enfants à des réalités qui les déstabilisent, les dépassent et les blessent.

L’un des premiers dangers que nous avons identifiés est l’exposition à la pornographie. C’est un fléau inadmissible. L’étude de l’Arcom que vous citiez précédemment montre que plus d’un visiteur sur dix des sites pornographiques est un mineur et que dès 12 ans, plus d’un garçon sur deux accède à ce type de contenu tous les mois. Il est à noter que la moitié d’entre eux ne cherchait pas à accéder à ce contenu au départ.

Censé être réservé aux majeurs, le contenu pornographique est ainsi devenu un problème majeur de santé publique pour nos enfants. Nous devons y apporter des réponses fermes. La loi visant à sécuriser et à réguler l’espace numérique, dite loi Sren, prend ainsi en compte les effets délétères que peut produire une exposition précoce à ce type de contenu : sexualité altérée et violences plus fréquentes, comme cela a été prouvé à maintes reprises. Avec votre concours, nous avons décidé d’appliquer dès cette année les mécanismes de vérification de l’âge sur les sites pornographiques prévus par la loi. Contrairement à ce que prétendent certains acteurs, les solutions existent et les sites pornographiques doivent s’en emparer. Nous avons réuni ces derniers dans mon ministère à la veille du 11 janvier, date à laquelle l’Arcom a obtenu le pouvoir de mettre en demeure les sites qui ne se conformeront pas aux exigences et au référentiel de la loi Sren sur la vérification d’âge. Certains l’ont déjà fait mais la route est encore longue.

Les obligations de la loi Sren s’appliquent aujourd’hui aux sites établis en France et en dehors de l’Union européenne. Grâce au travail que nous menons avec l’Arcom, les sites basés dans les autres pays européens sont en sursis car certains, comme PornHub ou XVidéos, devront très bientôt respecter ces obligations. Nous avons en effet engagé une procédure d’assujettissement, conformément à ce que prévoit la directive « e-commerce » (directive relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur). Dans quelques mois, tous les sites seront concernés. Les premiers blocages sont attendus pour l’été. J’y veillerai personnellement.

Ce qui est incontestable dans le monde physique – on ne laisserait pas un enfant entrer dans une boutique qui vend du contenu pornographique – doit l’être aussi en ligne. Le travail est long et difficile mais nous sommes en passe d’y arriver. Certains disent qu’il sera impossible de mener le projet à son terme. Bien sûr, ce sera toujours imparfait : l’enfant pourra toujours installer un VPN (réseau privé virtuel) pour accéder à ce type de contenu. Toutefois, dans la mesure où un enfant sur deux accède à du contenu pornographique en ligne sans le rechercher en première intention, nous les protégeons déjà en rendant ce type de contenu beaucoup moins facile d’accès.

Nous progressons aussi sur le sujet en lançant une impulsion au niveau européen. Je me réjouis de voir que les discussions sur les lignes directrices européennes concernant la protection des mineurs en ligne tiennent compte du référentiel relatif à la vérification d’âge sur les sites pornographiques.

Le deuxième danger concerne la désinformation et les bulles algorithmiques. Les enfants n’ont pas toujours les outils pour distinguer une information vraie d’un contenu modifié, voire édifié à des fins de manipulation. Or la construction des mécanismes algorithmiques est telle qu’un individu peut, s’il n’est pas averti, s’autoenfermer dans une bulle de contenus alternatifs – voire faux – et anxiogènes, qui ont des effets très graves sur leur santé.

Les chiffres sur le sujet sont édifiants. En effet, 41 % des enfants font confiance aux influenceurs, quel que soit le propos qu’ils partagent. Les influenceurs sont d’ailleurs devenus une source d’information sur l’actualité pour les enfants. Les chiffres de l’entreprise Soft Kids montrent que près d’un enfant sur cinq pense que les pyramides ont été construites par des extraterrestres, et que 16 % des enfants pensent que la terre est plate, contre 3 % chez les seniors. Cela semble aberrant mais c’est bien le monde dans lequel nous vivons.

Notre réponse en la matière se doit d’être à la hauteur des enjeux. Elle consiste d’abord à renforcer l’éducation aux médias. Le Centre de liaison de l’enseignement et des médias d’information (Clemi) accomplit un travail formidable pour éduquer les enfants à la problématique de la manipulation de l’information, en recourant aux méthodes les plus à même de leur parler.

Notre réponse doit aussi consister à réguler les mécanismes de l’économie de l’attention et des fameuses bulles algorithmiques. À ce titre, je milite activement pour que les futures lignes directrices européennes qui préciseront l’application de l’article 28 du Digital Services Act (DSA) soient les plus contraignantes possibles en matière de manipulation de l’information, afin de responsabiliser davantage les plateformes.

Il faut progresser très concrètement sur la mise en place de mécanismes de protection des enfants sur les réseaux sociaux car la loi Sren et les mesures de protection du contenu pornographique ne s’appliquent pas à eux. La question de l’accès des jeunes de moins de 15 ans aux réseaux sociaux doit être étudiée de près et faire l’objet d’une réponse très ferme. Celle-ci se doit d’être européenne puisque la régulation des plateformes l’est. Nous défendrons vigoureusement la position de la France car il y va de la santé et du développement des jeunes.

Nous soutenons également au niveau européen une disposition visant à désactiver par défaut les contenus de design addictif pour les mineurs afin de garantir aux enfants un espace numérique plus sain, où ils obtiendront des réponses adaptées à leur âge.

La protection des mineurs en ligne est une obligation pour les plateformes, que les Européens ont votée de manière transpartisane. Nous nous attachons désormais à déployer les moyens nécessaires pour la mettre en œuvre. Nous avons beaucoup progressé sur le plan technique : les solutions de vérification de l’âge existent et il faut continuer à mener le combat pour que ces solutions assurent une protection des enfants, à travers toutes les façons qu’ils ont d’accéder à l’espace numérique. Les réseaux sociaux sont un élément de premier plan à cet égard. Nous avons donné la compétence de la régulation des réseaux sociaux à la Commission européenne avec le DSA, ce qui permet une réponse harmonisée. Vous pouvez compter sur toute ma détermination pour en faire l’une des priorités, notamment dans le cadre des négociations en cours sur les lignes directrices, qui verront le jour d’ici la mi-juin ou le début du mois de juillet.

Enfin, l’actualité nous rappelle trop fréquemment combien le comportement des utilisateurs est un enjeu déterminant. L’espace numérique n’est pas qu’une question d’écran et de contenu : c’est aussi un espace d’interaction entre les personnes. Or cela peut parfois avoir des effets dramatiques, en particulier lorsqu’un enfant fait l’objet de harcèlement en ligne. Le phénomène n’est pas nouveau mais le numérique l’amplifie dans des proportions inédites, avec la continuité dans le temps – cela ne s’arrête jamais –, la multiplicité des espaces pouvant donner lieu à des faits de harcèlement et la multiplicité des personnes qui peuvent s’y livrer. Le cyberharcèlement touche plus d’une personne sur cinq, entraînant des drames familiaux, des souffrances invisibles et parfois même des suicides. C’est insupportable.

Pour cette raison, la plateforme d’aide aux victimes de violences numériques – le 3018, géré par l’association e-Enfance – a été renforcée. L’action qu’elle mène depuis vingt ans dans la lutte contre le cyberharcèlement est fondamentale. Il est toutefois nécessaire d’intervenir aussi en amont, en responsabilisant les jeunes et les familles, en formant les encadrants et en renforçant les contrôles. La loi Sren a défini des sanctions que nous devons faire appliquer pour lutter contre le cyberharcèlement.

Le numérique permet également aux plateformes, aux associations et aux signaleurs de confiance de mieux identifier les phénomènes de cyberharcèlement. Il est essentiel d’utiliser l’IA comme un outil pour lutter contre ce fléau et pour définir les réponses à apporter.

Un autre danger, plus insidieux encore, est celui de la pédocriminalité en ligne. Chaque jour, l’Ofmin (Office mineurs) enregistre 700 signalements en la matière. Ce combat est donc fondamental. Il s’agit de sensibiliser les parents, sans les culpabiliser pour autant car certains peuvent être en très grande difficulté face aux outils numériques. Toutefois, une photographie sur deux qui circulent sur les réseaux pédocriminels a été publiée à l’origine par un parent sur un réseau social. Ne plus exposer l’image des enfants en ligne : voilà une mesure simple, gratuite et que nous devons mettre en place, mais qui souffre encore trop du manque d’information sur les dangers des mésusages numériques. Je souligne à cette occasion l’action de l’association l’Enfant Bleu : elle a publié un livre formidable permettant de prendre conscience de ce phénomène. Ce livre est à mettre dans les mains de toutes les familles.

Nous allons renforcer les actions d’information à destination des familles en étendant le statut de signaleur de confiance à d’autres associations qu’e-Enfance et en mettant en place la réserve citoyenne du numérique afin que tous les signalements soient prioritaires sur les plateformes, grâce au DSA qui nous donne ce pouvoir.

Enfin, en matière de cybersécurité, nous avons lancé une campagne nationale d’information sur l’hygiène numérique à l’occasion de l’examen du projet de loi relatif à la résilience des infrastructures critiques et au renforcement de la cybersécurité, qui arrivera bientôt à l’Assemblée. Je sais pouvoir compter sur votre soutien pour vous faire le relais de ces bonnes pratiques. Mon objectif, avec ce texte, est de développer la culture de la sécurité dans le cyberespace. Les bons réflexes s’apprennent dès l’enfance.

Sur l’ensemble de ces sujets, le gouvernement est résolu à poursuivre avec force les actions engagées, d’abord à l’échelon européen, qui reste le plus efficace pour les plateformes. Nous avons entamé un travail de conviction auprès de la Commission européenne pour que les futures lignes directrices du DSA soient rédigées de manière ambitieuse. Nous défendons une application de l’article 28 qui impose aux plateformes de prendre des mesures concrètes pour protéger les mineurs. La France a une vraie crédibilité en la matière et certains principes de la loi « influenceurs » ont été repris au niveau européen.

Au niveau français, nous travaillons avec la ministre de l’éducation nationale, Mme Elisabeth Borne, la ministre de la santé, Mme Catherine Vautrin, et avec l’appui de la haut-commissaire à l’enfance, Mme Sarah El Haïry, à mettre en œuvre au plus vite les préconisations du rapport « enfants et écrans ». Nous nous appuyons également sur les travaux de votre délégation, des parlementaires, des associations et de la société civile.

Nous pourrions par ailleurs entamer une réflexion collective sur l’impact de l’IA sur les enfants – par exemple sous la forme d’assises de l’IA pour les enfants – afin de mieux évaluer l’impact des technologies émergentes sur les plus jeunes. Différents chercheurs réalisent un travail formidable sur le sujet, comme ceux d’Everyone.AI, qui ont remis des préconisations lors du Sommet pour l’action sur l’intelligence artificielle. Associer les chercheurs, les parents, les enseignants, les designers et les parlementaires constitue une première étape pour prendre pleinement la mesure de l’intelligence artificielle.

Protéger les enfants dans l’univers numérique est une mission fondamentale de mon action. En tant que ministre du numérique, je ne peux pas être plus convaincue du caractère de progrès et d’émancipation de ces technologies, en particulier l’intelligence artificielle. Toutefois, il faut reconnaître que ses mésusages et ses dérives ont un impact très important sur la vie des jeunes. Agir pour protéger nos enfants en ligne est une priorité. Plus que jamais, le travail que nous mènerons collectivement nous permettra de franchir des étapes essentielles dans la protection de la santé mentale et du développement des jeunes. Les intérêts des enfants doivent toujours être considérés avec bien plus d’attention que les intérêts commerciaux de certaines plateformes.

Mme la présidente Perrine Goulet. Nous en venons aux interventions des orateurs des groupes.

Mme Angélique Ranc (RN). J’aimerais aborder un sujet que nous n’avons pas encore eu l’occasion d’évoquer, à savoir celui de l’encadrement du travail des enfants dans le numérique. Selon une étude de l’Unicef, environ un enfant sur dix dans le monde travaille. Avec l’essor du numérique, un nombre croissant d’enfants deviennent influenceurs sur des plateformes comme YouTube, Instagram et TikTok.

En France, entre 150 000 et 300 000 enfants sont concernés par cette activité. La loi du 19 octobre 2020 a posé un premier cadre imposant notamment une déclaration obligatoire sur les revenus générés et garantissant aux enfants influenceurs un droit à l’oubli numérique. Toutefois, de nombreux spécialistes estiment que la régulation reste insuffisante, notamment à propos des horaires de travail, de la gestion des revenus et de la pression psychologique parfois exercée sur les jeunes créateurs de contenu.

Le gouvernement envisage-t-il de nouvelles mesures afin de mieux encadrer l’activité des enfants influenceurs et d’éviter les dérives telles que l’exploitation économique et la pression psychologique ? Comment s’assurer que les plateformes respectent les réglementations française et européenne en matière de protection des enfants ?

Mme Nicole Dubré-Chirat (EPR). À l’école comme à la maison, les enfants grandissent de plus en plus souvent avec des écrans : téléphones portables, téléviseurs, ordinateurs, tablettes… Leur quotidien est marqué par une présence numérique de plus en plus importante. En 2023, 96 % des enfants possédaient au moins un équipement numérique. D’après une étude de Santé publique France, un enfant passe en moyenne trois heures par jour, voire plus, devant un écran. Les problèmes qui découlent de cette numérisation croissante de la vie des enfants sont réels : troubles de l’attention, altération du sommeil, mais aussi cyberharcèlement – un mineur sur quatre en est victime. Plus grave encore, l’attention de notre délégation a récemment été appelée sur le fléau de la prostitution des mineurs.

Pour mieux protéger les enfants, de nombreuses mesures ont été adoptées. Le plan d’action pour un usage raisonné des écrans par les jeunes et les enfants, le site https://jeprotegemonenfant.gouv.fr et l’expérimentation du projet « P@rents, parlons numérique » sont autant d’outils d’information, de prévention et d’éducation à la parentalité numérique. Parents et enfants peuvent aussi obtenir des réponses à leurs questions en matière de pratique numérique au 3018, lancé en 2021. Sur le plan législatif, nous avons également agi en instaurant une majorité numérique à 15 ans et en renforçant les moyens pour éviter les atteintes à l’image et à la vie privée des mineurs.

Toutefois, nous avons parfois l’impression que nous agissons moins vite que l’évolution des pratiques numériques. Il est donc nécessaire de veiller à l’adéquation des mesures prises avec la réalité. Alors qu’Emmanuel Macron avait annoncé l’an dernier son souhait d’interdire le téléphone avant 11 ans et l’usage des réseaux sociaux avant 15 ans, avez-vous pu dresser un premier bilan de la « pause numérique » lancée lors de la dernière rentrée scolaire dans près de 200 collèges ?

Par ailleurs, la régulation des réseaux sociaux et l’exposition des mineurs à des contenus inadaptés constituent une problématique constante. Pensez-vous que l’intelligence artificielle puisse être un levier à développer ? Les députés Ensemble pour la République seront vigilants quant au suivi donné à vos propositions, qui pourront inspirer des travaux législatifs à venir.

Mme Julie Ozenne (EcoS). Les cas de mineurs victimes de deepfakes se multiplient. Des images et des vidéos comportant de vrais visages d’enfants souvent trouvés sur les réseaux sociaux et associés à des corps dénudés, créées par une intelligence artificielle pour produire un contenu à caractère pornographique, sont massivement diffusées sur internet. Il est difficile de retrouver les auteurs de ces contenus et quasiment impossible d’arrêter leur diffusion. Or les victimes sont continuellement agressées par une multitude d’internautes qui visionnent, téléchargent et partagent ces deepfakes. La création de contenu pédocriminel par l’IA générative rend impossible le contrôle de leurs images par les victimes et rend très difficile la lutte contre le cyberharcèlement.

De plus, cette création infinie de contenus augmente les comportements addictifs des consommateurs, avec des images de plus en plus extrêmes, explicites et violentes. Elle augmente en outre les risques de passage à l’acte, 52 % des consommateurs estimant que leur usage de contenus pédocriminels pourrait aboutir à une agression sur un enfant. Dans son rapport « L’IA générative, nouvelle arme de la pédocriminalité », la Fondation pour l’Enfance dénonce un vide juridique contribuant à intensifier cette pratique en raison de l’absence de législation traitant avec précision de la création, de la possession et du partage de modèles d’IA générative conçus pour produire des contenus pédocriminels. Avez-vous prévu d’engager un chantier pour lutter contre le recours à l’IA générant de tels contenus ?

Par ailleurs, chaque mois 2,3 millions de mineurs se rendent sur des sites pornographiques. La moitié d’entre eux a moins de 15 ans. Les sites pornographiques ont pourtant l’obligation d’interdire l’accès des mineurs à leurs contenus depuis 2020. En outre, depuis le 11 janvier, les sites pornographiques sont obligés de vérifier l’âge de leurs utilisateurs par le biais d’un système de contrôle anonyme mis en place par l’Arcom. Où en sont les plateformes dans la mise en œuvre de ce contrôle ?

Mme Béatrice Piron (HOR). La dépendance des enfants aux écrans et aux téléphones portables inquiète de nombreux parents et éducateurs. L’exposition précoce aux réseaux sociaux et à internet peut en effet impacter le bien-être psychologique des plus jeunes et il devient essentiel de proposer des solutions adaptées à leurs âges. Bien souvent, les parents se trouvent dans l’incapacité de contrôler les téléphones de leurs enfants. Dans cette optique, plusieurs start-up françaises se sont lancées dans le développement de nouveaux smartphones destinés aux enfants de 8 à 14 ans et qui n’intègrent pas d’accès aux réseaux sociaux ou à internet. Les premières réactions des familles sont très positives, tandis que des experts alertent sur l’urgence d’encadrer l’usage du numérique chez les enfants. Envisagez-vous de soutenir ces initiatives de pseudo-smartphones ou de cartes SIM sans accès internet pour les enfants ?

Mme Clara Chappaz, ministre déléguée. L’accompagnement à la parentalité, constitue bien une priorité. Le site https://jeprotegemonenfant.gouv.fr enregistre environ 20 000 visites par mois et a été consulté 1 400 000 fois depuis sa création. Ce site apporte de nombreuses réponses mais tout ce qui peut être mis en place pour accompagner davantage les parents dans la compréhension des enjeux numériques doit être accompli. Selon la plateforme du 3018, 40 % des appels proviennent des parents. Cela montre à quel point il faut renforcer la visibilité du site dans tous les lieux où nous pouvons échanger avec les parents. Je pense à la politique des 1 000 premiers jours mais également à l’école et aux lieux d’accueil. Ce site est en effet une vraie référence, qui rassemble toutes les informations sur le numérique que les parents doivent avoir à leur disposition.

Nous étudions par ailleurs la possibilité d’aller plus loin dans l’application des dispositions de la loi Studer relatives au contrôle parental. Actuellement, celui-ci doit être installé mais ne doit pas être activé par défaut. Nous souhaitons inverser la logique, avec un contrôle parental par défaut. Ce serait alors à l’adulte de le retirer. Plus généralement, nous explorons toutes les pistes allant dans le sens d’un accompagnement plus poussé des parents à la bonne compréhension des risques numériques.

En ce qui concerne la visibilité des outils de signalement, le baromètre du numérique publié en mars par le Credoc (Centre de recherche pour l'étude et l'observation des conditions de vie) pour le compte de l’Arcom et de l’Arcep (Autorité de régulation de la communication audiovisuelle et numérique) indique un chiffre qui m’a paru assez positif : près de huit jeunes sur dix connaissent et utilisent les outils de signalement, soit beaucoup plus que chez leurs aînés. La politique instaurée depuis quelques années consistant à réaffirmer ce qui est autorisé et ce qui ne l’est pas, à rendre les plateformes plus responsables et à mettre à disposition des outils de signalement semble ainsi porter ses fruits. Il faut néanmoins, pour améliorer la résolution des problèmes, continuer à alerter les plateformes sur les délais de réponse dans le traitement des signalements et augmenter le nombre de signaleurs de confiance, qui disposent d’une voie rapide pour transmettre des contenus aux plateformes.

Un autre chiffre intéressant concerne la prise de conscience des jeunes sur ces sujets. Les jeunes adultes sont ainsi les plus nombreux à consulter les conditions générales d’utilisation des plateformes. Quant aux enfants, une majorité d’entre eux pensent que les réseaux sociaux ont un impact négatif sur leur santé mentale et affirment qu’ils seraient prêts à les quitter si leur environnement social en faisait de même. Pour cette raison, l’âge d’accès aux réseaux est l’une des priorités que nous défendons au niveau européen.

S’agissant des deepfakes, le potentiel de l’intelligence artificielle dans la création de contenus pédopornographiques est considérable. Pour les Européens, cette technologie n’est ni bonne ni mauvaise mais ses usages doivent être régulés. Il n’est pas autorisé d’utiliser l’intelligence artificielle en Europe pour créer des deepfakes. La fermeté maximale s’impose. Le code pénal sanctionne déjà la détention d’images pédopornographiques de cinq ans de prison et de 75 000 euros d’amende ; à partir du 2 août 2025, les règles pour les modèles d’IA à usage général entreront en application et les autorités compétentes en la matière seront désignées.

La responsabilité des plateformes dans la diffusion de contenus de nature pornographique, qu’ils soient créés par de l’IA ou non, est par ailleurs entière. Dans le cadre du DSA, elles ont ainsi l’obligation de surveiller ce type de comportement et de retirer les contenus illicites à la demande des signaleurs de confiance et des autorités administratives. Nous veillons à renforcer cette obligation dans le cadre des lignes directrices européennes.

Concernant le travail des enfants dans le numérique, en particulier des enfants influenceurs, je salue les avancées françaises en la matière depuis l’adoption de la loi du 19 octobre 2020. Plusieurs réponses ont été apportées sur ces sujets, même s’il faut toujours réfléchir aux nouvelles dispositions à prendre afin d’évoluer au rythme de la technologie et des usages. Les plateformes comme TikTok, YouTube et Instagram ont l’obligation de ne pas monétiser les vidéos aux moins de 18 ans et d’interdire les vidéos sponsorisées qui utilisent des enfants. Certaines de ces plateformes ont d’ailleurs adopté des solutions d’intelligence artificielle pour détecter les fausses déclarations d’âge sur les comptes et s’assurer que les obligations en la matière sont respectées.

En outre, comme pour toute activité publicitaire, l’autorisation préalable est absolument nécessaire quand il s’agit d’enfants. La gestion des revenus et des comptes bloqués avant 18 ans est aussi un élément crucial, de même que la question du droit à l’oubli, encadré par la loi du 19 octobre 2020 pour ce qui concerne le travail des enfants influenceurs. Nous faisons tout notre possible pour responsabiliser davantage les plateformes sur ces sujets et c’est avec une très grande d’attention que nous suivons les dérives.

Enfin, concernant le rapport des enfants aux smartphones, deux questions se posent : celle des lieux d’utilisation, d’une part, et celle du développement des alternatives, de l’autre.

La fameuse « pause numérique » expérimentée dans plus d’une centaine d’établissements scolaires donne de premiers résultats qui sont en train d’être consolidés. Sans grande surprise, les plus contents ne sont pas les jeunes mais les professeurs. Les mesures sur l’attention et la qualité du travail scolaire montrent des effets positifs. Il reviendra à la ministre d’État Elisabeth Borne de partager les résultats officiels de l’expérimentation et de présenter le plan que nous souhaiterons ensuite déployer. Personnellement, je pense que nous devons soutenir ce type de dispositifs, comme le font certains pays du Nord.

Le rapport « enfants et écrans » proposait plusieurs pistes concernant la possession des outils numériques par les enfants. Nous sommes en train d’étudier les questions de constitutionnalité, ayant notamment trait à la libre communication des enfants, que pose une éventuelle interdiction de la vente de ces produits.

La question des alternatives doit aussi être étudiée. Des entreprises françaises développent des outils qui peuvent apporter une réponse. Valoriser ces alternatives dans l’accompagnement à la parentalité numérique est souhaitable. Nous nous efforcerons d’y contribuer.

Mme la présidente Perrine Goulet. Nous en venons aux questions des autres députés.

M. Philippe Fait (EPR). Lors du déplacement de la délégation aux droits des enfants à l’Ofmin, en 2024, nous avons été alertés sur le sujet du métavers, pour lequel peu de solutions existent. La violence y est acceptée, voire banalisée. Il ressort ainsi des témoignages que nous avons reçus que le fait d’être violé peut permettre de progresser dans le jeu. Il en va de même dans des centaines de jeux vidéo, notamment GTA, l’un des jeux les plus vendus au monde. Il s’agit là d’un véritable appel à l’aide. Sur quelles pistes d’amélioration travaillez-vous pour éradiquer le fléau de la banalisation de la violence dans le numérique ?

Mme Christine Le Nabour (EPR). Pour lutter contre la désinformation, le Clemi met différents outils à disposition des enseignants. Il existe néanmoins encore beaucoup d’inégalités territoriales. Envisagez-vous de recourir davantage à ce centre de ressources ?

Une commission d’enquête récente a démontré le besoin de protéger les enfants de l’aide sociale à l’enfance (ASE), peut-être plus encore que les autres car ils n’ont pas toujours une famille avec eux. Prévoyez-vous des dispositions particulières concernant la formation des éducateurs ?

M. Stéphane Vojetta (EPR). Un an après la publication du rapport « enfants et écrans », nous restons sur notre faim, dans l’attente d’une mise en œuvre des mesures qui avaient été suggérées. La dissolution et l’instabilité gouvernementale n’ont certes pas aidé mais il ne tient qu’à nous de progresser sur ces sujets.

Nous avons agi collectivement sur la pornographie mais il existe d’autres phénomènes, tels que les plateformes de pornographie à la demande comme OnlyFans ou MYM, sur lesquelles il faut légiférer. Il faut également agir sur l’exposition aux écrans des enfants les plus jeunes – en particulier ceux de moins de 6 ans –, notamment dans les lieux d’accueil. Enfin, réfléchissons au fait d’interdire, même si ce n’est que symbolique, la vente de certains dispositifs à des acheteurs en dessous d’un certain âge. Cela pourrait contribuer à une prise de conscience sur le sujet.

Avec Arthur Delaporte, nous continuons nos travaux. Nous avons lancé plusieurs tables rondes en début d’année sur la vérification d’âge et la modération en ligne. Nous allons déposer prochainement une proposition de loi sur l’influence et la publicité en ligne, afin de protéger les enfants contre certains contenus problématiques et de les sensibiliser, ainsi que leurs parents, aux risques associés à certains dispositifs. J’espère que vous saisirez ce véhicule législatif pour y apporter vos améliorations. Nous serons disposés à travailler avec vous.

Mme la présidente Perrine Goulet. S’agissant de l’Ofmin, j’ajoute que les difficultés d’identification des images créées par l’intelligence artificielle compliquent la détection de la vraie pédocriminalité. Une obligation d’identification, avec un signal indiquant qu’une image a été créée par de l’IA, présenterait un intérêt tant pour les forces de l’ordre que pour les jeunes. Cela éviterait de perdre du temps et permettrait de sensibiliser les enfants.

Mme Clara Chappaz, ministre déléguée. À propos des jeux vidéo et du métavers, des travaux ont été menés dès 2023 par la direction générale des entreprises à Bercy pour analyser les phénomènes que vous avez décrits, qui sont absolument dramatiques pour les enfants, et pour y apporter des réponses. Il ne faut en effet pas sous-estimer l’impact de ce type de comportement. En juin 2024, nous avons remis au niveau européen un rapport visant à faire évoluer le RGPD (règlement général sur la protection des données). L’objectif est de pouvoir poursuivre les délinquants dans les environnements virtuels comme le métavers. Ce travail est en cours dans le cadre du plan Digital Europe et fait partie des lignes directrices européennes que nous promouvons.

La communication et l’information au travers du 3018 et d’autres dispositifs de signalements sont également importantes. Les jeux vidéo peuvent être un vecteur de communication avec les enfants sur ces sujets. La campagne de l’Enfant Bleu pendant la crise du covid, très primée, intégrait dans des jeux vidéo des relais, avec des personnages d’appui et d’écoute. Utiliser des jeux vidéo pour sensibiliser les enfants sur les comportements numériques problématiques me semble nécessaire. Je salue à cet égard le travail accompli par les associations.

Nous devons continuer à travailler avec le Clemi sur la désinformation en développant des moyens de communiquer adaptés aux enfants. La Famille Tout-Écran a permis de sensibiliser les familles avec un médium plus porteur qu’une publicité traditionnelle du gouvernement. La Semaine de la presse et des médias dans l’école propose également de nombreuses actions sur le sujet. La question de la formation des éducateurs ne relève pas directement de mon ministère mais c’est un sujet que nous suivons en interministériel et sur lequel nous devons continuer à progresser avec l’appui du Clemi.

Les plateformes de génération de contenus comme MYM et OnlyFans doivent respecter l’obligation de vérification d’âge prévue par la loi Sren, comme tous les autres sites, si elles hébergent des contenus à caractère pornographique. Le 10 janvier, dans mon ministère, plusieurs de ces plateformes ont participé à une réunion portant sur la mise en conformité avec leurs obligations en matière de vérification d’âge. Leur responsabilité est entière ; dans leurs conditions d’utilisation, elles rappellent d’ailleurs que ces comportements sont interdits. Les entités compétentes suivent le sujet de près pour s’assurer qu’elles respectent leurs obligations concernant non seulement la vérification d’âge mais aussi la lutte contre le système prostitutionnel, encadrée par la loi du 13 avril 2016.

L’Ofmin manque de moyens pour vérifier si un contenu est véridique ou s’il a été produit par de l’intelligence artificielle. Beaucoup d’entreprises travaillent sur des technologies permettant de rendre visible la modification d’un contenu – je pense notamment à Adobe. Mettre de tels outils à disposition de toutes les administrations qui en ont besoin est une priorité interministérielle.

Enfin, j’évoquais le règlement européen sur l’intelligence artificielle. Dans le cadre de la régulation des usages liés à ces technologies, nous nous appuierons sur le pôle d’expertise de la régulation numérique (Peren). Ce service à compétence nationale, sous tutelle interministérielle mais hébergé à Bercy, possède des compétences techniques très pointues et développe des outils que nous pourrons mettre à disposition des régulateurs, ainsi qu’à l’Ofmin si cela peut lui être utile.

Mme la présidente Perrine Goulet. Je vous remercie beaucoup pour votre présentation et pour les réponses apportées à nos questions. Le sujet ne sera pas épuisé dans les années à venir et il faudra être tous en rangs serrés, derrière vous et avec vous, pour parvenir à mieux endiguer ces contenus qui font du mal à nos enfants. La législation devra aussi évoluer pour créer de nouvelles infractions en lien avec le numérique. Nous sommes à votre disposition pour actionner tous les outils législatifs qui permettront de lutter contre le fléau de la mauvaise utilisation d’internet.

Ils sont accessibles sur le portail vidéo du site de l’Assemblée nationale à l’adresse suivante :

https://assnat.fr/Q1rRMm

La séance est levée à 18 heures 15

———

Membres présents ou excusés

Présents. - Mme Nicole Dubré-Chirat, M. Philippe Fait, Mme Perrine Goulet, Mme Christine Le Nabour, Mme Julie Ozenne, Mme Béatrice Piron, Mme Angélique Ranc, Mme Béatrice Roullaud, M. Stéphane Vojetta.

Excusés. - M. Denis Masséglia, Mme Laure Miller.