- Texte visé : Proposition de loi visant à lutter contre la pédocriminalité, n° 369
- Stade de lecture : 1ère lecture (1ère assemblée saisie)
- Examiné par : Commission des lois constitutionnelles, de la législation et de l'administration générale de la République
Sous réserve de son traitement par les services de l'Assemblée nationale et de sa recevabilité
Article 2 :
Dans un délai de six mois à compter de la promulgation de la présente loi, le Gouvernement remet au Parlement un rapport évaluant les risques engendrés par l’usage de l’intelligence artificielle dans les infractions de pédocriminalité en ligne, notamment en ce qui concerne la génération, la diffusion ou l’utilisation de contenus pédopornographiques.
Ce rapport doit également évaluer tous les moyens à mobiliser pour prévenir et réprimer efficacement le développement des infractions de pédocriminalité permis par l’usage de l'IA, notamment générative.
Il doit proposer des pistes d’action concrètes : moyens techniques, juridiques et humains à mobiliser, coopération avec les plateformes numériques et renforcement des services spécialisés de police, de gendarmerie et de justice.
Le développement rapide de l’intelligence artificielle (IA), notamment générative, permet la création de contenus pédopornographiques générés de manière automatisée. Les cas de mineurs victimes de deepfake se multiplient. Des images et vidéos comportant de vrais visages d’enfants, souvent trouvés sur les réseaux sociaux, associés à des corps dénudés créés avec une intelligence artificielle pour produire un contenu à caractère pornographique, sont massivement diffusés sur internet.
Or, avec la diffusion continue de ces deepfake, les victimes sont continuellement agressées par une multitude d’internautes qui visionnent, téléchargent et partagent le contenu. Il est à la fois difficile de retrouver les auteurs de ces contenus et quasiment impossible de stopper leur diffusion. La création de contenus pédocriminels par l’IA générative rend impossible le contrôle de leur image pour les victimes et rend très difficile la lutte contre le cyberharcèlement.
De plus, cette création infinie de contenus par l’IA générative augmente les comportements addictifs des personnes qui les visionnent, avec des images de plus en plus extrêmes, explicites, violentes, et augmente les risques de passage à l’acte.
Dans son rapport “l’IA générative, une nouvelle arme de la pédocriminalité”, la Fondation pour l’Enfance dénonce le fait que cette pratique est intensifiée par un vide juridique et une absence de législation traitant avec précision de la création, de la possession ou du partage d’un modèle d’IA générative conçu pour produire des contenus pédocriminels.
C'est pourquoi nous demandons au Gouvernement de remettre au Parlement un rapport proposant une stratégie nationale pour lutter contre les risques que fait peser l'usage de l'IA, notamment générative, sur un accroissement des actes de pédocriminalité.