Fabrication de la liasse
Photo de madame la députée Julie Ozenne
Photo de monsieur le député Pouria Amirshahi
Photo de madame la députée Christine Arrighi
Photo de madame la députée Clémentine Autain
Photo de madame la députée Léa Balage El Mariky
Photo de madame la députée Lisa Belluco
Photo de monsieur le député Karim Ben Cheikh
Photo de monsieur le député Benoît Biteau
Photo de monsieur le député Arnaud Bonnet
Photo de monsieur le député Nicolas Bonnet
Photo de madame la députée Cyrielle Chatelain
Photo de monsieur le député Alexis Corbière
Photo de monsieur le député Hendrik Davi
Photo de monsieur le député Emmanuel Duplessy
Photo de monsieur le député Charles Fournier
Photo de madame la députée Marie-Charlotte Garin
Photo de monsieur le député Damien Girard
Photo de monsieur le député Steevy Gustave
Photo de madame la députée Catherine Hervieu
Photo de monsieur le député Jérémie Iordanoff
Photo de madame la députée Julie Laernoes
Photo de monsieur le député Tristan Lahais
Photo de monsieur le député Benjamin Lucas-Lundy
Photo de monsieur le député Sébastien Peytavie
Photo de madame la députée Marie Pochon
Photo de monsieur le député Jean-Claude Raux
Photo de madame la députée Sandra Regol
Photo de madame la députée Sandrine Rousseau
Photo de monsieur le député François Ruffin
Photo de madame la députée Eva Sas
Photo de madame la députée Sabrina Sebaihi
Photo de madame la députée Danielle Simonnet
Photo de madame la députée Sophie Taillé-Polian
Photo de monsieur le député Boris Tavernier
Photo de monsieur le député Nicolas Thierry
Photo de madame la députée Dominique Voynet

Sous réserve de son traitement par les services de l'Assemblée nationale et de sa recevabilité

Article 2 :

Dans un délai de six mois à compter de la promulgation de la présente loi, le Gouvernement remet au Parlement un rapport évaluant les risques engendrés par l’usage de l’intelligence artificielle dans les infractions de pédocriminalité en ligne, notamment en ce qui concerne la génération, la diffusion ou l’utilisation de contenus pédopornographiques.

Ce rapport doit également évaluer tous les moyens à mobiliser pour prévenir et réprimer efficacement le développement des infractions de pédocriminalité permis par l’usage de l'IA, notamment générative. 

Il doit proposer des pistes d’action concrètes : moyens techniques, juridiques et humains à mobiliser, coopération avec les plateformes numériques et renforcement des services spécialisés de police, de gendarmerie et de justice.

Exposé sommaire

Le développement rapide de l’intelligence artificielle (IA), notamment générative, permet la création de contenus pédopornographiques générés de manière automatisée. Les cas de mineurs victimes de deepfake se multiplient. Des images et vidéos comportant de vrais visages d’enfants, souvent trouvés sur les réseaux sociaux, associés à des corps dénudés créés avec une intelligence artificielle pour produire un contenu à caractère pornographique, sont massivement diffusés sur internet. 

Or, avec la diffusion continue de ces deepfake, les victimes sont continuellement agressées par une multitude d’internautes qui visionnent, téléchargent et partagent le contenu. Il est à la fois difficile de retrouver les auteurs de ces contenus et quasiment impossible de stopper leur diffusion. La création de contenus pédocriminels par l’IA générative rend impossible le contrôle de leur image pour les victimes et rend très difficile la lutte contre le cyberharcèlement. 

De plus, cette création infinie de contenus par l’IA générative augmente les comportements addictifs des personnes qui les visionnent, avec des images de plus en plus extrêmes, explicites, violentes, et augmente les risques de passage à l’acte. 

Dans son rapport “l’IA générative, une nouvelle arme de la pédocriminalité”, la Fondation pour l’Enfance dénonce le fait que cette pratique est intensifiée par un vide juridique et une absence de législation traitant avec précision de la création, de la possession ou du partage d’un modèle d’IA générative conçu pour produire des contenus pédocriminels.

C'est pourquoi nous demandons au Gouvernement de remettre au Parlement un rapport proposant une stratégie nationale pour lutter contre les risques que fait peser l'usage de l'IA, notamment générative, sur un accroissement des actes de pédocriminalité.