Intelligence artificielle et protection des données personnelles
Mercredi 14 février 2024, M. Philippe Pradal (HOR, Alpes-Maritimes) et M. Stéphane Rambaud (RN, Var), co-rapporteurs, ont présenté devant la commission des lois les conclusions de la mission d’information sur les défis de l'intelligence artificielle générative en matière de protection des données personnelles et d'utilisation du contenu généré.
Si elle est une évidence dans certains domaines depuis de nombreuses années, l’intelligence artificielle générative (IAG) a spectaculairement fait son entrée auprès du grand public par l’intermédiaire des robots conversationnels ou des trucages sur les réseaux sociaux. Conçus pour créer des contenus (textes, images, sons, codes informatiques…) à partir de l’exploitation d’immenses quantité de données et de modèles statistiques complexes, les systèmes d’IAG peuvent faire l’objet de très nombreux usages, vertueux comme néfastes.
Alors que l’Europe se dotera prochainement d’un nouveau cadre juridique en la matière, la commission des lois a décidé de mener une mission d’information pour étudier les évolutions nécessaires pour concilier progrès technologique et protection des données.
Au terme de leurs travaux, nourris par plus de cinquante auditions de tous les acteurs concernés dont de nombreux experts, les rapporteurs mesurent les opportunités immenses qu’offre l’IAG, notamment pour l’action de l’État. Pour en tirer le meilleur, ils estiment urgent de s’assurer que les modalités d’entrainement et de fonctionnement de ces systèmes respectent les données à caractère personnel des utilisateurs et n’introduisent pas de biais pouvant, à terme, menacer notre souveraineté et notre cohésion. Leur utilisation doit également être sécurisée afin d’éviter tout détournement (arnaques, manipulation de l’information, etc.).
Les rapporteurs formulent à ce titre une trentaine de recommandations qui visent à réguler l’élaboration et l’utilisation des IAG par l’État, les entreprises et les particuliers tout en veillant à ne pas pénaliser l’innovation car la France compte parmi les pays les plus avancés dans ce secteur.
Ils recommandent notamment :
- d’adapter le niveau de régulation au caractère systémique des IAG pour contrôler les systèmes d’origine extra-européenne et favoriser l’émergence de nouveaux acteurs (recommandation n° 4) ;
- de favoriser le partage d’expérience en matière de régulation au niveau de l’Union européenne (recommandation n° 2) et favoriser le recours au droit souple pour ne pas pénaliser l’innovation (recommandation n° 6) ;
- d’identifier et coordonner les usages potentiels de l’IAG par les pouvoirs publics (recommandations n° 12, 15 et 18), en recourant à l’expérimentation (recommandation n° 21), et associer et former les agents ainsi que les usagers au développement de l’IAG (recommandation n° 13) ;
- de prévoir des mécanismes de contrôle a priori et a posteriori garantissant la protection des données de la population dans l’Union européenne et évitant les biais risquant de porter atteinte aux principes européens (recommandation n° 5) ;
- de transformer la CNIL en une Haute Autorité en charge de la protection des données et du contrôle de l’IA (recommandation n° 9) et renforcer son rôle d’accompagnement auprès des acteurs économiques pour encourager l’innovation (recommandation n° 11) ;
- d’améliorer la lutte contre les usages détournés de l’IAG par l’étiquetage des contenus (recommandation n° 19) et par l’information obligatoire des usagers lorsqu’ils entrent en interaction avec une IAG, notamment dans le cadre des campagnes électorales (recommandation n° 20) ;
- d’adapter la définition de certaines infractions comme le trucage, la contrefaçon ou le plagiat aux possibilités offertes par les IAG (recommandations n° 23 à 27) ;
- de prévoir un régime de responsabilité spécifique aux concepteurs, aux fournisseurs et aux utilisateurs des IAG (recommandations n° 29 et 30) et permettre les actions de groupe dans ce domaine (recommandation n° 21).
Voir la présentation du rapport devant la commission des lois