EXPOSÉ DES MOTIFS
Mesdames, Messieurs,
Lorsqu’en 1865, Jules Verne fait publier son « De la Terre à la Lune », il imagine une aventure qui se réalisera cent quatre années plus tard. Il suggère une technologie qui n’existe pas encore.
En 1942, à son tour Isaac Asimov publie « Runaround », une fiction où les robots sont soumis à « trois lois ». Il imagine un monde où des machines connectées en réseaux sont capables d’interagir avec les humains. Dès lors, elles doivent être limitées et soumises à une éthique répondant éventuellement de leurs actes.
Les artistes et les scientifiques interpellent les citoyens.
En Europe et en France notamment, l’approche des droits humains a une portée universelle, basée sur un idéal. Ainsi la Déclaration universelle des droits de l’Homme du 10 décembre 1948 vise à lutter contre la barbarie et à proclamer cet idéal.
Le législateur doit se saisir de ces questions majeures et de leurs enjeux potentiels.
C’est pourquoi, cette loi a pour ambition de prévenir un retard irrattrapable dû à des outils créés par quelques individus mais impactant le plus grand nombre. Dès lors, lorsque la réalité rejoint la fiction, les marges de manœuvre sont diminuées. Parfois, les avancées sont tellement intégrées à notre quotidien de citoyen qu’elles ne permettent plus d’imaginer de vivre sans elles. Les Citoyens deviennent des êtres humains assistés ou augmentés sans avoir exprimé un choix éclairé.
Au même titre que les virus s’intègrent au long cours au patrimoine génétique des humains, les technologies du quotidien entrent de fait dans les réflexions. Or après l’ignorance, la plupart de nos réactions à l’analyse des avancées technologiques confinent au dédain. Cette loi vise donc à interpeller tout un chacun quant à son rôle et sa responsabilité, ses droits et ses devoirs, pour être acteur et garant de ses libertés.
En conclusion, se positionner sur les algorithmes, revient à protéger les droits de l’Homme dans leur ensemble. Il y a des choix qui sont irréversibles et aujourd’hui dans cette Assemblée, nous sommes à l’aube de l’un d’entre eux.
L’article 1er de la proposition de loi constitutionnelle a pour objet d’inscrire dans le Préambule de la Constitution une référence à cette loi afin de traduire la compréhension des enjeux. Elle vient se positionner dans la continuité de la Déclaration des droits de l’Homme et du citoyen de 1789, afin de venir compléter le concept de liberté des Françaises et les Français. Toutefois, et bien évidemment, le fait de compléter la première phrase du Préambule de la Constitution n’affecte en rien le caractère immuable et irrévocable des textes de 1789, de 1946 et de 2004.
L’article 2 de la proposition de loi constitutionnelle édicte la Charte de l’intelligence artificielle et des algorithmes.
_________
La présente charte se compose de la manière suivante :
– l’article 1er définit le système concerné par la présente charte ;
– l’article 2 énonce les principes à mettre en œuvre par le système et les concepteurs de ce dernier ;
– l’article 3 décrit la notion de nationalité nécessaire en cas de poursuite judiciaire du point de vue français. En effet la notion de territorialité étant étrangère aux systèmes, il est nécessaire de définir l’interlocuteur législatif de l’État français. Cet article délimite un territoire d’action et désigne des interlocuteurs ;
– l’article 4 détermine les éléments à prendre en compte pour auditer régulièrement les systèmes et évaluer leur évolution dans l’acquisition de l’autonomie. Cet article a pour but d’en prévenir les dérives ;
– l’article 5 définit les limites fixées aux systèmes afin que ceux‑ci protègent les êtres ou les groupes d’êtres humains. Cet article fixe des bornes afin d’en prévenir les manipulations malveillantes.
proposition de loi CONSTITUTIONNELLE
Article 1er
Le premier alinéa du Préambule de la Constitution est complété par les mots : « et la Charte de l’intelligence artificielle et des algorithmes de 2020 ».
Article 2
La Charte de l’intelligence artificielle et des algorithmes est ainsi rédigée :
« Lorsqu’en 1865, Jules Verne fait publier son De La Terre A La Lune, il imagine une aventure qui se réalisera cent quatre années plus tard. Il suggère une technologie qui n’existe pas encore.
« En 1942, à son tour Isaac Asimov publie Runaround, une fiction où les robots sont soumis à « trois lois ». Il imagine un monde où des machines connectées en réseaux sont capables d’interagir avec les humains. Dès lors, elles doivent être limitées et soumises à une éthique répondant éventuellement de leurs actes.
« Les artistes et les scientifiques interpellent les citoyens.
« En Europe et en France notamment, l’approche des droits humains a une portée universelle, fondée sur un idéal. Ainsi la Déclaration universelle des droits de l’Homme du 10 décembre 1948 vise à lutter contre la barbarie et à proclamer cet idéal.
« Le législateur doit se saisir de ces questions majeures et de leurs enjeux potentiels.
« C’est pourquoi cette loi a pour ambition de prévenir un retard irrattrapable dû à des outils créés par quelques individus mais impactant le plus grand nombre. Dès lors, lorsque la réalité rejoint la fiction, les marges de manœuvre sont diminuées. Parfois, les avancées sont tellement intégrées à notre quotidien de citoyen qu’elles ne permettent plus d’imaginer de vivre sans elles. Les citoyens deviennent des êtres humains assistés ou augmentés sans avoir exprimé un choix éclairé.
« Au même titre que les virus s’intègrent au long cours au patrimoine génétique des humains, les technologies du quotidien entrent de fait dans les réflexions. Or après l’ignorance, la plupart de nos réactions confinent au dédain l’analyse des avancées technologiques. Cette loi vise donc à interpeller tout à chacun quant à son rôle et sa responsabilité, ses droits et ses devoirs, pour être acteur et garant de ses libertés.
« En conclusion, se positionner sur les algorithmes revient à protéger les droits de l’Homme dans leur ensemble. Il y a des choix qui sont irréversibles et aujourd’hui dans à l’Assemblée nationale, nous sommes à l’aube de l’un d’entre eux.
« Ce sont les raisons pour lesquelles nous proclamons :
« Art. 1er. – La présente charte s’applique à tout système qui se compose d’une entité qu’elle soit physique (par exemple un robot) ou virtuelle (par exemple un algorithme) et qui utilise de l’intelligence artificielle. La notion d’intelligence artificielle est entendue ici comme un algorithme évolutif dans sa structure, apprenant, au regard de sa rédaction initiale.
« Un système tel que défini au précédent alinéa n’est pas doté de la personnalité juridique et par conséquent inapte à être titulaire de droits subjectifs. Cependant les obligations qui découlent de la personnalité juridique incombent à la personne morale ou physique qui héberge ou distribue ledit système devenant de fait son représentant juridique.
« Art. 2. – Un système tel que défini à l’article premier :
« – ne peut porter atteinte à un être ou un groupe d’êtres humains, ni, en restant passif, permettre qu’un être ou un groupe d’êtres humains soit exposé au danger ;
« – doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec le point précédent ;
« – doit protéger son existence tant que cette protection n’entre pas en conflit avec les deux points précédents.
« Art. 3. – Tout système est initialement conçu pour satisfaire la mise en application pleinement effective des articles de la Déclaration universelle des droits de l’Homme du 10 décembre 1948.
« Art. 4. – L’hébergeur ou l’émetteur de diffusion du système tel que défini à l’article 1er déterminent la nationalité de celui‑ci. Dès lors qu’un système rentre dans la définition de l’article 1er et se destine à être utilisé sur le territoire français, l’hébergeur ou l’émetteur du dit système doit en déterminer la nationalité.
« Art. 5. – Il est nécessaire de mettre en place un système d’audit dont la fréquence de mise en œuvre est fondée sur celle d’évolution vers une autonomie décisionnelle du ou des algorithmes composant le système tel que défini à l’article premier.
« Art. 6. – Aucune disposition de la présente Charte ne peut être interprétée comme impliquant, pour un État, un groupement ou un individu, un droit quelconque de se livrer à la création d’un système tel que décrit à l’article premier visant à la destruction des droits et libertés qui sont énoncés dans la présente Charte. »
