COMMISSION DE RÉFLEXION ET DE PROPOSITIONS
SUR LE DROIT ET LES LIBERTÉS À L’ÂGE DU NUMÉRIQUE
Mercredi 25 juin 2014
La séance est ouverte à dix-neuf heures.
(Présidence de Mme Christiane Féral-Schuhl, coprésidente
et de M. Christian Paul, coprésident)
——fpfp——
La Commission procède à l’audition de M. Daniel Kaplan, délégué général de la Fondation pour l’Internet Nouvelle Génération.
M. le coprésident Christian Paul. Cette séance de la commission sera consacrée à l’audition de M. Daniel Kaplan, délégué général de la Fondation pour l’Internet Nouvelle Génération. Celui-ci dressera un tableau et dessinera une prospective des technologies et des usages pour nourrir les travaux de la commission, et interpeller ses membres sur les questions qui, en matière de droit, de libertés et de régulation, devraient être abordées.
M. Daniel Kaplan, délégué général de la Fondation pour l’Internet nouvelle génération. Cette commission se crée dans un moment où, au blues démocratique que vous connaissez, s'ajoute ce que Bernard Stiegler nomme un « blues du net ». Le numérique, dont on attendait beaucoup notamment sur le front des droits et des libertés, déçoit, quand il ne se situe pas carrément du côté du problème.
Le monde numérisé, interconnecté, n’est pas de manière évidente plus éclairé, plus prospère, plus sûr, plus ouvert, plus égalitaire ni même plus libre que le monde d’avant. Sur plusieurs points, c’est même le contraire. Le numérique est-il cependant responsable de cette situation ? Pas nécessairement, mais il nous faut tout de même constater plusieurs choses.
1. Le numérique est aussi l’outil des puissants, à travers la surveillance de masse mais aussi l’émergence de nouvelles formes d’aliénation dans le travail, dans la consommation, etc. S’il peut être un outil de symétrisation des forces, il peut aussi jouer le rôle contraire.
2. Les grands acteurs du numérique ne se montrent pas aujourd’hui à la hauteur de la responsabilité que leur confèrent leur puissance et leur rôle transformateur, par exemple en matière de fiscalité, de protection de la vie privée, de conditions de travail… Partout dans le monde, ils sont désormais placés face à leurs responsabilités dans ces domaines, et d'autres, ce qui est nouveau.
3. « Le numérique », ce n'est pas seulement une nébuleuse de pratiques, d’outils et de services : c’est aussi l’informatique, les systèmes d’information, les grands dispositifs d’automatisation. Toute l'histoire de l'informatique est marquée par cette tension entre ordre et désordre, optimisation et déstabilisation de l'existant.
Il y a eu un moment historique où la représentation qui était donnée du numérique était essentiellement centrée sur sa dimension libératrice, décloisonnante, collaborative, capacitante (empowerment). Si cette dimension reste présente, on assiste à la remontée en puissance d’une autre dimension, la dimension de formalisation, d’automatisation, de contrôle et de surveillance qui est aussi une face du numérique. Aujourd’hui l’équilibre entre ces deux aspects est un peu en balance. Pas seulement du fait des États et des agences de renseignement. On voit ainsi resurgir des propositions qui tendent à organiser en un seul grand système (forcément assez centralisé, assez homogène) des villes entières (smart city), des grands réseaux de distribution (smart grid), des secteurs économiques tout entiers, etc.
Ayons donc en tête que le sujet des « Droits et des libertés à l'ère numérique » ne concerne pas seulement ce qu'il se passe sur l'internet, mais aussi ce qu'il se passe à l'intérieur des systèmes informatisés. On y reviendra.
Après ce préambule, je développerai deux points : je vous propose de décrire le grand mouvement de "numérisation du monde" qui aura nécessairement une influence sur vos travaux ; puis de tirer toutes les conséquences de ce qui précède pour vous inviter à dépasser une approche exclusivement centrée sur la protection en lui ajoutant une démarche qui vise à développer les capacités d'agir des individus et des collectifs.
Le premier phénomène émergent que je vous propose de décrire est la « numérisation du monde ».
La numérisation du monde n’est pas une dématérialisation ou une virtualisation de ce dernier, bien au contraire. Elle décrit plutôt le fait que le numérique impose de nouveaux modes de fonctionnement à un nombre croissant de domaines qui n’ont a priori rien à voir avec lui. Le secteur du tourisme est organisé dans une large mesure par booking. La relation entre un patient et un médecin est aujourd’hui très largement structurée par ce que le patient a discuté sur Doctissimo et le sera plus encore demain par les outils proposés par Apple et Samsung ainsi que l’énorme écosystème d’applications et de bases de données qu’ils vont générer. L’expérience quotidienne de l’éducation est transformée par Wikipedia, Sésamath etc. De même pour la musique avec Itunes, la mobilité avec Blablacar et Über, etc. Le numérique a débordé de son lit ; c'est à partir du numérique que les acteurs qui souhaitent réorganiser à leur profit d'autres secteurs, d'autres pratiques, vont entreprendre leur conquête. Cela vaut y compris pour les secteurs qui paraissent les moins « numérisables », ceux que l'on pensait protégés par leur technicité, la part dominante qu'y joue la production matérielle, leur importance sociale ou politique, etc. Si on les regarde de près, par exemple, les défis auxquels font face les grands acteurs du secteur spatial ressemblent beaucoup à ceux qui ont tant déstabilisé l'industrie musicale il y a une dizaine d'années…
La numérisation du monde recouvre à mes yeux deux aspects principaux : l’augmentation et l’interconnexion des objets, des espaces et des corps ; et le rôle central joué par les données et les algorithmes.
Les objets, les espaces et les corps sont de plus en plus équipés de puces qui les identifient, les localisent, captent, reçoivent et émettent de l’information. Les objets sont décrits numériquement, dès le moment de leur conception : un objet industriel est d’abord un ensemble de fichiers et d’instructions. Il est doté d’une aura numérique : des traces, une mémoire de sa conception, de son usage, de sa circulation. Son existence est hybride, à la fois physique et numérique. Il existe accompagné d’une couche de services, qui, y compris pour des produits comme l'automobile, est au moins aussi importante que l’objet lui-même du point du vue du modèle économique.
Le premier usage auquel on pense pour ces nouvelles caractéristiques des objets et des lieux consiste à en améliorer la gestion, la sécurité et l'efficience. Pour simplifier, on industrialise les processus existants, on étend sans cesse le domaine de l'automatisation. Ce qui pose toute une série de questions assez bien connues mais néanmoins toujours importantes, notamment en matière d’automatisation, de transparence, de consentement à des traitements automatisés, d'anonymat, etc.
Mais cette « augmentation » numérique des objets, des lieux et (de manière croissante) des corps ne fait pas qu’automatiser l’existant : elle le décode, le décompose, le désorganise pour ensuite le recoder, le recomposer et le réorganiser de toutes sortes de manières nouvelles, et souvent concurrentes les unes des autres. Elle produit des nouveaux concepts, des nouvelles combinaisons, des nouveaux champs d'action. Ce qui fait sans cesse émerger des questions, y compris de droit, qui sont nouvelles ou inhabituelles : que signifie, par exemple, devenir taxi à ses moments perdus ? Imprimer chez soi une pièce de rechange ? Reprogrammer un objet et lui donner d’autres fonctions ? Il fait émerger de nouveaux conflits d’usage, comme la question de l’accès aux données des capteurs (ou aux capacités des « actionneurs ») installés dans l’espace public – notez que parmi ces « capteurs », il y a par exemple des caméras.
Toutes ces questions vont se poser et se posent déjà dans un certain nombre de cas. On devra donc traiter des conflits qui existent aujourd’hui dans des champs que l’on pensait circonscrits mais qui ne le sont probablement pas : le conflit entre l’émancipation des utilisateurs auxquels tout cela peut donner du pouvoir, les logiques économiques et le pouvoir des acteurs économiques et enfin, les logiques collectives des institutions. Par exemple, le champ de la santé est évidemment un champ dans lequel ces bouleversements vont être absolument massifs. Le fait que les gens soient en train de s’équiper d’objets et d’outils de mesure d’un certain nombre de signaux vitaux, vendus comme des produits de consommation auxquels s’associent des logiciels et des communautés, est probablement un facteur de transformation absolument massif.
Seconde caractéristique essentielle de la « numérisation du monde », les données et le logiciel y jouent un rôle central. Dans une activité numérisée, tout ce qui était contenu et information devient donnée, et par conséquent sujet à être traité de manière automatisée ; et tout ce qui peut être détaché de son infrastructure matérielle a tendance à devenir du logiciel, l’exemple paradigmatique étant évidemment le smartphone qui embarque un appareil photo, un walkman, une boussole, une console de jeux et toute une série d’autres objets qui possédaient tous, avant, une matérialité propre.
Or, là où les données et les logiciels dominent, tout peut se dégrouper et se recombiner de manière dynamique et diverse, tout le temps. Tout peut également être réutilisé, copié, modifié à peu près tout le temps. Tout tend également à laisser des traces, à nourrir une mémoire immédiate et longue de plus en plus massive et par conséquent de moins en moins intelligible par des humains.
De nouvelles capacités émergent, pas toujours aussi efficacement que ce que prétendent les professionnels, mais tout de même. Il y a l’individualisation de masse, à l'œuvre aujourd'hui dans le commerce mais qui se développe de plus en plus (ou au moins, se propose) dans la gestion des risques, la santé, l'éducation. Il y a la tentation de tout mesurer pour tout prévoir, tout détecter à l’avance, tout prévenir ou anticiper : tentation à laquelle il est extrêmement difficile de résister car, si on peut le faire, alors est-il encore possible de ne pas le faire ? Cette question s’est posée en matière de prédisposition psychiatrique et médicale. Elle se posera pour toute une série d’autres risques. Le numérique permet (ou promet) enfin l’émergence de nouvelles connaissances par la détection de corrélations auparavant inimaginables, ce que l'on nomme aujourd'hui « big data »…
Face au rôle de plus en plus central joué par les données et les logiciels, votre commission va devoir aborder la question de la transparence, du droit d’accès et d’usage, de l’auditabilité et de l’intelligibilité des données, des programmes et des « décisions algorithmiques » qu'Antoinette Rouvroy décrit si bien.
La numérisation s’accompagne enfin assez naturellement d’un effet de concentration ou de polarisation extrêmement rapide sur les marchés. Ce qui introduit la seconde grande question que je souhaitais aborder avec vous : celle du pouvoir.
Si l'information c'est du pouvoir, alors tout ce qui en modifie les conditions de production, de circulation et d'exploitation, déplace du pouvoir. Ce qui, du point de vue des sujets de votre commission, impose de s'intéresser à trois sujets : le développement des capacités (empowerment) des citoyens, seuls ou en collectifs ; la diversité et la pluralité des acteurs ; et la question démocratique de ce que l'on peut construire ensemble.
On a longtemps cru que le numérique permettrait automatiquement aux individus de gagner en capacité, de s'émanciper, voire de prendre le pouvoir face à des acteurs politiques et économiques inéluctablement dépassés. On a aussi pu croire que cette émancipation produirait à elle seule un nouvel élan démocratique, renforcerait la cohésion de nos sociétés, faciliterait la compréhension entre les communautés comme entre les peuples. On sait aujourd'hui que ce n'était pas si simple, d'où le « blues » que j'évoquais. Evidemment, certains l'avaient annoncé depuis longtemps. Mais le défi face auquel votre commission doit faire face est le suivant : si vous ne travaillez pas de manière active à faire de la promesse décentralisatrice du numérique une réalité, vous le laisserez produire une société beaucoup plus inégalitaire, beaucoup plus conflictuelle qu'aujourd'hui, une société dans laquelle, ni les acteurs publics, ni les « communautés », ni les entreprises locales n'auront la capacité de disputer une parcelle de pouvoir à un tout petit nombre de grandes entreprises en concurrence les unes avec les autres.
Aussi, vous ne pourrez pas concentrer tout votre travail sur la question des droits et des devoirs, de leur protection et de leurs limites : le droit peut aussi distribuer des capacités d'action et favoriser l'émergence d'alternatives et nous en avons besoin. Je développerai trois exemples possibles d'une telle approche.
Dans son récent rapport sur la « neutralité des plateformes », le Conseil national du numérique a (trop brièvement) développé l'idée d'une « neutralité active », c'est-à-dire d'une politique publique qui chercherait délibérément à encourager sans cesse le développement d'alternatives aux plateformes dominantes. Comment le droit peut-il contribuer à construire une multiplicité d’acteurs, de contre-pouvoirs ou d’alternatives ? Par exemple en encourageant et en protégeant les biens communs (données publiques, bases de données, connaissances, logiciels et contenus "libres"…) ou encore, en n'appliquant pas les mêmes règles de concurrence aux entreprises et aux initiatives citoyennes.
La capacitation (empowerment) des individus et des groupes qu'ils constituent est un autre enjeu. Bien sûr, elle passe par des politiques éducatives et culturelles qui ne sont pas du ressort de votre commission. Mais elle passe aussi par le respect du pluralisme et plus encore, par le fait de préserver, voire agrandir sans cesse l'espace dans lequel peut se déployer leur initiative, celui où ils se sentent « autorisés » à s'exprimer, à débattre, à agir, à traiter par eux-mêmes (seuls ou ensemble) les problèmes qui les concernent, à expérimenter des alternatives, etc. Pourrait-on inventer un droit de l'empowerment ?
La Fing, que je dirige, vient par exemple de conclure une expérimentation dans laquelle nous explorions ce que les individus pourraient gagner si, demain, les organisations leur restituaient les données personnelles dont elles disposent sur eux. Que pourrait-on gagner en utilisant ses propres données personnelles à ses propres fins et sous son contrôle ? Des connaissances, des capacités d'analyse et d'action, un nouveau pouvoir dans la relation avec les entreprises et les administrations… Cette approche, qui s'inscrit dans un projet que nous appelons MesInfos, ne s'oppose pas à la protection des données personnelles : elle en rend effectif un des principes, le droit d'accès et de rectification, et elle l'étend au-delà de sa fonction initiale de contrôle.
Enfin, dans la mesure où le numérique transforme les jeux de pouvoir, les manières d’échanger, de partager et de débattre, il me semble que la question de la production démocratique est essentielle, en particulier dans le cadre d’une commission parlementaire. Comment peut-on contribuer à la reconstruction d'un espace public légitime, dans lequel se discute ce que l'on veut accomplir ensemble, alors même que ces conversations, quand elles existent, ont largement déserté les espaces institutionnels et même les grands médias ? Comment tenir compte de la volonté manifeste des citoyens de prendre part, non plus seulement à la discussion, mais à l'action elle-même ? Comment passer de la « démocratie participative » telle qu'on la connaît (parfois) à des formes de co-élaboration, de co-conception et de co-production, voire parfois de dévolution ?
Ainsi, dans la société numérique d'aujourd'hui, on ne peut se contenter de protéger. Il faut s’interroger sur ce que les individus peuvent être mis en capacité de faire et sur ce qu’une société peut décider de rendre possible.
M. Jean Dionis du Séjour. La question démocratique, qui ne figure parmi les thématiques retenues par la commission, me paraît essentielle. Nous visons dans un système politique qui remonte au XVIIIe siècle et qui est fondé sur la représentation du peuple souverain par des sages à qui l’on confie la gestion de la complexité du monde. Ce modèle est de plus en plus contesté, comme en témoigne le discrédit de la politique. Le numérique fait émerger de nouvelles références et de nouveaux modèles plus participatifs. Ne devrions-nous pas ouvrir une réflexion sur le devenir de notre modèle politique qui a 200 ans d’âge et a pris un sacré coup de vieux ?
M. le coprésident Christian Paul. Il me semble que les questions identifiées dans la note interrogent la démocratie contemporaine mais la question se pose en effet.
M. Daniel Kaplan. Doit-on se contenter de protéger les individus contre l’utilisation que certains acteurs peuvent faire de leurs données ? Les individus ne pourraient-ils pas faire avec leurs données un usage qui aurait du sens pour eux ? La question de savoir comment on peut mettre les individus en capacité de faire est essentielle. C’est ce que tente d’expérimenter le projet MesInfos.
M. Philippe Aigrain. Il faut en effet impérativement compléter la question de la protection par celle de la capacitation. Il y a actuellement un projet international intitulé « reset the net ». La Quadrature a lancé une initiative intitulée « Reclaim your data ». Hormis ce qui se fait dans l’éducation nationale, nous manquons d’outils pour mener des politiques publiques capacitantes. Sans de telles politiques, seuls environ 3 % des gens seront en mesure de s’approprier les techniques de stockage souverain des données et de protection de leurs données de communication contre la surveillance généralisée. L’exemple de l’impact sur le tourisme de Couchsurfing et de Airbnb, ou celui de l’impact du numérique sur les taxis montrent comment, en l’absence de politique publique, des processus vertueux peuvent échouer à véritablement changer les choses dans un sens positif. Je rejoins donc Laure de la Raudière sur la nécessité de prendre en compte les conséquences économiques du numérique.
M. Edwy Plenel. Chaque révolution industrielle a appelé un nouvel âge démocratique. Le blues dont vous parlez résulte du décalage entre les outils que les citoyens ont à leur disposition qui révolutionne leur capacité de communication et notre culture démocratique, qui demeure très verticale. À cet égard, la crise de la presse, acteur important de notre démocratie, est aussi la crise d’un modèle dans lequel la presse était au-dessus de ses lecteurs et se trouve aujourd’hui obligée de descendre de l’estrade. C’est pourquoi j’approuve totalement l’injonction de ne pas raisonner uniquement en termes de protection, en demeurant sur la défensive, mais en termes de nouvelles potentialités et d’empowerment en nous posant la question des nouveaux droits qu’engendre le numérique. Notre imaginaire de la démocratie est pauvre. Nous sommes encore probablement à l’âge préhistorique de la démocratie, si nous considérons qu’elle se résume au choix de représentants. La démocratie, c’est aussi délibérer, échanger des informations, participer. Ne faudrait-il pas par exemple envisager, comme le fait David Van Reybrouck, une démocratie bireprésentative, qui associe aux représentants élus par le vote, des représentants tirés au sort ?
Le numérique modifie aussi la consommation et le marché du travail. C’est la question que pose la coordination des intermittents et précaires, qui rejoint les réflexions de grands professeurs au Collège de France sur le droit du travail, notamment Alain Supiot, qui appelle à réinventer un droit du travail qui pense le travail discontinu et qui ne pense seulement en termes d’emplois et de CDI.
Vous avez évoqué des régressions possibles à l’ère numérique. En matière de droit à l’information d’intérêt public, le numérique est l’occasion de régressions sur des droits fondamentaux. Ainsi, certains acteurs numériques ont-ils pu être exclus du droit de la presse parce qu’ils sont numériques. Certaines dispositions de notre droit sont archaïques. À titre d’exemple, enregistrer quelqu’un à son insu par un moyen technique est illégal, indépendamment du contenu de cet enregistrement, ce qui produit une censure que n’a jamais permis le droit de la presse. Bref, c’est tout notre écosystème démocratique qu’il faut refonder.
M. Daniel Le Métayer. Votre présentation était un peu pessimiste. S’agissant de l’expérience MesInfos, ouvre-t-elle des perspectives en matière d’empowerment ? Qu’ont fait de leurs données les personnes qui ont expérimenté le système ? Quelles en sont les retombées ? Que peut-on faire pour amplifier ce genre d’expérience ?
M. Daniel Kaplan. Dans le cadre de cette expérience, 300 personnes ont eu accès à leurs données personnelles restituées par huit entreprises. Ce qui est encourageant c’est que les gens perçoivent qu’ils peuvent faire quelque chose de ces données. Mais il ne suffira pas de mettre ces données à leur disposition pour leur permettre d’en faire un usage qui ait du sens : seuls les 3 % d’individus à forte compétence technologique qu’évoquait Philippe Aigrain le pourraient. La plupart des gens ne savent pas trop ce qu’ils peuvent en faire. Il faut leur proposer des applications et des services innovants autour de ces données. On peut donc recréer un risque plus grand encore que celui qui existe actuellement si des acteurs captent ces données en prétendant vouloir en faire un usage des plus louables. La question de la montée en capacité et de l’architecture est donc essentielle. Il faut imaginer des architectures adaptées à ces individus qui n’ont pas de compétence technologique particulière et qui soient à la fois capacitantes et protectrices. Cette expérience passionnante et féconde montre que la capacitation, sans une volonté, un effort et une construction de tous les instants, ne se fait pas toute seule pour l’immense majorité de la population.
M. le coprésident Christian Paul. Pour l’organisation de nos travaux, il faut que nous arrivions à distinguer ce qui relève du législateur et de l’évolution du droit et ce qui relève de la politique du numérique plus généralement et qui n’est pas que l’affaire du Parlement. Par exemple les objectifs d’inclusion numérique ou de capacitation font appel à différents outils de politique publique, au-delà de la simple évolution du droit.
M. Daniel Kaplan. En ce qui concerne la tonalité un peu pessimiste de mon propos, je relève seulement qu’il y a un certain nombre de choses à faire. Quand on rencontre des générations d’innovateurs, de bricoleurs, d’entrepreneurs, y compris sociaux, on redevient très vite extrêmement optimiste car il y a des énergies formidables. Mais ces énergies provoquent à l’échelle microéconomique des changements qui peuvent être absolument massifs sans que rien ne change à l’échelle macroéconomique, faute d’accompagnement politique.
Le droit peut jouer un rôle important en matière de capacitation, à travers notamment les questions de propriété et d’usage. S’agissant de l’expérience MesInfos, on peut envisager l’usage d’un certain nombre de données sans même avoir besoin d’un droit de propriété sur ces données personnelles. Cela étant dit, aujourd’hui ce droit n’existe pas vis-à-vis des détenteurs de données personnelles. Faudra-t-il y venir ? C’est une vraie question. Quoi qu’il en soit, la notion de « communs » peut contribuer à faire émerger un grand nombre d’alternatives aux très grands pouvoirs. Le droit peut donc être capacitant et pas seulement limitant.
M. Godefroy Beauvallet. La question démocratique me paraît importante et je crois qu’en matière législative il faut distinguer le texte et le paratexte. Aujourd’hui, il est possible par exemple de soumettre les études d’impact ou les rapports de présentation des textes à un examen contradictoire de type Wikipedia. Soumettre le texte de loi lui-même serait beaucoup plus compliqué.
En matière de protection des données à caractère personnel, nous sommes un peu dans la situation de quelqu’un qui serait mis en examen. Or, quand on est mis en examen, on a un droit d’accès au dossier et droit à un avocat. Ce genre de raisonnement par analogie peut être intéressant à développer dans nos groupes de travail.
Une grande partie de l’activité législative consiste à définir des catégories d’individus, d’institutions, d’organismes qui disposent de droits (licences de taxis, licences IV etc.). Aujourd’hui on peut imaginer une nouvelle voie qui serait celle d’un clearing instantané des droits, permettant par exemple de disposer d’une licence IV pour deux heures. C’était absolument inimaginable au XXe siècle mais aujourd’hui il est incompréhensible pour beaucoup de gens que ce ne soit pas possible. Il y a une forte résistance à cette voie du clearing instantané capacitaire car elle peut conduire à des transformations sociales radicales et se heurte à l’opposition des taxis, des bistrotiers etc. Voyez-vous une autre voie que la capacitation instantanée des collectifs ou des individus ?
M. Daniel Kaplan. La capacitation ce n’est pas seulement la possibilité juridique de faire, c’est une construction lente, patiente et pas seulement individuelle, y compris sur nos sujets de données personnelles. La capacité se construit de manière vraiment complexe. La licence IV fait partie du sujet. Qu’est-ce qui fait que je deviens éligible à deux heures de licence IV ? C’est peut-être ça qui est intéressant en réalité.
La séance est levée à vingt et une heures.
——fpfp——