— 1 —

La séance est ouverte à seize heures.

M. le président Thomas Cazenave. Créé en 2021, le service de vigilance et de protection contre les ingérences numériques étrangères (Viginum), rattaché au secrétariat général de la défense et de la sécurité nationale (SGDSN), vise à préserver le débat public des manipulations de l’information orchestrées de l’étranger sur des plateformes numériques. L’objet de ses missions est au cœur des travaux de notre commission ; il est d’autant plus précieux de vous entendre, monsieur, que le contexte international peut avoir une incidence sur la bonne tenue des élections, qui est indispensable à la solidité de nos institutions.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

M. Marc-Antoine Brillant prête serment.

M. Marc-Antoine Brillant, chef du service de vigilance et de protection contre les ingérences numériques étrangères. Merci pour votre invitation. Je suis ravi d’être auditionné sur un sujet qui nous tient tous à cœur : la protection du débat public numérique pendant les périodes électorales.

Depuis le milieu des années 2010, les manipulations de l’information impliquant des acteurs étrangers n’ont épargné aucun rendez-vous électoral ou référendaire majeur. Ne nous demandons pas si ou quand nous serons la cible d’acteurs malveillants : la question est de savoir si ces manœuvres informationnelles influencent les résultats des scrutins.

Face à cette menace, la France s’est mobilisée, créant en 2021 un dispositif national de protection que j’estime efficace.

Je commencerai par retracer l’historique des mesures visant à protéger les élections de tout le spectre des menaces, des cyberattaques aux manipulations de l’information. En France, nous avons pris conscience de leur existence pendant la campagne pour l’élection présidentielle de 2017, à l’occasion d’une opération dite de hack and leak. Cela consiste d’abord à attaquer des systèmes d’information – en l’espèce, ceux d’une équipe de campagne – pour y voler des données personnelles, puis à divulguer ces dernières, après en avoir volontairement modifié certaines. C’était la première fois qu’un rendez-vous électoral majeur était ciblé par une campagne de manipulation de l’information impliquant des acteurs étrangers. La fin de la naïveté s’est accompagnée du constat que la France ne disposait d’aucune agence ou dispositif interministériel à même de nous protéger contre la manipulation de l’information.

Quel est l’état de la menace ? L’actualité d’autres pays, comme la Moldavie, la Roumanie et la Géorgie, a soulevé la question des ingérences numériques étrangères en période électorale. On distingue quatre stratégies malveillantes. La première consiste à polariser le débat public numérique sur des thèmes qui divisent et dont on sait qu’ils peuvent influencer le comportement des électeurs. La deuxième vise à discréditer la procédure électorale, par exemple en la faisant paraître illégitime, défaillante, voire frauduleuse. Les exemples américains de récits dénonçant l’intention de voler le scrutin, « to steal the vote », sont connus. La troisième tend à alimenter la défiance à l’égard des médias traditionnels. Les médias libres comptent au nombre des symboles de la démocratie ; il s’agit de détourner une partie de leur public au profit de médias alternatifs. La quatrième cherche à mettre en cause la réputation de candidats ou de partis politiques engagés.

Viginum a analysé plusieurs modes opératoires mis au service de ces stratégies. Dans son récent rapport consacré à l’élection présidentielle de Roumanie de novembre 2024, il en caractérise deux. L’astroturfing utilise de faux comptes – des bots, des trolls –, qu’on appelle des « comptes inauthentiques ». Le recours à des influenceurs fait appel à des créateurs de contenus. Tous deux tendent à amplifier artificiellement la visibilité d’un récit trompeur ou d’une thématique donnée.

La diffusion d’images produites par l’intelligence artificielle (IA) prend de plus en plus d’ampleur. Les premières servaient à usurper l’identité d’un candidat ; depuis les élections de 2024, on observe que certaines, parfois humoristiques, accompagnent un texte. Nos partenaires et des médias ont révélé le même phénomène à l’étranger. On trouve également des images ou des vidéos décontextualisées, par exemple une vidéo tournée pendant les mouvements de contestation de 2019 et placée dans un contexte électoral plus récent, pour dénigrer un candidat ou une politique publique.

Le quatrième mode opératoire consiste à usurper l’identité de médias à l’aide de la technique dite de typosquatting : on crée un nom de domaine très proche d’un nom de domaine existant ; l’internaute, en suivant un lien de redirection proposé par un réseau social, tombe sur le site d’un média qui ressemble trait pour trait à celui dont il a l’habitude mais, si la charte graphique est identique, le contenu est très différent. Ce mode, révélateur d’un rapprochement entre acteurs de la manipulation de l’information et cybercriminels, a d’abord été utilisé par la campagne russe Doppelgänger, qui lui a donné son nom. Caractéristique des opérations pro-russes, il est aussi appelé RRN – en référence à Reliable Recent News. Le ministère de l’Europe et des affaires étrangères et Viginum l’ont dénoncé en 2023. À l’époque, sept pays européens étaient touchés ; en France, près de quinze médias étaient concernés. L’intérêt est d’alimenter la défiance envers les médias traditionnels pour attirer le public vers d’autres médias.

Le cinquième mode consiste à créer des sites internet calqués sur des vrais sites de candidats ou de partis politiques. Lors des élections législatives de 2024, les médias se sont notamment émus de l’apparition d’un faux site, ensemble-2024.fr ; inspiré de celui d’Ensemble pour la République, il contenait des éléments inexacts et trompeurs.

Quel est l’impact de ces attaques ? Il est difficile de mesurer précisément l’incidence d’une manœuvre informationnelle ou d’une ingérence numérique étrangère. Aucun indicateur de mesure ne fait l’objet d’un consensus académique. On utilise principalement les indicateurs de visibilité disponibles sur les plateformes – nombre de vues, de likes, de partages. Or on sait aujourd’hui qu’on peut douter de leur fiabilité ; et quoi qu’il en soit, ils ne témoignent que de la visibilité d’une publication, non de son influence.

En France, toutes les manœuvres que nous avons détectées lors des élections de 2022 et de 2024 ont eu une visibilité limitée, voire nulle, dans le débat public numérique – il faut le souligner. Lorsqu’on détecte et qu’on caractérise un phénomène, la tentation est forte de le révéler, mais cela risque de lui donner une visibilité qu’il n’avait pas – c’est ce qu’on appelle l’effet Streisand –, donc de servir la stratégie des acteurs étrangers impliqués. Dans le cadre du dispositif de protection – j’y reviendrai –, un travail interministériel permet d’apprécier ce risque.

Comment la France s’est-elle équipée d’un vrai dispositif national ? Je l’ai dit, le constat a été dressé en 2017 que la France n’avait pas de capacité opérationnelle spécialisée dans la lutte contre la manipulation de l’information. Le décret du 13 juillet 2021 a créé Viginum. Sa mission est très précise : détecter et caractériser les ingérences numériques étrangères.

Évoquer la manipulation de l’information fait surgir de nombreuses notions : la désinformation, la mésinformation, la propagande, l’influence, la communication stratégique. Cela peut brouiller la compréhension. La France a fait le choix de renvoyer à une menace réelle : l’ingérence numérique étrangère. Nous sommes partis de la décision du Conseil constitutionnel sur la loi organique du 22 décembre 2018 relative à la lutte contre la manipulation de l’information, qui établit deux critères de manipulation de l’information : le comportement – une diffusion « artificielle ou automatisée, massive et délibérée » – et le contenu – « allégations ou imputations inexactes ou trompeuses d’un fait ». Afin de placer cette menace dans le champ de la sécurité nationale, nous avons ajouté deux autres critères : l’implication directe ou indirecte d’un État étranger ou d’une entité non étatique étrangère et la volonté de porter atteinte aux intérêts fondamentaux de la nation. Ces derniers font l’objet, dans le code pénal et dans le code de la sécurité intérieure, d’une définition assez large : les processus électoraux, la politique étrangère, la présence militaire de la France à l’étranger et les éléments essentiels de son potentiel scientifique et économique et de son patrimoine culturel en font partie.

En résumé, la compétence de Viginum s’exerce sur les ingérences numériques étrangères, c’est-à-dire les manipulations de l’information impliquant un acteur étranger et visant à porter atteinte aux intérêts fondamentaux de la nation, et sa mission consiste à détecter et à caractériser les opérations de cette nature. Nous ne sommes pas un service de veille, de communication, de renseignement ni de police ; sans tout dévoiler, nous menons des recherches en source ouverte et nous sommes autorisés par le Conseil d’État à procéder à un traitement automatisé de données à caractère personnel.

Concrètement, nous suivons des dispositifs informationnels malveillants reliés à des puissances étrangères et présents dans le débat public, pour collecter des indices. Nous en suivons plusieurs dizaines, de toute origine ; bien malheureusement, ils n’agissent pas seulement dans le cadre électoral : tous les sujets relatifs à la politique et à l’action du gouvernement sont touchés.

La caractérisation va plus loin que la seule détection : à partir de faisceaux d’indices concordants, nous analysons des modes opératoires. Viginum travaille non sur les contenus, mais sur les techniques de diffusion. En réalité, peu importe le contenu : plutôt que de créer du faux pour manipuler l’information, les acteurs étrangers malveillants ont désormais tendance à instrumentaliser les faits pour mener campagne.

Cette mission, définie au premier alinéa de l’article 3 du décret du 13 juillet 2021, prend tout son sens dans le domaine électoral. Nous devons veiller à ce que l’information diffusée aux citoyens ne soit pas altérée ; à partir des détections et caractérisations effectuées, nous devons fournir toute information utile à l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), en application des lois du 22 décembre 2018, ainsi qu’à la Commission nationale de contrôle de la campagne électorale en vue de l’élection présidentielle (CNCCEP).

Pour protéger les élections, Viginum n’est pas seul ; il prend place dans un dispositif plus vaste, créé en 2022 pour les scrutins présidentiel et législatifs, et dont le secrétariat général de la défense et de la sécurité nationale assure la gouvernance en vertu du code de la défense. Le SGDSN est chargé d’identifier les opérations d’ingérence numérique étrangère et de coordonner les travaux de protection. Pour mener à bien cette dernière mission, un comité interministériel a été créé, qui vise à partager les informations et à définir des réponses spécifiques aux manœuvres d’ingérence identifiées. Présidé par le SGDSN, ce comité travaille en étroite relation avec l’Arcom, avec le juge électoral si nécessaire, et avec le bureau des élections politiques du ministère de l’intérieur, chargé de l’organisation des élections.

L’arsenal législatif est constitué de deux outils. Les lois du 22 décembre 2018 ont renforcé le pouvoir de l’Arcom sur les plateformes en ligne et celui du juge des référés, qui peut prononcer dans les quarante-huit heures le retrait d’un contenu jugé illicite. Le règlement du 19 octobre 2022 relatif à un marché unique des services numériques, dit DSA (Digital Services Act), organise la prise en charge et l’atténuation des risques systémiques provoqués par l’utilisation malveillante des plateformes en ligne.

Au niveau européen, le réseau nommé système d’alerte rapide, qui dépend du service européen pour l’action extérieure, relie les autorités des États membres compétentes en matière électorale. Il permet de signaler la détection de comportements malveillants inauthentiques, en particulier dans le cadre des élections européennes.

Le dispositif national est enfin chargé de sensibiliser certains acteurs à la menace informationnelle en contexte électoral – c’est peut-être sa mission la plus importante. En 2022, le SGDSN a déployé des séances de sensibilisation organisées par l’Agence nationale de la sécurité des systèmes d’information (Anssi), Viginum et la direction générale de la sécurité intérieure (DGSI). Avant chaque scrutin, nous alertons les candidats et leurs équipes de campagne sur la menace informatique – la cyberattaque –, la menace informationnelle et la menace d’ingérence plus classique – qui relève de la DGSI. Une autre séance s’adresse aux opérateurs de plateformes en ligne. Nous les réunissons pour leur dresser un état de la menace ; en retour, ils nous informent de leurs observations et rendent compte des dispositifs qu’ils prévoient de mettre en œuvre pendant les élections pour s’assurer que leurs services ne soient pas utilisés à des fins malveillantes. Troisièmement, nous avons travaillé l’an dernier en lien avec le service d’information du gouvernement (SIG) à l’information du grand public, contribuant, modestement, à la campagne « Allons voter ! » – qui était très bien.

Depuis la création du dispositif, nous avons protégé quatre scrutins – deux en 2022, deux en 2024. Aucune des manœuvres d’ingérence détectées n’a eu d’incidence sur le débat public numérique relatif à l’élection ni sur l’information diffusée aux citoyens.

En dépit de cette efficacité, nous considérons que la vigilance doit rester forte, en particulier concernant le rôle des opérateurs de plateformes. Nous avons tous suivi les annonces de la fin de la modération et du fact-checking sur certaines plateformes américaines qui hébergent le débat public numérique. Sur la durée, cela aura probablement des effets indésirables, voire nuisibles, notamment en période électorale.

M. Antoine Léaument, rapporteur. En tant que responsable numérique de l’équipe de campagne de Jean-Luc Mélenchon pour l’élection présidentielle de 2022, j’ai participé aux formations que vous avez évoquées. J’avais alors posé une question sur ce qu’on pourrait appeler les pressions capitalistes. Certains milliardaires recourent à des dispositifs médiatiques susceptibles d’influencer le débat public numérique – je pense, pour ce qui concerne la France, au groupe Bolloré. Puisque nous parlons d’ingérences étrangères, je pense également à M. Musk, qui utilise sa plateforme X pour orienter ce débat, notamment en valorisant certains contenus grâce aux algorithmes – il a affiché ses intentions dès l’achat de Twitter, par une image brutale représentant la manière dont il entendait abreuver ses abonnés de ses publications. Lors des élections fédérales allemandes, il a ainsi valorisé un parti politique en particulier, l’AfD (Alternative pour l’Allemagne). Avez-vous constaté la valorisation de contenus politiques sur X en France ?

Vous avez distingué la manipulation de faits de la création de contenus à l’aide d’une IA générative. J’ai vu une vidéo montrant une scène totalement imaginaire dans laquelle une personne présentée comme migrante agressait une femme dans la rue. Frappante de réalisme, elle visait à susciter une détestation des étrangers en mettant en avant un prétendu lien entre immigration et insécurité. Votre mission concerne les ingérences étrangères, mais certaines tentatives de manipulations impliquent aussi parfois des acteurs nationaux ; peut-être dotés d’une connaissance plus fine de la société française, ils cherchent à en exploiter les failles. C’est une menace. Travaillez-vous également sur cet aspect ?

Autre question : avez-vous des liens avec les médias ? J’ai souvenir d’un épisode assez brutal survenu en mai 2024, juste avant les élections européennes : des mains rouges avaient été apposées sur le Mur des Justes du Mémorial de la Shoah. À l’instar d’autres médias, Le Monde avait alors indiqué qu’elles étaient le fait de personnes venues de Bulgarie, étayant un soupçon d’ingérence russe. Ce genre d’événement est généralement amplifié par les réseaux sociaux, et Le Monde avait évoqué une volonté de publier ces contenus en ligne pour faire émerger le sujet dans la sphère médiatique, selon une logique d’astroturfing. Cela s’apparente, d’une certaine manière, à l’effet Streisand que vous évoquiez. Qu’il soit inventé ou réel mais manipulé, le fait générateur, violent et brutal, vise à créer des détestations et à diviser la société française : c’est le dénominateur commun à toutes les techniques de manipulation de l’information, qu’elles soient d’origine étrangère ou domestique. Mais en relayant cette information sans en appréhender toutes les dimensions, les médias l’ont, d’une certaine manière, validée, ce qui n’a fait que les discréditer par la suite.

Au-delà de la formation des médias, n’y a-t-il pas également un enjeu de formation de la population française, pour renforcer le réflexe de fraternité, cette fraternité inscrite dans notre devise nationale, envers nos compatriotes et, plus largement, envers tous ceux qui sont présents sur le sol de la République française ?

M. Marc-Antoine Brillant. S’agissant des pressions capitalistiques, soyons clairs : les médias ne font pas partie du mandat du service. Je peux néanmoins apporter une réponse très claire à votre question concernant l’ingérence d’Elon Musk dans le débat public national relatif aux élections allemandes : toute utilisation par un acteur étranger, organisation ou individu, de techniques numériques majoritairement inauthentiques pour s’ingérer dans un débat public numérique lié à une élection – c’est-à-dire un événement d’intérêt fondamental pour la nation – caractérise une ingérence numérique étrangère. Or autour du compte d’Elon Musk, déjà très puissant sur X, gravitent d’autres comptes dont la mission est d’amplifier la visibilité des contenus qu’il publie : c’est le propre des procédés inauthentiques. Il s’agit donc bien d’une ingérence.

M. le président Thomas Cazenave. Je veux être sûr d’avoir bien compris : c’est bien l’utilisation de procédés inauthentiques pour donner de la visibilité à une prise de position dans des débats politiques locaux qui vous permet de caractériser une manœuvre d’ingérence étrangère ? C’est très important, on touche là au cœur du débat.

M. Marc-Antoine Brillant. Si l’on se réfère aux quatre critères définis dans le décret du 13 juillet 2021 portant création de Viginum et précisant son mandat, que j’ai détaillés dans mon propos liminaire, oui.

Concrètement, l’astroturfing consiste à utiliser un groupe restreint de faux comptes pour amplifier la diffusion, donc la visibilité, d’un contenu. Nous avons décrit ce procédé dans notre rapport sur la Roumanie : l’analyse en source ouverte nous a permis de démontrer que c’était l’un des deux modes opératoires à l’œuvre concernant les ingérences dans l’élection présidentielle roumaine, même s’il ne nous revient pas de l’attribuer à un acteur en particulier. Le cas que vous évoquez correspond à un cas de recours à l’astroturfing par un compte d’un acteur étranger, qui plus est doté d’une très grande visibilité du fait de son grand nombre d’abonnés, pour s’ingérer dans une élection, laquelle relève de l’intérêt fondamental de la nation.

M. Antoine Léaument, rapporteur. De quels outils disposez-vous pour faire cesser ce genre d’ingérences ?

M. Marc-Antoine Brillant. En l’espèce, nous signalerions à la plateforme concernée les comptes dont nous aurions identifié le mode opératoire à partir des quatre critères que j’ai évoqués. Si elles ne sont pas toutes proactives en la matière, les plateformes, jusqu’à présent, ont toujours suspendu les comptes que nous leur avons signalés, même si cela prend parfois un peu de temps.

Nous jouons également un rôle auprès de l’Arcom ou, dans le cadre d’un scrutin, auprès du juge de l’élection. Nous leur fournissons toute information utile attestant d’une manœuvre d’un acteur étranger susceptible d’altérer l’information diffusée aux citoyens ; ils disposent eux-mêmes de plusieurs outils pour faire face aux ingérences.

M. le président Thomas Cazenave. Concrètement, que feriez-vous en cas d’ingérence caractérisée d’Elon Musk dans une élection française ? Vous demanderiez à la plateforme X de suspendre son compte ?

M. Marc-Antoine Brillant. Si nous mettions en évidence une stratégie d’astroturfing et que son compte était central dans la manœuvre, nous signalerions son compte. C’est ce que nous avons fait dans des cas similaires.

M. Antoine Léaument, rapporteur. Il est évident que X ne va pas fermer le compte de Musk : c’est le propriétaire de la plateforme – et il revendique d’ailleurs son droit d’y faire ce qu’il veut ! Fermer son compte serait une petite révolution interne. Lorsque le responsable de l’ingérence – par choix idéologique, qui plus est – est le propriétaire de la plateforme, est-il envisageable d’aller jusqu’à la fermeture de la plateforme elle-même ? Au-delà de l’astroturfing se pose la question de la manipulation algorithmique, qui permet de mettre en avant les contenus poussés par Elon Musk, alors que son compte est si puissant qu’il peut déjà être considéré comme un astroturfeur à lui seul.

M. Marc-Antoine Brillant. La seule réponse directement à la main de Viginum consiste à signaler les comptes. Néanmoins, comme je l’expliquais, l’action de Viginum s’inscrit dans un dispositif national bien coordonné, et dans ce cadre, il existe une palette d’outils relativement vaste, notamment de l’Arcom et du juge de l’élection. En matière électorale, en particulier, le DSA permet à l’Arcom, coordinateur national pour les services numériques, d’informer rapidement la Commission européenne de toute tentative d’ingérence. Fort heureusement, la France n’a pas encore eu à faire face à un tel cas. Mais, par anticipation, nous cherchons à identifier d’autres leviers à mobiliser si cela devait arriver.

Pour attester du lien entre la manipulation algorithmique et la valorisation des contenus sur les plateformes – X en particulier –, il faudrait avoir accès aux algorithmes de recommandation. Or nous ne l’avons pas, et en sommes réduits à nous appuyer sur des métriques, pas toujours très fiables. C’est un sujet compliqué, à propos duquel nous nous sommes beaucoup rapprochés de l’Arcom. La convention que nous avons signée avec cette autorité le 4 juillet 2024, en lien avec ses missions dans le cadre du DSA, nous permet de lui apporter notre expertise technique et de l’aider à détecter, de l’extérieur, des comportements susceptibles de cacher une manipulation algorithmique. Faute d’accès à ces boîtes noires, je ne peux pas vous donner davantage de détails.

J’en viens à l’intelligence artificielle générative. Si j’avais un message fort à faire passer, c’est qu’il s’agit d’une technologie très utile dans certains domaines, comme la santé, mais qui pose problème dès lors qu’elle est détournée à des fins malveillantes, comme c’était le cas dans la vidéo que vous avez mentionnée. Certains utilisent l’IA générative pour diluer dans de l’opinion une information manipulée, et la rendre ainsi crédible – ce sont les fameux « faux crédibles ». Il devient alors plus difficile, pour les citoyens utilisateurs d’internet, de distinguer le synthétique de l’authentique – c’est un sujet qui a été largement abordé dans le cadre du Sommet pour l’action sur l’intelligence artificielle qui s’est tenu en février. À cet égard, les opérateurs qui mettent à libre disposition des générateurs de contenus artificiels ont une part de responsabilité. Cela pose la question de la labellisation des contenus, à laquelle nous sommes a priori favorables.

Compte tenu du champ des compétences dévolues à Viginum, nous concentrons notre action sur la détection avec un haut niveau de confiance des contenus générés par l’intelligence artificielle. J’y reviendrai en présentant notre action en matière d’éducation du grand public.

Avant d’aborder la question de la menace domestique, point sensible s’il en est, je rappelle que le périmètre de Viginum se limite aux manœuvres impliquant des acteurs étrangers. Vous avez souligné à juste titre, monsieur le rapporteur, que les responsables de la menace domestique avaient l’avantage de très bien connaître les thématiques d’actualité en France ; je note que les acteurs étrangers impliqués dans des campagnes nous visant connaissent aussi très bien notre histoire, notamment sur le continent africain, et les vulnérabilités de notre débat public. Comme les acteurs nationaux, ils jouent beaucoup sur les divisions de la société. L’Azerbaïdjan, par exemple, suit de très près l’actualité dans nos territoires ultramarins et cherche à instrumentaliser tous les faits divers et événements qui s’y produisent ainsi que tous les mouvements et idées indépendantistes pour y déstabiliser la position de la France.

La France a eu l’occasion à au moins deux reprises de dénoncer ces activités répétées : en mai 2024, lors de la publication par Viginum d’une fiche technique dénonçant les manœuvres de l’Azerbaïdjan au moment des contestations sur le Caillou, et en décembre 2024, dans un rapport d’analyse portant sur le Baku Initiative Group, l’organe de propagande d’État de l’Azerbaïdjan, qui est très actif dans nos territoires ultramarins.

S’agissant de l’épisode des mains rouges, permettez-moi de revenir un peu en arrière. Le premier phénomène qui a interpellé tout le monde, c’est en réalité les fameuses étoiles de David.

M. Antoine Léaument, rapporteur. Les mêmes méthodes sont à l’œuvre.

M. Marc-Antoine Brillant. Exactement. À l’époque, Viginum, en lien avec le ministère de l’Europe et des affaires étrangères et le ministère de l’intérieur, a joué un rôle central dans la détection de cette tentative d’ingérence numérique étrangère : la diffusion artificielle et automatisée, par 1 095 faux comptes X reliés à l’opération russe Doppelgänger, de deux photos montrant des étoiles peintes au pochoir dans les rues de Paris, alors que le sujet n’avait pas émergé dans les médias.

Une enquête est en cours, ce qui m’empêche de me prononcer plus avant. Mais cet épisode a permis d’inoculer une forme de vigilance renforcée et d’alerter sur le fait que ce type d’action pouvait émaner d’acteurs étrangers. Lorsque les mains rouges sont arrivées, quelques mois plus tard, les médias, forts du précédent des étoiles bleues de David, ont été plutôt prudents dans la gestion du sujet.

M. Antoine Léaument, rapporteur. Il me semble qu’on peut dresser un parallèle avec le narcotrafic : la diminution de la consommation est une question centrale, et elle appelle davantage de formation.

En matière d’ingérence s’ajoute une difficulté : l’indifférence n’étant pas une option, comment réagir à ces actes odieux sans leur donner d’ampleur ? Car c’est bien là l’objectif de ces ingérences : inciter les acteurs nationaux à donner de l’ampleur à une information pour diviser la société française de l’intérieur. Vous dites que les médias ont appris et ont fait évoluer leur présentation des sujets, mais les chaînes d’information en continu, en particulier, sont friandes de ce genre d’événements d’actualité chaude, susceptibles de créer du débat.

Disposez-vous d’une capacité d’alerte renforcée des médias lorsque vous suspectez une tentative d’attaque étrangère ?

M. Marc-Antoine Brillant. Cela rejoint votre question sur nos liens avec les médias. Quel que soit le support médiatique utilisé, ils font désormais naturellement appel à notre expertise quand leur cellule de fact-checking détecte des phénomènes de cette nature, afin de s’assurer qu’ils ne commettent pas d’impair en valorisant ce qui est en réalité une manœuvre d’ingérence. En dénonçant publiquement les modes opératoires de campagnes adverses et en exposant des acteurs étrangers qui cherchent à rester dans l’ombre, Viginum, avec ses partenaires au niveau interministériel, a agi comme on l’attend dans un État de droit : cette transparence fonde sa légitimité. Nous avons d’ailleurs la chance d’avoir un comité éthique et scientifique, présidé par un membre du Conseil d’État, qui formule des recommandations et a accès à toutes nos productions. Ce modèle de transparence renforce encore notre crédibilité.

S’agissant de la sensibilisation et de la formation, permettez-moi de dresser un parallèle avec la chevalerie. Viginum est un bouclier ; on peut toujours chercher à avoir le bouclier le plus large possible, mais il faut avant tout s’assurer que l’épée de l’adversaire ne touche jamais la cible – l’opinion publique. Un des moyens de le faire est que nos concitoyens soient parfaitement au courant de l’existence de la menace informationnelle et des modes opératoires à l’œuvre, afin qu’ils sachent sinon distinguer le vrai du faux, du moins douter face à un contenu et le vérifier.

Nous nous y attelons depuis un peu plus d’un an, par plusieurs actions. J’en profite pour saluer le travail de mes agents, grâce auxquels nous entretenons des relations de qualité avec les médias et l’éducation nationale. Une agente, en particulier – je préfère ne pas dévoiler son nom –, effectue un travail formidable en matière d’éducation aux médias.

Nous travaillons étroitement avec la direction générale de l’enseignement scolaire (DGESCO) et d’autres entités du ministère de l’éducation nationale pour offrir aux collégiens et lycéens des contenus en éducation morale et civique. À la rentrée 2025, 800 000 élèves de quatrième, une classe charnière en matière d’instruction civique, bénéficieront ainsi de contenus de sensibilisation à la menace informationnelle. Nous avons également collaboré avec les éditions Hatier, dont les manuels d’histoire-géographie intégreront une page plutôt ludique de sensibilisation à la manipulation de l’information.

Nous travaillons aussi avec les médias, en particulier avec Arte, qui a publié il y a environ deux mois, sur sa plateforme Educ’Arte, une fiche pédagogique pour accompagner les enseignants dans la confection d’un module de formation à la menace informationnelle.

Nous avons collaboré avec le Campus cyber sur le Osint Project, une petite plateforme pouvant s’intégrer aux espaces numériques de travail de l’éducation nationale et permettant aux élèves de se familiariser à la menace informationnelle et de s’entraîner à la recherche en source ouverte grâce à trois défis ludiques qui mettent en jeu quelques techniques très simples.

Enfin, nous avons débuté un partenariat avec le Centre de liaison de l’enseignement et des médias d’information (Clemi) pour créer huit podcasts fictionnés présentant des modes opératoires dévoilés publiquement par Viginum, toujours dans un esprit de sensibilisation des plus jeunes.

Nous n’en sommes qu’au commencement, il reste beaucoup à faire et toutes les parties prenantes sont demandeuses d’un accompagnement plus structuré. J’en profite pour faire la publicité du grand forum académique que nous organisons le 28 mars prochain avec tous les acteurs concernés. L’objectif est de fédérer un écosystème de la lutte contre les manipulations de l’information, qui pourra, à l’avenir, intervenir en toute autonomie pour sensibiliser et informer le grand public.

M. le président Thomas Cazenave. Si j’ai bien compris, vous pariez sur la transparence et la sensibilisation des utilisateurs des réseaux sociaux, afin qu’ils sachent détecter un contenu manipulé, plutôt que sur le traitement à la source des manœuvres d’ingérence.

Vous estimez que le rôle de Viginum consiste à détecter et à caractériser les manœuvres ; une fois que nous y sommes confrontés, votre priorité n’est pas tant de les faire cesser – peut-être parce que vous n’en avez pas les moyens, ou que c’est impossible – que de vous assurer que ceux qui reçoivent l’information savent la mettre à distance ou la contester.

M. Marc-Antoine Brillant. Nous jouons en fait à la fois sur la protection et la sensibilisation, car nous ne pourrons neutraliser les effets de la menace informationnelle qu’en adoptant une approche globale.

D’une part, nous cherchons à renforcer nos capacités opérationnelles pour détecter le plus en amont possible les campagnes adverses. C’est pourquoi nous nous concentrons sur les modes opératoires et leur origine – animation de réseaux de faux comptes, utilisation de l’intelligence artificielle générative, création de noms de domaines frauduleux avec la technique du typosquatting. S’intéresser au contenu, c’est déjà être en réaction. Pour essayer de tarir la menace à la source, il faut anticiper autant que possible.

Il faut aussi prendre en compte la croissance des usages numériques. Par exemple, les 18-24 ans ont tendance à accéder à l’information par leurs comptes de réseaux sociaux, alors que ma génération se tourne davantage vers des médias traditionnels. Viginum doit rester à jour de l’état de l’art en matière de menace informationnelle.

Comme dans toute crise, il faut traiter à la fois les causes – c’est le volet protection, que je viens d’expliquer – et les effets : c’est l’objet de notre travail de sensibilisation et de formation des médias et des acteurs de l’éducation nationale, qui vise à élever le niveau de vigilance et de résilience de la société.

M. le président Thomas Cazenave. Mais en ce qui concerne le premier levier, une fois que vous avez identifié une opération, caractérisé une manipulation de l’étranger, de quels moyens disposez-vous pour faire cesser l’émission à la source ? Est-ce seulement possible ? Si une plateforme ne bloque pas les comptes concernés, comment pouvons-nous réagir concrètement à l’échelle nationale ? J’ai l’impression que nous sommes parfois un peu démunis.

M. Marc-Antoine Brillant. Une campagne de manipulation de l’information se compose de trois blocs : le mode opératoire et les opérateurs – c’est l’origine –, la cible, c’est-à-dire notre opinion publique – ce sont les effets –, et, au milieu, les plateformes en ligne – le lieu d’hébergement du débat public numérique, l’endroit où les choses se passent. Pour jouer sur ces trois blocs, nous disposons de trois leviers : vis-à-vis des opérateurs de la campagne, la protection ; vis-à-vis des opérateurs de plateformes, la régulation ; vis-à-vis de la cible, la sensibilisation, l’information et la résilience.

Lors des campagnes que Viginum a pu détecter et caractériser, qu’elles aient été prorusses – Matriochka, Portal Kombat, Doppelgänger – ou azerbaïdjanaises – le Baku Initiative Group –, nous avons contribué, en les signalant aux plateformes, à la suspension de près de 600 000 comptes. La réalité n’est pas noire ou blanche, il y a souvent des zones grises. Certes, notre relation avec les plateformes en ligne est parfois asymétrique ; mais, jusqu’à présent du moins, lorsque nous leur avons signalé des comportements inauthentiques, elles ont agi en suspendant les comptes. Cela a notamment poussé l’acteur azerbaïdjanais à s’adapter en recourant plutôt aux médias d’État d’Azerbaïdjan pour relayer ses campagnes relatives à la Nouvelle-Calédonie. Nous croyons donc à l’efficacité de ce levier-là.

S’y ajoutent les moyens offerts par le DSA, qui est un instrument non de gestion de crise, mais d’atténuation des risques : il sert non à la confrontation avec les plateformes, mais à les accompagner dans l’atténuation des risques systémiques représentés par l’utilisation malveillante des solutions qu’elles proposent. À cette fin, il permet le recours à différents outils selon une démarche progressive, jusqu’à la fameuse amende de 6 % du chiffre d’affaires mondial. En cas de manœuvres répétées face auxquelles le manque de volonté d’agir de la plateforme est caractérisé, il est possible d’aller jusqu’à suspendre la diffusion d’une plateforme : le juge du pays où se passe la campagne, sollicité, peut décider cette suspension pour une durée de quatre semaines renouvelables.

M. le président Thomas Cazenave. L’existence d’un type de manœuvre consistant à jeter le doute sur la bonne tenue des élections compromet-elle la possibilité de généraliser le vote par internet en France ?

Considérez-vous que vous disposez de tous les moyens – prérogatives et ressources humaines – permettant de mener à bien votre mission compte tenu de la menace ? Quelle est notre situation de ce point de vue par rapport aux autres pays, notamment européens ?

M. Marc-Antoine Brillant. Le vote par internet, à distinguer de l’utilisation des machines à voter, a fait l’objet, comme ces dernières, de beaucoup de critiques outre-Atlantique, notamment pendant la campagne électorale de 2020, marquée par le narratif « steal the vote ». Ces deux procédés renvoient à la question centrale de la confiance des citoyens dans la procédure électorale.

Ce n’est pas le rôle de Viginum de travailler sur cette question, mais à titre personnel, comme citoyen, je trouve que le vote papier est une très bonne chose si l’on veut garantir la crédibilité de la procédure électorale. Guillaume Poupard, ancien directeur général de l’Anssi, et son successeur ont soulevé le problème. À partir du moment où une pratique est numérisée, le risque n’est jamais entièrement écarté.

Quant aux moyens nécessaires à Viginum, ils dépendent moins de nos besoins que de ce qu’il nous reste à faire pour que la réponse de l’État à la menace soit encore plus performante

Premièrement, massifier l’information donnée au grand public sur les modes opératoires. Nous avons déjà pris des initiatives en ce sens, mais il faut aller plus loin. Beaucoup d’actions sont possibles. On pourrait notamment réfléchir à la création d’un site internet et à des campagnes de sensibilisation sur le modèle de ce qui se fait en matière de sécurité routière.

Deuxièmement, outiller la société civile. Un peu de publicité pour nos data scientists : l’un des outils que développe notre Datalab, appelé 3-delta, permet de détecter la duplication inauthentique de contenus grâce à des procédés d’intelligence artificielle. Nous en avons fait un dérivé que nous avons publié sur GitHub pour l’offrir à la société civile – c’était inédit – à l’occasion du sommet sur l’IA de février dernier, afin qu’elle puisse s’en saisir et, éventuellement, l’améliorer. De fait, il a déjà été utilisé par des acteurs étrangers. Forts du succès de ce coup d’essai, nous aimerions développer plus d’outils et en publier davantage au profit des médias, du monde académique et de nos partenaires étrangers. Cet axe important suppose évidemment des moyens, notamment en data science. Et pourquoi ne pas créer demain un centre d’excellence dans le domaine de l’IA ?

Troisièmement, fonder une académie de la lutte contre les manipulations de l’information, qui permettrait à la fois de former le grand public et d’accompagner nos partenaires hors de France. Viginum, qui est presque unique non seulement en Europe, mais dans le monde, est en effet très sollicité par des partenaires étrangers qui voudraient développer leurs compétences dans ce domaine et se doter d’outils comparables aux nôtres.

Notre seul homologue est l’Agence de défense psychologique, en Suède, avec laquelle nous entretenons des liens. Elle a vraiment un temps d’avance concernant la résilience de la société et les programmes d’accompagnement qui y contribuent. Dans la plupart des autres États membres de l’Union européenne, il existe plutôt des structures de communication stratégique, principalement dans les ministères des affaires étrangères.

La France a la chance d’avoir un outil qui fonctionne dans le respect de l’État de droit. Nous espérons inspirer nos partenaires pour que des Viginum se créent ailleurs.

M. le président Thomas Cazenave. Pourquoi a-t-on limité votre mission au risque d’ingérence étrangère alors que la menace intérieure pourrait utiliser exactement les mêmes moyens pour les mêmes objectifs au moment d’échéances électorales ? Pourquoi ne pas avoir chargé Viginum de surveiller le risque de manipulation en général ?

M. Marc-Antoine Brillant. La manipulation de l’information est un sujet sensible en démocratie, car lié à la question de la liberté d’opinion et d’expression, au débat d’opinion. Elle l’est beaucoup plus que les enjeux cyber en matière d’attaques informatiques.

Lorsque Viginum a été créé, en juillet 2021 – neuf mois avant le début des scrutins de 2022 –, il ne fallait surtout pas que ce service puisse être apparenté à un ministère de la vérité, à une agence de censure du débat public. D’où la manière dont on a défini sa mission de sorte qu’elle relève de la sécurité nationale, en ajoutant deux critères à la notion de manipulation de l’information. L’attention au cadre d’emploi, au volet juridique et au volet d’accompagnement éthique ont alors permis d’éviter cet écueil, ainsi que la transparence et la pédagogie, notamment vis-à-vis des médias.

La menace domestique est réelle, mais relève plutôt du ministère de l’intérieur, qui dispose des capacités nécessaires pour suivre notamment les réseaux complotistes. À cet égard, la gouvernance interministérielle pilotée par le SGDSN prend tout son sens : face à cette menace, nous nous coordonnons avec les différents opérateurs de l’État, sachant que notre domaine de compétence reste limité à l’ingérence numérique étrangère.

Par ailleurs, si nous sommes certes attentifs à l’enjeu électoral, notre mission est plus large : elle s’étend à la détection et à la caractérisation des ingérences numériques étrangères en tout temps et en tout lieu, notre mandat particulier en matière électorale consistant à nous assurer que l’information n’a pas été altérée et à fournir toute information utile à l’Arcom et à la CNCCEP.

M. le président Thomas Cazenave. C’est donc au ministère de l’intérieur de signaler à l’Arcom, ou au juge dans le cadre du DSA, une tentative manipulatoire à partir de faux comptes sur les réseaux sociaux, avec les mêmes prérogatives et moyens que vous, mais s’agissant d’acteurs nationaux ?

M. Marc-Antoine Brillant. Sans dévoiler les moyens du ministère de l’intérieur, que je ne connais d’ailleurs pas tous, il a effectivement ce mandat. Il l’exerce par l’intermédiaire de sa plateforme Pharos (plateforme d’harmonisation, d’analyse, de recoupement et d’orientation des signalements), dont la création était un acte précurseur face à la menace numérique et qui traite les contenus illicites à partir d’un peu plus de 200 000 signalements par an. Pharos fonctionne très bien ; nous avons signé une convention de partenariat avec elle en décembre 2023. Avec les services du ministère de l’intérieur comme avec l’Arcom, nous essayons de créer un front uni, Viginum se chargeant des comportements inauthentiques, Pharos des contenus illicites en fonction de la réglementation qui leur est propre. La coordination est plutôt bonne.

M. Antoine Léaument, rapporteur. Nous avons beaucoup parlé de l’astroturfing sur les plateformes en ligne, que vous qualifiez de lieu du débat numérique, mais ce comportement existe aussi ailleurs, par exemple dans les espaces commentaires des médias ou sur les forums de jeu vidéo. Agissez-vous aussi sur ces canaux ou considérez-vous qu’ils ont moins d’influence sur le débat numérique, ce qui vous amènerait à concentrer vos moyens sur les plateformes de réseaux sociaux ?

Certains pays nous ciblent-ils plus que d’autres en ce moment ? Il y a beaucoup de débats sur l’ingérence étrangère et sur l’éventualité d’une situation qui pourrait mener à une guerre.

Concernant l’outillage de la société, Europe 1 a annoncé – mais je ne sais plus quelle information croire ! – qu’un manuel de survie face à un conflit armé allait être envoyé à tous les citoyens français d’ici l’été. Si cette information est avérée, y avez-vous participé ? Ne pourrait-il servir d’outil de formation rapide ?

Vous avez cité le nom de votre homologue suédois, l’Agence de défense psychologique. De même que les compétences psychosociales sont considérées par les scientifiques comme utiles pour ne pas commencer à consommer des stupéfiants, la défense individuelle et collective contre les fausses informations comporte un aspect psychologique essentiel : l’esprit critique, la capacité à prendre de la distance vis-à-vis d’une information. C’est sans doute l’outil le plus puissant pour lutter contre les ingérences étrangères.

Je me souviens très bien que quand Viginum a été créé, dans la perspective de l’élection présidentielle, je me méfiais de cette agence d’État qui allait surveiller les contenus numériques, de ce côté « ministère de la vérité » dont vous avez parlé. Avez-vous travaillé sur cette question ? Comment faire que des gens comme moi, qui ont développé un certain esprit critique, ne rejettent pas une telle agence, laquelle ne doit pas aller dans le sens du gouvernement ou de tel ou tel parti politique, mais servir les citoyens français ? Comment créer la confiance des partis d’opposition ?

M. Marc-Antoine Brillant. Le champ de compétence de Viginum correspond aux opérateurs de plateformes en ligne au sens du code de la consommation, qui ne se réduisent pas aux plateformes de réseaux sociaux. Ainsi, notre rapport de juin 2024 sur Matriochka montre que cette opération jouait notamment sur les commentaires des publications. Nous nous efforçons de rester à l’état de l’art de l’ensemble des modes opératoires, notamment ceux qui portent sur les commentaires.

Notre service est technique : ce n’est pas à nous d’attribuer une campagne à un État, c’est une décision de nature politique. Pour l’Azerbaïdjan et la Russie, la démarche s’est faite en coordination avec le ministère de l’Europe et des affaires étrangères et avec nos autres partenaires au niveau interministériel. L’attribution ne repose pas seulement sur un travail de caractérisation en source ouverte comme le nôtre, mais aussi sur des techniques de renseignement. Notre rôle est de repérer un faisceau d’indices concordants qui pointent vers un mode opératoire, alors que celui des services de renseignement consiste à obtenir une preuve qui permet d’imputer ce mode opératoire à un commanditaire ; enfin, le politique attribue la campagne à un acteur. Voilà la chaîne que nous essayons de mettre en œuvre.

En ce qui concerne le manuel de survie en cas de crise dont vous parlez, je n’y ai pas été associé ; j’ai vu passer l’information, je la découvre comme vous et, comme vous, j’ignore même si elle est vraie. La Suède et les pays baltes ont publié ce type de manuel.

Je suis personnellement très attaché à l’esprit critique à la française, qui m’a été enseigné à l’école publique. Vous avez raison : continuer de le transmettre dans le cadre du parcours scolaire est peut-être le meilleur vaccin possible contre les fausses informations.

Quant à la méfiance que peut susciter Viginum – j’espère que la vôtre s’est dissipée, monsieur le rapporteur –, je l’ai toujours en tête : je ne considère pas notre légitimité comme un acquis, elle doit être entretenue et défendue. D’abord en nous cantonnant au mode opératoire sans jamais nous occuper du contenu, lequel relève de la société civile, en particulier du fact-checking effectué par les médias – ils font cela très bien et le feront toujours mieux qu’une agence de l’État. Pour le dire de façon caricaturale, ce n’est pas à l’État de dire si une information est vraie ou fausse.

Comme nous avions ce risque à l’esprit dès la création de Viginum, nous avons choisi, je l’ai dit, un cadre d’emploi très solide juridiquement et sur le plan éthique. Il repose sur deux décrets : le décret de création de Viginum, pris en conseil des ministres, et un décret en Conseil d’État pris après avis de la Commission nationale de l’informatique et des libertés (Cnil) qui nous autorise à procéder à un traitement automatisé de données à caractère personnel en en limitant la durée de conservation grâce à une suppression automatisée des contenus. Nous ne travaillons pas sur des individus, mais sur des comptes, des pages web, des sites web, des profils.

Nous œuvrons aussi beaucoup de concert avec les médias et nous y dénonçons des campagnes.

Enfin, notre comité éthique et scientifique est destinataire non seulement de toutes nos productions, mais aussi de nos modalités de collecte de données à caractère personnel, et publie un rapport, dont le dernier date de 2023.

M. le président Thomas Cazenave. Je vous remercie pour vos réponses nombreuses et fournies.

La séance s’achève à dix-sept heures trente.

———

Membres présents ou excusés

Présents. - M. Thomas Cazenave, M. Antoine Léaument.