— 1 —

La commission procède à l’examen, ouvert à la presse, et au vote sur la proposition de résolution européenne n° 2939.

La séance est ouverte à 10 h 00

Présidence de M. Alain David, vice-président.

M. Alain David, président. Chers collègues, je vous prie d’excuser le président de notre commission, qui est allé rejoindre en Pologne, à l’invitation du président Pawel Kował, ses homologues du triangle de Weimar. Eu égard à l’importance de ces relations trilatérales, nous ne pouvons que comprendre qu’il ait répondu présent et je ne doute pas qu’il nous fera part des enseignements de la mission qu’il est parti effectuer.

La proposition de résolution européenne en faveur d’un traité juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d’armes autonomes et de l’élaboration d’une position commune européenne sur ce sujet a été déposée sur le bureau de l’Assemblée nationale par nos collègues Pierre Pribetich et Anna Pic, le président Boris Vallaud et les membres du groupe Socialistes et apparentés le 5 mai, avant d’être adoptée par la commission des affaires européennes le 17 juin. En application de l’article 151-6 du règlement de l’Assemblée nationale, notre commission, compétente sur le fond, dispose d’un délai d’un mois à compter de l’examen de la proposition de résolution par la commission des affaires européennes pour l’examiner à son tour et adopter un texte éventuellement modifié.

La proposition de résolution traite de l’un des enjeux les plus sensibles du développement de l’intelligence artificielle dans le domaine militaire, à savoir les systèmes d’armes létales autonomes, dits « SALA ». Le texte invite l’Union européenne (UE) à promouvoir la conclusion d’un traité international juridiquement contraignant qui prévoirait des interdictions et des réglementations en la matière et à élaborer une position commune.

La problématique centrale est la capacité croissante de certains systèmes militaires à sélectionner et à engager des cibles avec un niveau d’autonomie de plus en plus élevé. Cette évolution soulève des questions majeures de droit, d’éthique et de sécurité internationale et pousse à s’interroger sur la recherche des responsabilités en cas de dommages collatéraux ou de violations du droit international humanitaire ainsi que sur le risque de délégation à des machines de décisions impliquant l’usage de la force létale. Le maintien d’un contrôle humain significatif sur les décisions de vie ou de mort est un principe fondamental qui doit être préservé.

L’examen du texte par la commission des affaires européennes a montré l’existence d’un large accord sur la nécessité d’encadrer le développement des armes autonomes. Plusieurs intervenants ont souligné que les progrès rapides de l’intelligence artificielle rendaient urgente l’adoption de règles internationales claires afin d’éviter une course aux armements se caractérisant par l’autonomie des systèmes de combat. Toutefois, des nuances sont apparues quant à la portée de l’encadrement souhaitable. Certains groupes politiques ont insisté sur la nécessité d’interdire les systèmes capables de prendre seuls des décisions létales, estimant qu’une telle délégation serait contraire aux principes du droit international humanitaire. D’autres groupes, en revanche, ont mis en garde contre une réglementation trop restrictive qui pourrait pénaliser les capacités de défense européennes ou freiner l’innovation technologique dans un contexte international marqué par la compétition stratégique et le réarmement de certaines puissances.

À l’échelle internationale, les discussions sur les systèmes d’armes autonomes se déroulent principalement dans le cadre de la convention sur certaines armes classiques (CCAC), sous l’égide d’un groupe d’experts gouvernementaux se réunissant à Genève. L’année 2026 est considérée comme décisive puisque les États parties doivent tenter de s’accorder sur les éléments d’un futur instrument international avant la conférence d’examen de la convention, prévue en novembre. Cependant, les négociations demeurent difficiles. Malgré des avancées récentes, la perspective d’un accord international complet dès 2026 demeure incertaine, même si la pression diplomatique s’accroît à mesure que les technologies concernées se diffusent sur les théâtres de conflit.

La proposition de résolution défend l’idée d’une position européenne commune pour renforcer le poids diplomatique des États membres dans les négociations. L’objectif est de permettre à l’Europe de parler d’une seule voix pour promouvoir un cadre juridique international garantissant à la fois la protection des populations civiles, le respect du droit humanitaire et la maîtrise des usages militaires de l’intelligence artificielle. En définitive, cette proposition de résolution illustre la difficulté de concilier innovation technologique, impératifs de sécurité et exigences éthiques. Elle témoigne en outre de la volonté de faire de l’Union européenne un acteur jouant un rôle moteur dans la définition des règles internationales applicables aux systèmes d’armes autonomes.

Notre collègue Pierre Pribetich va nous faire part du travail qu’il a accompli au sein de la commission des affaires européennes et de ses conclusions dans le cadre du mandat que lui a confié notre commission sur ce texte.

M. Pierre Pribetich, rapporteur. Pendant des siècles, la guerre est restée une tragédie humaine. Demain, elle pourrait aussi faire l’objet de décisions algorithmiques incontrôlables. Ce qui relevait hier encore de la science-fiction, c’est-à-dire l’usage de systèmes d’armes capables d’identifier une cible, de la sélectionner, de décider seuls et de tuer sans intervention humaine, est désormais une perspective bien réelle. L’intelligence artificielle (IA) et ses capacités de calcul assistent dès maintenant le combattant, l’accompagnent pour faciliter son travail. Demain, si nous n’y prenons pas garde, l’intelligence artificielle pourrait remplacer le combattant au moment le plus grave qui soit, celui où l’on décide ou non de donner la mort.

Les progrès réalisés en matière d’intelligence artificielle rendent crédible une telle perspective, qui relevait jusque-là de l’anticipation. En effet, les avancées technologiques réduisent progressivement l’écart entre l’aide à la décision et ce qu’on appelle en électronique et en automatique l’autonomie décisionnelle. Alors que l’IA assiste dès maintenant les opérateurs, elle pourrait concrètement remplacer l’humain dans des décisions de ciblage et d’ouverture du feu. Une levée de fonds incroyable a eu lieu avant-hier pour une start-up fondée en 2021, Helsing, qui développe des logiciels d’IA pour les forces armées et, surtout, les drones autonomes, les fameux HX-2. Cette société a levé en très peu de temps 1,6 milliard d’euros. On mesure bien l’intérêt des constructeurs, notamment, pour de tels accompagnements et facilités technologiques.

La guerre d’agression menée par la Russie contre l’Ukraine illustre aussi, hélas, cette dynamique. Le conflit a accéléré le développement et le déploiement de fonctions autonomes intégrées à des drones et à d’autres systèmes de défense, en démontrant à la fois l’intérêt opérationnel de ces technologies, leur faible coût et la rapidité à laquelle elles évoluent. La guerre menée par la Russie montre que les évolutions dans ce domaine ne sont pas que théoriques. Les drones autonomes, les fonctions d’intelligence artificielle dites embarquées et l’accélération permanente de l’innovation militaire changent totalement la manière de faire la guerre. L’asymétrie du conflit, au départ, a forcé les Ukrainiens à utiliser de nouvelles armes, dites low cost, comme les drones, et leur génie a transformé un conflit asymétrique classique en une nouvelle forme de guerre. Les coûts ont diminué et les capacités se sont accrues mais les garde-fous peinent à suivre. Comme en 1968, l’imagination est au pouvoir. La résistance du peuple ukrainien alimente sa créativité.

La question dépasse largement l’application de la technologie. Elle est d’abord profondément politique, d’où le rôle qu’il nous revient de jouer. Mais elle est surtout éthique, voire philosophique. Depuis Platon, nous savons que la force ne peut être légitime que lorsqu’elle demeure au service de la justice. Or une machine ne connaît ni la justice, ni le doute, ni la responsabilité. C’est pourquoi la décision de donner la mort ne peut jamais, à mon sens, lui être abandonnée. Le développement de ce qu’on appelle les armes autonomes létales soulève donc des interrogations majeures.

Une question éthique fondamentale se pose, car la décision de recourir à la force létale constitue l’une des responsabilités les plus graves qui peuvent incomber à un être humain. Déléguer une telle décision à une machine dépourvue de conscience morale reviendrait à franchir un seuil inédit dans l’histoire de la guerre.

Les enjeux sont également stratégiques. L’autonomisation croissante des armements pourrait contribuer à abaisser le seuil du recours à la force en réduisant le coût humain immédiat des opérations militaires. Cela risque aussi d’alimenter une course mondiale sans fin aux armements reposant sur l’intelligence artificielle tout en favorisant la prolifération de ces technologies, y compris entre les mains d’acteurs non étatiques.

Ces préoccupations sont d’autant plus fortes que les systèmes d’armes létales autonomes ne font actuellement l’objet d’aucun instrument international juridiquement contraignant qui leur serait spécifiquement consacré. Certes, les SALA, autrement appelés robots tueurs, sont réputés se conformer au droit international humanitaire issu des conventions de Genève de 1949 et de leurs protocoles additionnels. Comme l’a rappelé la Cour internationale de justice, dans un avis consultatif de 1996, la nouveauté d’une arme ne permet pas de s’affranchir des règles existantes du droit international applicable aux conflits armés. Les systèmes d’armes autonomes demeurent donc soumis au droit international humanitaire, en particulier les principes de distinction, de proportionnalité et d’humanité. Toutefois, l’effectivité de ces principes apparaît difficilement conciliable avec le développement de systèmes susceptibles d’agir sans intervention humaine. Leur autonomie décisionnelle soulève une difficulté supplémentaire : celle de l’attribution juridique de la responsabilité en cas de violation internationale du droit humanitaire.

Consciente de ces enjeux, la communauté internationale a engagé dès 2013 des discussions dans le cadre de la convention sur certaines armes classiques. Cette enceinte, qui réunit 126 États parties, constitue peut-être le cadre de négociation le plus approprié pour répondre aux questions juridiques et éthiques soulevées par les systèmes d’armes autonomes. Elle a en effet deux atouts majeurs. D’une part, elle offre une représentation équilibrée de l’ensemble des acteurs concernés, y compris les États dotés des capacités les plus avancées sur le plan technologique, comme les États-Unis, la Russie et la Chine. D’autre part, son architecture juridique permet l’adoption de protocoles additionnels à la convention-cadre de 1980.

Les négociations menées sous la conduite d’un groupe d’experts gouvernementaux ont permis plusieurs avancées importantes, auxquelles la France a largement contribué. Elles ont ainsi fait émerger progressivement un consensus autour d’un socle de principes directeurs, synthétisé dans un texte évolutif présenté lors de la conférence d’examen de novembre 2024, onze ans après le début des négociations, puis régulièrement actualisé. Ces principes réaffirment que le droit international humanitaire s’applique pleinement aux systèmes d’armes dotés d’une autonomie et que leur emploi doit toujours relever d’une responsabilité humaine. Endossées par consensus, ces orientations posent la base d’un futur instrument juridique contraignant. Toutefois, les discussions restent fragiles. Les États parties restent profondément divisés, tant sur la définition même de ce qu’on appelle les robots tueurs que sur la pertinence d’un futur traité international. Certains États plaident pour une interdiction de ces systèmes tandis que d’autres privilégient de simples lignes directrices non contraignantes, et le fonctionnement par consensus dans le cadre de la CCAC complique toute avancée rapide.

La prochaine conférence d’examen de la convention, prévue en novembre 2026, constituera une échéance déterminante. Les États parties devront notamment se prononcer sur le renouvellement du mandat du groupe d’experts gouvernementaux chargé de conduire les négociations. C’est dans cette perspective et dans le respect de la séparation des pouvoirs entre l’exécutif, le législatif et l’autorité judiciaire que s’inscrit la proposition de résolution qui nous est soumise.

Elle appelle à l’adoption d’un traité international juridiquement contraignant au sujet des robots tueurs, qui devrait interdire les systèmes ne pouvant être développés ou employés, du fait de leur nature, dans le respect du droit international humanitaire. Le traité viserait également à encadrer les systèmes dotés de fonctions d’autonomie en garantissant un contrôle humain effectif tout au long de leur cycle de vie, de leur conception à leur emploi opérationnel. Ce contrôle ne saurait être purement formel. Il suppose que l’autorité humaine conserve une compréhension suffisante du fonctionnement du système, exerce une véritable supervision et puisse arrêter son action avant tout recours à la force létale.

L’action internationale ne saurait toutefois se limiter au seul cadre offert par la CCAC. D’autres instances, qui offrent plus largement un cadre propice à une réglementation ambitieuse des systèmes d’armes autonomes, se sont en effet saisies de la question. L’Assemblée générale des Nations unies a ainsi adopté en 2024 et 2025 plusieurs résolutions qui témoignent d’une volonté de faire progresser les réflexions. L’Union européenne a aussi un rôle essentiel à jouer. Le Parlement européen s’est déjà prononcé sur les robots tueurs en 2018 et 2021. L’émergence d’une position européenne commune renforcerait considérablement la capacité de l’UE à peser dans les négociations internationales et à promouvoir une réglementation conciliant les impératifs stratégiques, le respect du droit international humanitaire et les exigences éthiques qui fondent le droit des conflits armés.

L’innovation technologique ne peut se faire au détriment de nos principes fondamentaux. Il est de notre responsabilité de législateur, dans le respect de la séparation des pouvoirs, d’anticiper les évolutions afin que le progrès scientifique demeure compatible avec les exigences du droit international humanitaire et avec les valeurs que, je crois, nous défendons tous. Je vous invite donc à adopter cette proposition de résolution européenne.

M. Alain David, président. Nous en venons aux interventions des orateurs des groupes.

M. Michel Guiniot (RN). Cette proposition de résolution européenne vise à promouvoir la conclusion d’un traité juridiquement contraignant qui prévoirait des interdictions et des réglementations au sujet des systèmes d’armes autonomes et à demander l’élaboration d’une position commune européenne en la matière.

Avec l’avènement de l’intelligence artificielle, qui devient omniprésente dans notre quotidien, il est tout à fait légitime de se demander où est et, plus encore, où sera la limite dans ce domaine. Si l’IA remplace peu à peu l’homme dans ses tâches administratives et ses corvées, est-il envisageable de l’inclure également dans les missions les plus risquées, pour se substituer à l’humain sur le champ de bataille, voire prendre l’initiative d’ôter une vie ? La première des lois de la robotique établies en 1942 par Isaac Asimov était qu’un robot ne peut porter atteinte à un être humain. L’idée qu’un robot pourrait atteindre ce degré d’autonomie relevait alors de la science-fiction, mais nous y sommes. Nous avons appris en juin 2026, par le biais de l’ambassade d’Ukraine, que ce type de robot fonctionne depuis 2024, en dehors de tout cadre juridique. La guerre menée en Ukraine se déshumanise ainsi au plus haut point.

La France s’oppose catégoriquement au développement de systèmes d’armes létales autonomes depuis 2019. En soutenant la présente proposition de résolution, le Rassemblement national ne fait que défendre cette ligne sur le plan international. Si une action létale autonome est tolérée en période de guerre, quand se posera-t-on la question pour les temps de paix ? Malgré notre soutien au texte, nous regrettons que la position de la France soit une fois encore diluée au sein d’une doctrine européenne.

M. Pierre Pribetich, rapporteur. Merci pour votre soutien à la proposition de résolution. Nous ne partageons pas, chacun le sait, certaines positions, notamment en ce qui concerne l’Europe, mais les vôtres doivent aussi être respectées.

M. Vincent Ledoux (EPR). Je tiens à saluer le travail mené par le rapporteur, qui est vraiment très éclairant à propos des enjeux et a le mérite de mettre en avant une question qui ne relève plus, cela a été dit, de la science-fiction mais de l’actualité stratégique. L’essor de l’intelligence artificielle dans le domaine militaire nous oblige à réfléchir dès aujourd’hui au cadre juridique, éthique et politique qu’il faudrait construire. Nous partageons tous, je crois, la conviction qu’aucun système d’armes ne devrait pouvoir décider seul de la vie ou de la mort d’un être humain. Le maintien d’un contrôle humain constitue un principe essentiel auquel la France est profondément attachée.

L’examen des travaux conduits depuis plusieurs années dans le cadre de la convention sur certaines armes classiques montre que notre pays, comme vous l’avez souligné, monsieur le rapporteur, joue un rôle moteur dans la réflexion internationale. Il est important que le Parlement accompagne cette dynamique et je me réjouis à cet égard que les travaux de la commission des affaires européennes aient permis de clarifier plusieurs points importants, comme la distinction entre les systèmes d’armes létaux pleinement autonomes et les systèmes intégrant des fonctions d’autonomie mais demeurant sous contrôle humain.

Vous avez relevé que les négociations opposent actuellement trois blocs. Une vingtaine d’États plaident, à l’instar du Mexique et de l’Autriche, pour une interdiction immédiate. Les États-Unis jugent au contraire que le droit international humanitaire est suffisant. La France, l’Allemagne, le Royaume-Uni et le Japon défendent une position médiane, tandis que la Russie et la Chine oscillent entre obstruction et abstention. Un traité ambitieux risque donc de ne rassembler que des États déjà convaincus, ce qui pourrait conduire à une sorte d’asymétrie stratégique. Comment voyez-vous les possibilités de conciliation entre la nécessaire ambition normative et l’objectif d’universalité, également indispensable pour qu’un futur traité soit efficace ? Quels leviers diplomatiques la France et l’Union européenne pourraient-elles employer pour entraîner les grandes puissances dans leur démarche et éviter de voir émerger un cadre qui ne s’imposerait qu’à une partie des acteurs ?

M. Pierre Pribetich, rapporteur. Monsieur le député du Nord, merci pour vos propos élogieux. Le professeur d’université que je suis adresse à l’université qui l’a formé, Lille 1, ses compliments.

Beaucoup, voire une large majorité d’entre nous sont très circonspects, notamment en raison des risques de dérive concernant le contrôle humain sur les robots tueurs.

Il faut bien distinguer la position de la France dans les discussions, complexes, qui sont en cours et risquent de ne pas aboutir même si les échos sont plutôt positifs pour l’instant et la position qu’il nous revient d’exprimer en nous faisant la voix du Parlement. Bien qu’il y ait parmi nous d’anciens membres du gouvernement, nous ne faisons pas partie de l’exécutif. La question qui nous est posée porte sur ce que nous souhaitons en tant que législateur. La position adoptée par l’Assemblée nationale reviendra bien sûr à donner une indication à l’exécutif mais celui-ci n’en prendra pas ombrage dans le cadre de la séparation des pouvoirs. Nous n’avons pas un rôle de négociateur et notre position, à moins que des arguments de très bas niveau soient employés, ne pourra pas être utilisée contre la France. Il s’agit simplement d’appeler à la conclusion d’un traité international en suivant différentes étapes, notamment au niveau de l’Union européenne.

À cet égard, je crois sincèrement, pour y avoir siégé, que le Parlement européen pourra se saisir de notre position, qui jouera un rôle important si elle est largement partagée. Lui-même, compte tenu de son mode de fonctionnement, différent du nôtre, pourra adopter une position beaucoup plus forte, comme il l’a déjà fait en 2018 et 2021. Notre collègue Emmanuel Maurel y a d’ailleurs beaucoup contribué en tant que parlementaire européen.

Il faut voir sous un angle positif la démarche qui nous est proposée. Ce n’est pas un acte de défiance à l’égard de l’exécutif mais une manière d’exprimer le choix de notre Assemblée, d’une manière indépendante. Ce sera ensuite à l’exécutif d’utiliser finement cette prise de position – je n’ai pas de doute sur ce point, connaissant la qualité de nos diplomates – pour faire avancer les négociations et aboutir à un accord.

M. Aurélien Saintoul (LFI-NFP). Les trois risques associés aux systèmes d’armes létales autonomes – la perte de contrôle, la corruption du système par des biais, la dilution de la responsabilité des belligérants – sont désormais bien identifiés dans les rangs des politiques, des juristes, des militaires et des ingénieurs.

Pour ce qui est de la perte de contrôle, de nombreuses alertes ont été lancées par des ingénieurs de renom, quant au risque de voir des intelligences artificielles s’affranchir du cadre qui leur était initialement assigné, au point de menacer leurs opérateurs humains. Un tel scénario ne peut évidemment pas être accepté par une armée, pas même dans sa version la moins critique, celle d’un débordement de la planification.

Il est par ailleurs impossible d’exonérer les systèmes de tout biais, puisque les intelligences qui les conçoivent, qu’elles soient humaines ou artificielles, ne peuvent elles-mêmes être exemptes de biais.

Enfin, pour éviter la dilution de la responsabilité, il est nécessaire de garantir la présence d’un humain dans la boucle de décision, mais ce n’est pas suffisant, comme le montrent les usages de l’intelligence artificielle. Dans un article publié en mai, le chercheur israélien Ori Schwarz est revenu sur l’utilisation par l’armée israélienne de programmes de désignation de cibles appelés, avec une ironie cruelle, Lavender et Gospel, en montrant que les propositions de frappe n’étaient parfois validées qu’en vingt secondes, et que ces systèmes n’apportaient que des justifications purement formelles à des frappes massives manifestement contraires au droit international humanitaire.

De fait, c’est l’ensemble des usages militaires de l’IA qui devraient faire l’objet d’une réglementation internationale, même si les implications en matière de contrôle international seraient tellement fortes et nombreuses qu’une telle ambition peut sembler utopique. L’ouverture de négociations sur les SALA sera un point d’appui bienvenu.

Nous regardons toutefois ces négociations avec réserve, bien conscients que leur cadre, la convention sur certaines armes classiques, est idéal pour les États faussement bénévolents qui souhaiteraient enliser les discussions.

Enfin, les liens qui pourraient exister entre SALA et contrôle des armes nucléaires pourraient faire l’objet d’une réflexion conjointe et remettre autour de la table les États dotés qui, depuis trop longtemps, organisent la régression du contrôle des armements.

M. Pierre Pribetich, rapporteur. Je partage votre point de vue et vos craintes, notamment concernant la dilution de la responsabilité humaine. La question de la régulation de l’usage de l’IA dans les forces armées est un véritable problème, que la commission de la défense nationale et des forces armées doit embrasser encore et encore, car elle ne relève pas que de l’exécutif, mais aussi du législateur.

Toutes les bonnes volontés seront utiles pour mieux cadrer les choses et éviter la dilution de la responsabilité humaine – outre les articles auxquels vous faites référence, je pense aux travaux concernant les champs de bataille au Moyen-Orient qui ont montré que, faute de règles du droit international humanitaire, donc de contrôle des systèmes, toutes les dérives imaginables ont eu lieu.

J’ai été interpellé par des responsables scientifiques sur une question juridique : en cas d’infraction, qui devra être jugé responsable ? Celui qui a conçu le système d’armes létales dit autonome, celui qui l’a commandé, ou celui qui a décidé de l’employer ? Le problème se pose dans les laboratoires, les industries, chez les fournisseurs du secteur de la défense et l’on ne peut se contenter de le glisser sous le tapis. Rappelons que, dans d’autres champs, le concepteur d’un produit peut, comme c’est légitime, être jugé pénalement responsable à titre individuel des dommages que son produit cause – en effet, la responsabilité collective n’existe pas en matière pénale.

Une start-up du secteur a réussi à lever 1,6 milliard d’euros. Un tel montant révèle l’appétit, voire l’avidité, que suscitent ces systèmes et leur potentiel lucratif. Cela doit nous interpeller : en tant que législateur, nous devons fixer un cadre.

M. Jean-Louis Roumégas (EcoS). Je remercie le rapporteur pour la conviction avec laquelle il défend cette proposition de résolution européenne. Notre groupe la soutiendra. Les progrès de l’intelligence artificielle ont décuplé les possibilités de systèmes d’armes capables de sélectionner et de tirer sur une cible sans intervention humaine, mais pouvons-nous accepter qu’une machine tranche de façon autonome une question de vie ou de mort ?

Depuis 2013, la mobilisation de la société civile, des chercheurs et des organisations non gouvernementales a permis d’inscrire cette question à l’agenda des Nations unies. L’Autriche a joué un rôle précurseur, en amenant ce débat dans la convention sur certaines armes classiques et en défendant l’ouverture de négociations sur un instrument juridiquement contraignant.

Alors que l’Autriche vient d’être élue membre non permanent du Conseil de sécurité des Nations unies, la France doit l’épauler et soutenir son initiative, en tant que membre permanent et hôte du sommet pour l’action sur l’intelligence artificielle. La mobilisation est d’autant plus urgente que les usages militaires de l’IA ne relèvent pas du tout de la science-fiction. La chercheuse Amélie Férey et la coalition Stop Killer Robots ont montré les ravages causés par l’automatisation exponentielle du ciblage par l’IA, lors de la guerre à Gaza. Les systèmes Lavender, Gospel ou Where’s Daddy permettent de traiter un grand nombre de données et de désigner rapidement des cibles potentielles, en ne laissant que quelques secondes aux donneurs d’ordre pour vérifier la fiabilité des informations et les potentielles violations du droit international. Dans les procédures de ciblage à Gaza, l’IA était supposée n’apporter qu’une aide à la décision. En réalité, la confiance placée dans la technologie est telle que le travail de vérification n’est pas effectué et que les préventions éthiques sautent, a fortiori dans un contexte où la chaîne de commandement exige une cadence de frappe élevée.

La France affirme refuser les armes qui échappent à tout contrôle humain, mais sa doctrine demeure insuffisamment claire, notamment pour les cas où le degré d’automatisation des armes serait modulé en fonction des circonstances. Nous demandons donc que le travail doctrinal engagé sur l’usage de l’IA dans les armées associe plus étroitement militaires, chercheurs, parlementaires et organisations non gouvernementales (ONG), pour poser les bases de règles d’engagement communes.

Cette proposition de résolution européenne pose des principes, notamment celui de l’obligation d’un « contrôle humain effectif sur toute décision de recours à la force létale », et suggère d’interdire les systèmes qui ne les respecteraient pas. Elle fixe un cadre pour échanger sur la doctrine d’emploi de nos forces, en prenant acte collectivement des risques que fait courir l’intelligence artificielle et en posant des conditions à son développement. Pour le groupe Écologiste et social, aucune décision de tuer ne doit être abandonnée à une machine.

M. Pierre Pribetich, rapporteur. Je vous remercie d’avoir rappelé des principes qui, je l’espère, font l’unanimité dans notre assemblée. Les propositions avancées par des outils d’aide à la décision doivent faire l’objet d’un travail de vérification. Or, pour l’heure, aucune règle du droit international ne sécurise un tel travail. Il faut donc garantir un « contrôle humain effectif » ; nous reviendrons sur cette notion essentielle lors de la discussion des amendements.

Vous appelez à juste titre le législateur à définir une doctrine concernant, notamment, la modulation du degré d’autonomie des armes létales lors des engagements. La commission de la défense nationale et des forces armées a la responsabilité d’encadrer les pratiques, conformément aux règles du droit humanitaire international. En entretenant le flou, nous laisserions la part belle à toutes les dérives. Il ne suffit pas de prendre un ton mesuré ; il faut définir le droit, pour mieux contrôler les choses.

Vous avez cité à juste titre l’action de l’Autriche, dont la position diffère de celle de notre pays. Nous avons intérêt à nous saisir de ce débat, pour mieux définir le contrôle humain effectif et encadrer les pratiques.

M. Frédéric Petit (Dem). Je vous remercie d’avoir rappelé les rôles respectifs du Parlement et de l’exécutif ; c’était important.

Vous connaissez l’actualité et l’histoire de ma circonscription. Les interrogations sur l’automatisation de l’usage de la force létale ne datent pas de 2013. Elles s’imposaient déjà à l’époque du rideau de fer – de fait, il suffisait alors qu’un chauffeur d’un camion oublie de se signaler pour qu’il se fasse automatiquement descendre.

Rappelons en outre qu’une fois qu’un missile nucléaire est lancé, il n’est plus possible de revenir en arrière. Là aussi, tout se fait de manière automatique.

La deuxième notion-clé de ce débat est celle de responsabilité humaine ; or l’humain est parfois inhumain – je pense aux safaris « humains », lors desquels des soldats s’amusent à descendre des civils à 10 kilomètres avec des minidrones à fibre optique.

Qui dit responsabilité dit obligations et suivi du respect de celles-ci. C’est ici que le travail parlementaire pourra être utile.

Notre groupe se veut prudent. Nous sommes d’accord, la régulation doit être décidée dans le cadre international le plus large possible. Nous soutiendrons donc cette proposition de résolution européenne. Même si, en particulier à notre époque, le travail pour construire le droit international est lent, il est essentiel.

M. Pierre Pribetich, rapporteur. Alors que nous autres, parlementaires, travaillons bien souvent dans l’urgence, de telles questions éthiques et politiques imposent effectivement de prendre le temps du débat et de la réflexion.

Agir, c’est toujours assumer les conséquences de ses décisions. Or il serait difficile de concilier la responsabilité politique – si chère à Gramsci et à ceux qui comme moi ont une filiation socialiste – et le choix de confier une décision létale à un algorithme.

Les technologies d’aide à la décision posent problème. Les concepteurs de véhicules dits autonomes le savent, parce que, malgré tous les entraînements, un véhicule peut écraser un cycliste qui traverse de manière inattendue. Toute œuvre humaine est perfectible. Ce serait folie de penser qu’un outil bien conçu résout tous les problèmes. Nous avons donc le devoir moral de garantir un contrôle humain effectif des armes létales.

En cas d’emballement du système, qui sera responsable sur le plan juridique ? Le donneur d’ordre ? Le concepteur ? L’acheteur du système ? Celui qui a lancé le programme de recherche permettant de le concevoir ?

Vous mentionnez, à juste titre, la question du suivi. Nous espérons qu’en novembre 2026, nous aurons avancé en direction d’un traité, même si, malheureusement, rien ne le garantit. Je ne peux que partager la prudence de votre groupe et votre souci de renforcer le droit international humanitaire. Toutefois, la prudence ne doit pas retarder le débat, ni nous empêcher d’exercer notre rôle de parlementaire.

Mme Dieynaba Diop (SOC). L’intelligence artificielle transforme déjà profondément les conflits armés : elle peut assister les militaires dans l’analyse, le renseignement et la protection des forces. Toutefois, une ligne rouge ne doit jamais être franchie : celle qui consiste à laisser une machine décider de la vie ou de la mort d’un être humain. C’est précisément l’enjeu des systèmes d’armes létales autonomes. Derrière la prouesse technologique se cache un bouleversement éthique, juridique et politique majeur. Lorsque la décision de tuer est confiée à un algorithme, qui répond des erreurs ? Les conflits en Ukraine et à Gaza montrent que ces technologies ne relèvent plus de la science-fiction ; elles sont déjà utilisées. Plus nous attendons, plus il sera difficile de fixer les règles.

Nous soutenons donc cette proposition de résolution européenne, qui affirme une exigence simple : le maintien d’un « contrôle humain significatif » sur toute décision de recours à la force létale et l’ouverture de négociations internationales en vue d’aboutir à un traité « juridiquement contraignant prévoyant des interdictions et des réglementations aux systèmes d’armes autonomes ».

L’Europe a une responsabilité particulière. Elle ne peut pas se contenter d’être spectatrice d’une course mondiale aux armements guidée par la seule logique de puissance. Elle doit être une force motrice pour défendre le droit international, protéger les populations civiles et rappeler que l’innovation technologique ne peut jamais s’affranchir des principes fondamentaux de notre humanité.

M. Pierre Pribetich, rapporteur. Merci. Qui doute encore de l’unité de vue au sein du Parti socialiste ? (Sourires.)

Oui, la démarche est importante. Pour l’heure, l’humanité n’a pas encore officiellement franchi la ligne rouge qui consiste à affranchir des décisions létales de tout contrôle humain. Toutefois, si nous n’accélérons pas la construction du droit international humanitaire, cette frontière sera franchie allégrement. Pendant des décennies, la France a promu une amélioration du droit humanitaire ; poursuivons en ce sens.

Mme Charlotte Parmentier-Lecocq (HOR). Le groupe Horizons & indépendants partage pleinement la préoccupation qui anime cette proposition de résolution européenne.

La possible émergence de systèmes d’armes létales pleinement autonomes, capables de sélectionner et d’engager une cible sans intervention humaine soulève des questions éthiques, juridiques et humanitaires. La perspective que le discernement humain soit exclu d’une décision de vie ou de mort est inacceptable.

Le maintien d’un contrôle humain effectif sur l’usage de la force létale constitue une ligne rouge pour notre groupe. La France affiche cette préoccupation depuis longtemps ; c’est à son initiative que la question des systèmes d’armes létales autonomes a été inscrite à l’ordre du jour des Nations unies dès 2013, dans le cadre de la convention sur certaines armes classiques. Cette convention constitue actuellement le principal cadre multilatéral de négociations en la matière, parce qu’elle réunit les États qui développent ou sont susceptibles de développer ces technologies. Elle est l’enceinte la plus pertinente pour élaborer des règles universelles et juridiquement contraignantes.

Nous devons également éviter toute confusion. Proscrire les systèmes pleinement autonomes, qui échappent à tout contrôle humain, est une chose ; interdire indistinctement toute arme intégrant une part d’autonomie en est une autre. Les fonctions d’autonomie partielle, lorsqu’elles demeurent sous contrôle humain, apportent des avantages opérationnels essentiels, notamment pour la protection de nos militaires et l’efficacité de nos armées.

Nous serons donc particulièrement attachés à préserver l’équilibre trouvé dans la rédaction actuelle du texte. Il faut défendre un cadre juridique exigeant pour les systèmes pleinement autonomes, tout en préservant les capacités d’innovation et notre autonomie stratégique. Sous cette réserve, notre groupe votera en faveur de la présente proposition de résolution européenne.

M. Pierre Pribetich, rapporteur. Au nom de l’équilibre, vous marquez la distinction entre les SALA et les SALIA (systèmes d’armes létales intégrant de l’autonomie).

Quoi qu’il en soit, nous convergeons tous ici pour considérer que l’absence de contrôle humain sur la décision létale est une ligne rouge, qu’il ne faut pas franchir.

Bien sûr, pour négocier l’établissement de règles contraignantes dans le droit international, mieux vaut s’appuyer sur une position mesurée, maîtrisée, mais n’oublions pas non plus d’indiquer le chemin.

Je pense que nous convergerons vers une position qui correspondra entièrement ou quasi entièrement à vos souhaits.

M. Laurent Mazaury (LIOT). Nous débattons non d’une simple avancée technologique, mais de l’avenir de l’humanité. La proposition de résolution européenne qui nous est soumise n’est pas un texte parmi d’autres. C’est un cri d’alarme, un cri contre la folie d’un monde où des machines pourraient décider de la vie ou de la mort ; un cri pour l’Europe, pour la France et pour nos valeurs.

Je voterai à nouveau pour cette proposition de résolution européenne avec la fermeté de celui qui refuse de voir l’humanité s’effacer devant l’algorithme. Comment accepter que des robots tueurs remplacent le jugement humain, que des lignes de code décident du sort des vies humaines ? Les SALA ne sont pas des armes comme les autres, car elles nient l’humanité elle-même. Le droit international humanitaire exige un contrôle humain sur l’usage de la force, point final. La responsabilité morale ne peut être diluée dans des circuits électroniques. La dignité humaine ne se négocie pas. Accepter les SALA, c’est accepter l’impunité et ouvrir la porte à un monde où personne ne répondrait plus de rien. C’est absolument inacceptable.

Nous ferons tout pour que la France ne soit pas complice de cette dérive. Certains demanderont à quoi bon interdire ces armes, si d’autres ne le font pas. Je leur répondrai : à quoi bon exister, si ce n’est pas pour défendre ce en quoi nous croyons ?

L’histoire le prouve, les traités internationaux changent les règles du jeu – pensons aux mines antipersonnel et aux armes chimiques. L’Europe a le pouvoir de fixer des standards. La France, membre permanent du Conseil de sécurité des Nations unies, a un devoir : porter cette voix avec fierté et détermination.

Notre force n’est pas la course à l’armement, mais la course à la normativité. Nous ne sommes pas condamnés à subir la loi du plus fort. Nous sommes condamnés à être les plus intelligents, les plus humains, les plus déterminés. Le temps presse. Le mandat du groupe d’experts gouvernementaux expire en novembre 2026. Nous avons une base, le texte évolutif du 5 juin 2026. Nous avons une légitimité : la France et l’Europe ont toujours été en première ligne pour la paix et le droit. Nous avons une urgence : ne pas laisser le vide juridique s’installer. L’Europe doit parler d’une seule voix, une voix forte, claire, intransigeante. Le contrôle humain sur les armes létales n’est pas négociable.

Non, la France ne transigera pas. Non à la délégation de la décision de vie et de mort à une machine. Non à la dilution de la responsabilité. Non à la guerre sans âme. Les SALA ne sont pas une fatalité. Elles sont le résultat de choix politiques. Nous disons stop.

J’appelle chacun d’entre vous à en faire autant, parce que l’histoire ne retient pas les indécis. Elle retient ceux qui ont le courage de dire « assez ! ». L’Europe sera le rempart de l’humanité. Bâtissons ce rempart tous ensemble.

M. Pierre Pribetich, rapporteur. Je vous remercie pour la force de votre plaidoyer. Que l’on soit d’accord ou non avec l’action de Charles de Gaulle, je conseille à chacun d’aller au cinéma voir La Bataille de Gaulle, car ce film rappelle la détermination de cet homme et sa capacité à refuser les fausses évidences, en des temps incertains.

Contrairement à ce que certains prétendent, il n’est pas évident qu’il faille intégrer l’autonomie dans les armes. Il faut pousser un cri d’alarme au nom de nos valeurs. C’est l’honneur de la France de défendre de telles règles dans un moment de bascule ; elle est ainsi fidèle à elle-même.

La somme de 1,6 milliard d’euros levée par la start-up Helsing doit nous alerter sur la nécessité d’agir et d’éviter l’indécision, qui conduirait à un accord au rabais. Soit nous intégrons l’autonomie, soit nous ne l’intégrons pas.

M. Alain David, président. Je rappelle que le texte adopté par notre commission sera soit appelé à être débattu en séance publique, soit réputé définitivement adopté à défaut d’une demande d’inscription à l’ordre du jour de l’Assemblée lors de la conférence des présidents. Une telle demande doit être formulée dans un délai de quinze jours francs à compter de la publication du texte adopté aujourd’hui.

Texte de la proposition de résolution européenne

Amendement AE1 de M. Aurélien Saintoul

M. Aurélien Saintoul (LFI-NFP). Cet amendement tend à ajouter un visa. L’évocation de la position du comité d’éthique de la défense est toujours rapportée à sa première expression, or sa deuxième délibération de février 2025 marque une inflexion problématique : au lieu de s’en tenir à la position initiale, qui excluait l’autonomisation, elle introduit la distinction de l’automatisation et préconise une flexibilité dans l’automatisation des systèmes et la possibilité de moduler le degré d’automatisation selon les circonstances. Elle ouvre donc la voie à ce que les ingénieurs de l’armement appellent parfois des contrats d’autonomie, lesquels posent des problèmes très proches de ceux des SALA. C’est aussi l’objet de ce texte que d’apporter des réponses à l’ambiguïté introduite par cette nouvelle délibération.

M. Pierre Pribetich, rapporteur. Le 14 janvier 2025, le comité d’éthique de la défense a rendu un avis sur l’usage des technologies d’intelligence artificielle pour les forces armées ; s’il ne concerne pas spécifiquement les systèmes d’armes autonomes, cet avis comporte des recommandations transversales sur la manière d’intégrer l’IA dans les systèmes militaires sans compromettre les valeurs fondamentales de responsabilité et de contrôle humain.

Parmi les six principes directeurs qu’il a dégagés, le comité rappelle que les technologies d’IA utilisées dans ou pour les opérations militaires sont régies par les règles du droit international humanitaire. Il s’inscrit ainsi dans la continuité de son précédent avis de 2021 sur l’intégration de l’autonomie dans les systèmes d’armes létales – je dis bien « systèmes d’armes létales » car ce ne sont pas les systèmes qui sont létaux, ce sont les armes – sur lequel le gouvernement français s’est fondé pour élaborer sa doctrine en matière de robots tueurs, dits SALA. Il me semble pertinent de le mentionner dans les visas. Avis favorable.