Conseiller éditorial : Jean-Vincent Holeindre

Illustration de couverture : © Jonas Birkebæk Poulsen
Photo de l’auteur : © Véronique Ricco

© Armand Colin, 2018
Armand Colin est une marque de
Dunod Éditeur, 11 rue Paul Bert, 92240 Malakoff

ISBN : 978-2-200-62177-3

Ce document numérique a été réalisé par PCA

Introduction

Dans la mythologie grecque, le sculpteur Pygmalion se voue au célibat parce que les femmes de l’île de Chypre le déçoivent. Aucune d’entre elles ne présente assez de qualités à ses yeux, et leur conduite ne satisfait pas sa morale exigeante. Il se réfugie donc dans son atelier, où il sculpte son idéal féminin. La précision et la beauté de son travail sont telles qu’il tombe éperdument amoureux de sa sculpture. Mais sa femme parfaite est composée de pierre de taille et de cire, elle n’a aucune âme, et sa peau et ses lèvres demeurent désespérément froides. Pygmalion prie alors la déesse Aphrodite de donner vie à l’objet de son amour. La déesse, touchée, accède à sa demande et la statue s’éveille : Galatée prend vie et devient la femme de Pygmalion.

Les ingénieurs en robotique militaire sont en quelque sorte des Pygmalions modernes. Ils ont pendant longtemps équipé les soldats humains, mais leurs outils technologiques sont devenus si rapides et si précis que les capacités cognitives des hommes ne suffisent plus… En revanche, la sculpture de la statue idéale reste possible : ils cherchent donc à créer un robot soldat qui serait le guerrier parfait, sans défaut sur le champ de bataille. Hélas, le problème reste le même que dans l’Antiquité, car si les connaissances scientifiques actuelles permettent peut-être de sculpter la statue rêvée, cette dernière n’a toujours pas d’âme. Pourtant, si la déesse Aphrodite ne peut rien pour les ingénieurs, les promesses du progrès informatique sont de bon augure. À tel point que l’agence de recherche et développement militaire américaine, la DARPA1, estime qu’une intelligence artificielle assez accomplie pour pouvoir raisonner de manière autonome, comme un être humain sur un champ de bataille, pourrait voir le jour d’ici 20302. L’autonomie intellectuelle de la technologie serait donc le Graal de l’éveil de conscience du robot soldat, l’intervention divine qui donnerait vie à la statue révérée par les sculpteurs du combat moderne.

Mais qu’est-ce qu’une technologie autonome au combat ? Est-ce un simple logiciel « intelligent » gouvernant différents systèmes automatisés, à l’image de l’ordinateur HAL 9000 de 2001, L’Odyssée de l’espace, ou est-ce un robot tueur humanoïde à l’image de Terminator ? L’imaginaire collectif associe aisément technologie autonome et robot, et l’on donne rapidement ce qualificatif à toute machine qui se déplace ou effectue des tâches sans pilote. Peter W. Singer propose d’ailleurs, en abordant les technologies autonomes dans son ouvrage Wired for War, une définition du robot qui repose sur quatre critères :

– le robot est fabriqué par l’homme ;

– il possède des senseurs pour appréhender son environnement ;

– il contient des programmes pour définir une réponse à une situation donnée ;

– il a les moyens de mettre en œuvre cette réponse3.

Si cette définition donne une première approche intéressante, elle n’est malheureusement pas assez précise, et donc pas assez restrictive pour cerner la nature d’une technologie autonome. Car un missile antiaérien, doté d’un système auto-directeur, serait selon cette définition un robot : fabriqué par l’homme, possédant un senseur infrarouge, contenant un programme pour déterminer sa trajectoire afin de suivre sa cible, possédant des ailettes amovibles pour appliquer les changements de trajectoires établis. Ce n’est pourtant pas le missile qui décide d’ouvrir le feu, et encore moins de la cible à traiter. Il faut donc préciser cette définition.

L’organisation non gouvernementale Human Rights Watch, quant à elle, définit le robot4, qu’elle associe à une arme dans sa lutte contre les robots tueurs, comme une machine pouvant opérer de manière autonome dans la sélection des cibles. Mais elle classe le niveau d’autonomie, et donc d’intervention humaine dans le processus d’ouverture du feu, selon trois catégories. Les armes « human-in-the-loop » sont celles où le robot sélectionne les cibles mais pour lesquelles l’homme commande l’ouverture du feu. Les armes « human-on-the-loop » sont celles où le robot sélectionne les cibles et ouvre le feu sur elles, mais pour lesquelles l’homme peut intervenir dans le court laps de temps avant l’ouverture du feu et annuler la décision. Enfin, les armes « human-out-of-the-loop » sont celles où le robot sélectionne et traite les cibles sans qu’aucun humain ne puisse intervenir. Le professeur américain Armin Krishnan reprend en quelque sorte ces trois catégories5, en les nommant respectivement autonomies préprogrammée, supervisée et complète, mais ajoute une catégorie première qui est l’autonomie télé-opérée. Il embrasse ainsi tous les systèmes d’armes existants et peut les classer selon leur degré d’autonomie. Mais c’est là un biais de jugement, car le terme autonomie est alors écarté de son sens premier. La définition du Larousse spécifie en effet la « capacité de quelqu’un à être autonome, à ne pas être dépendant d’autrui ; caractère de quelque chose qui fonctionne ou évolue indépendamment d’autre chose ». Un système entièrement et uniquement télé-opéré ne peut donc pas, par définition, être autonome.

Jean-Baptiste Jeangène Vilmer, en rappelant la distinction fondamentale entre autonomie et automaticité6, confirme qu’une technologie autonome doit être différenciée des systèmes d’armes automatisés déjà existants. L’automaticité est en effet la caractéristique des systèmes qui sont programmés pour réagir d’une certaine façon à une situation donnée et perçue par des capteurs. Le système réagira donc toujours de la même façon face aux mêmes stimuli, quel que soit le contexte. L’autonomie, quant à elle, implique que le système soit capable de mener un raisonnement à chaque fois unique, quelle que soit la situation perçue, pour décider de la meilleure action à mener. Il s’agit donc pour ce qui nous concerne, en respectant la distinction de notion, de parler de systèmes d’armes autonomes. Et étant donné qu’il s’agit de technologie destinée au combat, c’est-à-dire capable de délivrer un feu mortel, nous parlerons de système d’armes létal autonome (SALA). Jean-Baptiste Jeangène Vilmer en propose une définition bien plus précise et réaliste, en reprenant les notions déjà abordées : « un système d’armes qui, une fois activé, est capable de décider seul, c’est-à-dire sans intervention ni supervision humaine, du ciblage et du déclenchement de la frappe, en fonction d’un environnement changeant auquel il s’adapte7 ». Ce qui sous-entend premièrement, par les termes « une fois activé », que le SALA n’appartient pas exclusivement à l’une ou l’autre des catégories d’autonomie proposées par Human Rights Watch, mais qu’il les embrasse toutes par un système hybride où l’humain peut être, selon les cas, in/on/out-of-the-loop ; deuxièmement, par les termes « auquel il s’adapte », que l’autonomie exige une intelligence artificielle capable d’apprendre par expérience et de s’adapter à une situation nouvelle, ce qui est un des défis majeurs des recherches en intelligence artificielle.

Car le champ de bataille n’est pas, contrairement à ce que pourrait laisser croire l’analogie habituelle, aussi simple et normé qu’un plateau d’échecs. Si l’intelligence artificielle est capable depuis peu de surpasser l’homme au plus classique des jeux de réflexion, elle n’est pas encore prête à affronter la complexité mouvante d’une situation de guerre. Le champ de bataille est désormais multidimensionnel, puisqu’aux espaces de conflit habituels, terrestre, maritime et aérien, s’ajoutent l’espace exo-atmosphérique et le cyberespace. Un SALA pourra donc être conçu pour combattre dans l’une ou l’autre de ces dimensions, voire être capable de le faire dans plusieurs d’entre elles, successivement ou simultanément, notamment pour le cyberespace. Mais comment définir le champ de bataille ? La doctrine militaire ne le définit pas en tant que tel, mais l’inclut dans la définition de l’espace de manœuvre d’une unité opérationnelle. Littéralement, il s’agit du lieu où se livre une bataille. Or, selon le Larousse, la bataille est un « combat livré entre deux armées ou deux flottes, dont l’issue influe sur la conduite de la guerre ». Mais si l’on considère la portion d’espace géographique, dans la ou les dimensions envisagées, couverte par la portée des différentes armes, il est rapidement possible d’atteindre la planète tout entière. Il faut donc restreindre la définition pour que la question du remplacement du soldat humain par une technologie autonome ait un sens. Le théâtre d’opérations, correspondant bien souvent aux frontières d’une région ou d’un ou plusieurs pays, est encore une notion trop englobante. En effet, avant que le niveau d’autonomie d’un SALA n’atteigne son apogée, c’est-à-dire lorsqu’il aura la capacité de se réparer tout seul, ce dernier aura besoin d’une base de maintenance sur le théâtre, sans même parler de l’état-major chargé du commandement de l’opération. Nous définirons donc le champ de bataille, quelles que soient la ou les dimensions considérées, comme étant « l’espace temporaire et flexible qui englobe tous les compartiments de terrain dans lesquels au moins un soldat ami, humain ou SALA, se retrouve en contact optique direct avec au moins un soldat ennemi ». Cette définition, plus restrictive encore que l’espace dédié à une zone de responsabilité tactique par exemple, mais plus proche de l’espace de manœuvre d’une unité élémentaire, a l’avantage de rendre pertinente la question de l’abandon de l’homme au profit du SALA sur le champ de bataille.

Cette question de l’emploi du SALA a d’ores et déjà fait couler beaucoup d’encres. Mais les débats se concentrent essentiellement sur l’aspect juridique de leur emploi d’une part, et sur les considérations morales de l’utilisation d’une machine pour tuer des êtres humains d’autre part. C’est-à-dire sur le jus in bello et sur l’éthique ad bellum. Si le premier débat n’aboutit pour l’instant à aucune conclusion satisfaisante, le second devient passionnel, en particulier dans le monde anglo-saxon, et en arrive à des propositions extrêmes. Human Rights Watch en appelle ainsi au bannissement universel pur et simple, de manière préventive, de tout SALA8. De nombreuses ONG, dont HRW, ont d’ailleurs lancé depuis 2013 une campagne de lutte contre les SALA intitulée STOP KILLER ROBOTS. Le nom même de robot tueur biaise le débat car il est connoté négativement, comme si ces machines allaient forcément abattre tout être humain qui passerait devant elles. Le terme robot soldat serait bien plus adapté, mais il n’est malheureusement pas à la mode. Quant à William Joy, informaticien ayant participé au développement du système d’exploitation Unix, il est persuadé que la robotique n’entraînera rien de moins que la fin de l’humanité9. Et plus récemment, un collectif de fondateurs d’entreprises de robotique et d’intelligence artificielle, dont le célèbre Elon Musk, a envoyé une lettre ouverte aux Nations unies pour demander l’interdiction des SALA. D’un autre côté, de nombreux auteurs sont persuadés qu’il sera nécessaire de remplacer par des robots des soldats humains dépassés par la technologie dans les guerres futures10, que les SALA seront plus précis dans la sélection des cibles11 et même qu’ils « pourraient à terme mieux respecter le droit de la guerre que les humains12 ». L’écart reste immense entre un scénario de fin du monde et celui d’une humanité améliorée par la maîtrise de sa technologie. Mais, comme tout débat passionnel, il devient difficile de demeurer rationnel et objectif. Certains arguments tiennent ainsi inévitablement, même si leurs auteurs s’en défendent, d’un néo-luddisme qui bloque le débat plus qu’il n’aide à le faire avancer. Car le réalisme nous dicte que les industries technologiques développeront des SALA, pour la simple et bonne raison que les applications issues de ces recherches seront fortement duales : les retombées serviront autant le domaine militaire que le domaine civil. Il est bien une industrie d’armement qui développera un premier SALA, et une fois celui-ci employé sur un théâtre d’opérations, tout le monde s’alignera sur cette nouvelle capacité militaire. Partant de ce postulat, il vaut mieux réfléchir au cadre éthique dans lequel développer et utiliser ces machines, et tenter dès aujourd’hui de fixer les limites techniques nécessaires pour son emploi, afin de ne pas se laisser dépasser par la ferveur des découvertes scientifiques et être capable de discerner le juste besoin militaire13. Il faut ainsi se projeter dans un futur proche, où les SALA seront une réalité, et étudier l’éthique in bello pour déterminer si ces robots soldats seront seulement capables de remplacer ou, à défaut, d’accompagner les soldats humains sur le champ de bataille. Ainsi, nous tenterons de prévenir les conséquences de l’emploi d’une telle machine au combat, aux niveaux tactique et stratégique, et d’en tirer des conclusions concrètes.

Nous analyserons ensuite le comportement humain au combat, en particulier en cet instant paroxystique qu’est la décision d’ouvrir le feu pour tuer, et tenterons de le comparer au comportement possible d’un SALA. À partir des défauts puis des vertus humaines sur le champ de bataille, nous pourrons ainsi dresser un cahier des charges des capacités morales minimales nécessaires pour qu’un SALA soit « moralement acceptable ».

Partant de là, nous tenterons d’expliquer le processus de raisonnement moral du soldat lors d’une décision de tuer, et ainsi de définir la notion de discernement éthique au combat, pour ensuite proposer la programmation d’une éthique computationnelle qui serait le « cerveau moral » du SALA.

Enfin, nous irons nous inspirer des visions de la littérature sur le sujet, qui trouve une flamme nouvelle cette dernière décennie avec les avancées technologiques qui laissent entrevoir une arrivée prochaine des robots.

On peut lire ici et là que le problème des études sur l’éthique des robots soldats est que les philosophes ne sont pas programmateurs et que les programmateurs ne sont pas philosophes. Mais le véritable frein à cette étude, c’est que ni le philosophe ni le programmateur ne connaissent le combat. Or, l’éthique du combat requiert une part empirique pour être complètement appréhendée. Les réflexions d’un soldat ayant une expérience de la guerre peuvent donc apporter un éclairage nouveau sur le sujet.

Tout au long de cette étude, nous tâcherons de tirer des déductions qui se voudront autant de recommandations concrètes. Ces déductions, prises une par une, sont partielles et incomplètes. Elles traduisent le raisonnement en cours. Une synthèse sera proposée en fin d’ouvrage, afin de dresser in fine un « portrait-robot » du bon SALA.

1. Defense Advanced Research Projects Agency.

2. Krishnan Armin, Killer Robots: Legality and Ethicality of Autonomous Weapons, Burlington, Ashgate Publishing Company, 2009, 204 p.

3. Singer Peter W., Wired for War: the Robotics Revolution and Conflict in the 21st Century, New York, Penguin Books, 2009, 499 p.

4. Human Rights Watch, Losing Humanity: the Case against Killer Robots, HRW, 2012, 49 p.

5. Krishnan Armin, op. cit.

6. Jeangene Vilmer Jean-Baptiste, Diplomatie des armes autonomes : les débats de Genève, in Politique étrangère Automne, no 3, 2013, pp. 119-130.

7. Jeangene Vilmer Jean-Baptiste, « Terminator Ethics : faut-il interdire les “robots tueurs” ? », in Politique étrangère Hiver, no 4, 2014, pp. 151-167.

8. Human Rights Watch, op. cit.

9. Joy William N., “Why the future doesn’t need us”, in Wired Magazine, 2000.

10. Krishnan Armin, op. cit.

11. Thurnher Jeffrey S., “Means and Methods of the Future: Autonomous Systems”, in Targeting: The Challenges of Modern Warfare, édité par Paul A. L. Ducheine, Michael N. Schmitt, et Frans P. B. Osinga, T.M.C. Asser Press, 2016, pp. 177-199.

12. Jeangene Vilmer Jean-Baptiste, op. cit.

13. Erbland Brice, « La tentation de l’hubris », in Inflexions no 32, mai 2016.

1 CONSÉQUENCES DE L’EMPLOI DES ROBOTS SOLDATS

La mode est d’annoncer la prochaine révolution dans les affaires militaires ou la prochaine rupture dans l’art de la guerre en parlant de l’arrivée des robots soldats. Formules faciles qui n’engagent personne… Je crois que, comme beaucoup de nouvelles technologies de combat, le SALA va faire évoluer éventuellement les tactiques en cours, va bouleverser les habitudes, mais ne va pas changer fondamentalement le combat, sauf à remplacer entièrement le soldat humain.

Plaçons-nous dans un futur proche où de telles machines sortent des chaînes de montage de nos industries de pointe et arrivent dans les unités de nos trois armées. Avant de débattre de la moralité de leur rôle au combat ou des conséquences juridiques, penchons-nous sur les conséquences probables de leur emploi au sein de nos forces : quelles seront les réactions des combattants humains, qu’ils soient alliés ou ennemis ? Quel sera l’impact sur la société, dont le rapport à la guerre est aujourd’hui ambigu, et sur la population locale d’un théâtre d’opérations qui verra ces machines évoluer ? Et quelles seront les conséquences tactiques et stratégiques de l’arrivée d’une telle technologie ? Après avoir déterminé pour quelle guerre et dans quel contexte cette technologie serait employée, nous analyserons ce qui pourrait bien être une rupture sociologique de la guerre, avant de pointer un biais stratégique et les probables conséquences tactiques concrètes de l’utilisation d’un SALA.

Rupture sociologique de la guerre

Emploi

Une des premières questions que l’on peut se poser en imaginant l’emploi de SALA dans nos forces armées est celle du contexte d’engagement de ce type de technologie. Il paraît logique de penser en premier lieu que de telles machines seraient employées en dernier recours, lors de conflits symétriques de très haute intensité. On pourrait même imaginer l’essor d’une nouvelle forme de dissuasion, robotique, non basée sur l’inacceptabilité des dommages comme pour la dissuasion nucléaire, mais sur l’inutilité du combat face à un essaim de SALA. Mais par une approche réaliste, nous pouvons affirmer que le SALA sera employé sur tous types de théâtres, des missions de stabilisation aux combats de haute intensité. En effet, le coût de développement d’une telle technologie imposera vraisemblablement son emploi sur les premiers théâtres d’opérations disponibles, afin de justifier son acquisition d’une part et d’éprouver son utilisation tactique d’autre part. On peut donc partir du principe que le SALA, une fois déployé dans les forces et à condition que sa première projection ne soit pas une catastrophe, fera partie intégrante du paysage militaire.

Ce constat soulève une question primordiale qui est celle de son poids dans l’imaginaire et la culture guerriers. À la fin du xxe siècle, le refus des sociétés occidentales de déplorer des soldats morts dans des combats menés à des milliers de kilomètres relevait selon certains d’une guerre « post-héroïque ». Mais si la vision extérieure de la guerre technologique actuelle semble étayer cette théorie de la fin des héros, la vision intérieure qu’est la réalité du combat vécu par les soldats la repousse de toutes ses forces : l’héroïsation du soldat est nécessaire, ne serait-ce que de façon interne aux forces armées, afin d’offrir une image vertueuse du don de soi, du sacrifice, et d’aider chaque soldat à faire preuve de forces morales. Mais l’arrivée du SALA n’annonce-t-elle pas pour de bon la mort du soldat-héros ? La bataille en tant que choc armé décisif, telle qu’elle est ancrée dans notre culture propre1, est un concept qui subit d’ores et déjà des revers par les tactiques indirectes de contre-insurrection face auxquelles nos armées occidentales peuvent être désemparées. Mais qu’en sera-t-il lorsque le SALA remplacera l’homme sur le champ de bataille ? Que serait l’armée de Terre sans son guerrier rustique aux mâchoires d’acier, ou l’armée de l’Air sans son pilote capable de supporter les contraintes d’un combat à plus de 800 km/h ? Les icônes ont un rôle : elles définissent l’esprit et l’image de l’institution et offrent une vision propice à l’identification des spectateurs. Si le but du développement des SALA est de remplacer le soldat humain, nous aurons tôt fait de remplir nos armées d’officiers d’état-major et de roboticiens, seuls nécessaires à l’action du SALA. Mais nous aurons également tôt fait de n’avoir que des techniciens qui n’auront pas à risquer leur vie et ne développeront donc pas les vertus humaines que nous décrirons plus loin et qui font toute la qualité du soldat humain. Le SALA n’aura donc d’intérêt pour nos forces armées qu’en accompagnement de soldats humains, afin de préserver cette poussiéreuse image du soldat-héros nécessaire au développement des forces morales et in fine à la force de nos armées.

1. Davis Hanson Victor, Le Modèle occidental de la guerre : la bataille d’infanterie dans la Grèce classique, Paris, Les Belles Lettres, 1990, 298 p.