L’actualité concernant les Systèmes d’armes létaux autonomes (Sala) est en constante évolution. À l’heure où cet ouvrage est édité, le Département de la Défense (DoD) des États-Unis se pose la question de savoir s’il est éthique d’utiliser ces derniers dans la zone d’immédiate conflictualité, dans la mesure où ils pourraient maintenir les troupes à l’écart. Ainsi, le 4 octobre 2018, le directeur du TRADOC de l’US Army (Commandement de l’instruction et de la doctrine de l’armée de Terre américaine) Tony Cerri se posait cette question : « Est-il immoral de ne pas compter sur certains robots avec une autonomie de décision… étant donné qu’une arme intelligente peut potentiellement limiter les dommages collatéraux ? » ⁽¹⁾.

À l’opposé, quelques jours auparavant le 12 septembre 2018, une résolution du Parlement européen appelait à l’interdiction préventive des Sala, illustrant parfaitement les débats sociétaux contradictoires concernant la robotisation du champ de bataille ⁽²⁾ et la crainte que pourrait inspirer une autonomie de ces machines dans la décision de tir. Elle met en lumière l’importance fondamentale de prévenir tout développement et production de Sala qui manquerait de contrôle humain dans les fonctions critiques telles que sélection et engagement des cibles.

Le débat n’est pas récent : il est en effet porté depuis mai 2014 par des organisations non gouvernementales au sein de la Convention sur certaines armes classiques (CCAC), où se poursuit une réflexion sur l’interdiction éventuelle des systèmes d’armes létaux autonomes.

Pour revenir à l’origine des débats et à ses développements, vous trouverez dans cet ouvrage collectif une synthèse des travaux réalisés par le pôle Mutation des conflits du Centre de recherche des Écoles de Saint-Cyr Coëtquidan, le CREC Saint-Cyr, et en particulier le fruit des deux colloques organisés en décembre 2016 et février 2018. Il se veut une compilation des réflexions d’experts ayant travaillé avec lui sur la question de l’autonomie des systèmes robotiques militaires. Ayant pour premier objectif une clarification sémantique de la notion d’autonomie, cet ouvrage tente de couvrir les enjeux que pose le déploiement de systèmes robotiques militaires ayant une ou plusieurs fonctions automatisées ou autonomes (mobilité, recharge énergétique, formation en essaim, tâches à effectuer, etc.), dont notamment la fonction létale. Et ce, avec ou sans contrôle de l’opérateur qui les met en œuvre.

D’une façon générale, si le mieux côtoie souvent le moins bon dans toute nouvelle potentialité offerte par la technologie, il n’est jamais utile ni souhaitable de refuser les évolutions technologiques. L’histoire démontre que bannir ces évolutions est vain, car elles finiront par être adoptées par l’intelligence créatrice de l’homme qui ne connaît pas de limites.

L’actualité du monde civil en témoigne car l’on voit mal, par exemple, comment interdire à des voitures autonomes, lorsque d’ici quelques années la technologie sera mature, de circuler sur nos routes sans chauffeur humain, sous prétexte que l’homme doit rester le seul maître à bord, bien qu’il soit communément admis que ce dernier est plus faillible que la machine dans certaines circonstances.

Or, l’autonomie dans le monde militaire pose question, bien qu’elle s’inscrive dans la continuité des premiers systèmes automatiques déjà déployés. Notamment en ce qui concerne la place de l’homme et notamment du chef qui les emploie, afin qu’il conserve la maîtrise de l’action militaire, et donc de l’usage de ces machines. Autrement dit, si la robotique apporte inéluctablement des opportunités, il convient d’encadrer strictement le développement et l’usage de systèmes autonomes de règles contraignantes prenant en compte le droit des conflits armés, les normes juridiques en vigueur, la doctrine et les us et coutumes des armées en campagne.

Mais le débat prend une tournure autrement plus grave lorsque l’on pose la question de la létalité et que l’on voit revenir au premier plan la volonté de suprématie technologique, vieux moteur de la guerre froide, et si l’on prend en considération la loi de Gabor qui stipule que « tout ce qui est techniquement possible se réalisera », avec comme effet induit que si nous ne le faisons pas, d’autres le feront.

Car s’il semble relativement consensuel que l’homme doive conserver le contrôle de ces machines, la recherche d’une meilleure précision et d’une meilleure réactivité dans le domaine du tir peut amener à envisager, sous conditions, un automatisme très avancé de la décision que certains qualifieront d’automatisation. D’autant que l’entreprise russe Kalashnikov a clairement annoncé, le 10 juillet 2017, qu’elle s’engageait dans « la production de drones de combat autonomes dotés de capacités d’apprentissage par réseaux de neurones, capables de reconnaître les cibles et de prendre des décisions autonomes dont celle de l’engagement » ⁽³⁾.

Il convient toutefois de dépasser ces volontés d’hégémonie afin de faire valoir une politique d’encadrement internationale concernant l’armement des robots autonomes bénéficiant d’une certaine forme d’autonomie. Ceci afin d’anticiper leurs possibles usages et le nécessaire encadrement juridique effectif de leur déploiement. Car cette évolution doit absolument rester sous le contrôle du chef militaire, au risque de dérives conséquentes. On peut ici se remémorer le philosophe allemand Hans Jonas affirmant que la « responsabilité à l’égard de l’humanité à venir doit aujourd’hui être le principe et le fondement même d’une conception totalement inédite de l’éthique, dont il revient à l’homme d’être en mesure d’en revendiquer la paternité » ⁽⁴⁾.

C’est donc tout l’intérêt de ce Cahier de la RDN d’aborder le débat sous un angle pluridisciplinaire. Reflétant les travaux de recherche menés par le CREC Saint-Cyr, acteur de la recherche et de l’innovation dans l’armée de Terre, il a pour ambition de souligner la forte implication des armées françaises dans le nécessaire encadrement de l’autonomie des systèmes robotiques militaires, en tant que prochains « multiplicateurs d’efficacité opérationnelle ». ♦

(1) Tony Cerri, director of data science, models and simulations at TRADOC, cité par Kofler Haiyah, « Exploring the humanity of unmanned weapons », C4ISR Net, 10 octobre 2018 (www.c4isrnet.com/unmanned/2018/10/10/exploring-the-humanity-of-unmanned-weapons/).
(2) Parlement européen, Résolution sur les systèmes d’armes autonomes (2018/2752(RSP)), 12 septembre 2018 (www.europarl.europa.eu/).
(3) « Robots armés autonomes : l’art de la guerre en mutation », 15 août 2017 (https://theconversation.com/).
(4) Jonas Hans, Le Principe Responsabilité : une éthique pour la civilisation technologique, 1991 (publication originale en allemand, 1979).