Autonomie et létalité en robotique militaire
Sous la direction du Pôle mutation des conflits du Centre de recherche des Écoles de Saint-Cyr Coëtquidan (CREC Saint-Cyr)
Actes enrichis des colloques
« Téléopération – Automatisme – Autonomie en robotique militaire : de quoi parle-t-on ? », 8 décembre 2016, DGGN (Issy-les-Moulineaux)
et « “Legal & Ethics by Design” : L’intégration des normes juridiques et éthiques dans la conception et le développement des systèmes d’armes robotisés », 6 février 2018, École militaire (Paris)
Cahier - CREC Saint-Cyr - décembre 2018 - 264 pages
Lire ce cahier numérique
Préface - François Labuze - p. 7-9
L’actualité concernant les Systèmes d’armes létaux autonomes (Sala) est en constante évolution. À l’heure où cet ouvrage est édité, le Département de la Défense (DoD) des États-Unis se pose la question de savoir s’il est éthique d’utiliser ces derniers dans la zone d’immédiate conflictualité, dans la mesure où ils pourraient maintenir les troupes à l’écart. Ainsi, le 4 octobre 2018, le directeur du TRADOC de l’US Army (Commandement de l’instruction et de la doctrine de l’armée de Terre américaine) Tony Cerri se posait cette question : « Est-il immoral de ne pas compter sur certains robots avec une autonomie de décision… étant donné qu’une arme intelligente peut potentiellement limiter les dommages collatéraux ? » (1). Lire la suite
Ce Cahier de la RDN fait le point des recherches entreprises par le CREC Saint-Cyr pour analyser le phénomène de robotisation du champ de bataille sous l'angle des sciences sociales. Il s’agit de synthétiser les principaux enseignements de ce programme de recherche et d'envisager de nouvelles voies de développement. Lire la suite
L’armée de Terre s’engage sur le chemin de la robotisation pour accroître ses capacités opérationnelles, mais les systèmes robotiques militaires semi-autonomes seront déployés sous le contrôle d’un chef militaire pour des fonctions non létales. Lire la suite
Définitions et concepts de l’autonomie
La prochaine génération de systèmes d’armes disposera d’un niveau d’automatisation beaucoup plus performant que celui que nous connaissons à ce jour. Les armées doivent clarifier les concepts d’emploi juridique, éthique et opérationnel associés. Lire la suite
En précisant que le terme d’autonomie s’entend à la fois en un sens philosophique et en un sens technologique, on conclut que les Systèmes d’armes létaux autonomes (Sala) ne correspondent pas à une véritable révolution technologique, mais que l’intelligence artificielle renforce l’autonomie des opérateurs. Lire la suite
Déclinaisons et nouveaux usages militaires
Nouveaux outils et nouveaux pions tactiques pour le combattant, les systèmes robotiques vont progressivement révolutionner les usages militaires de demain. Lire la suite
Le développement rapide des robots militaires pose la question de leur autonomie, en distinguant les niveaux techniquement accessibles et opérationnellement souhaitables. Une répartition pertinente des rôles de l’Homme et du Robot apparaît comme la voie à privilégier. Lire la suite
S’agissant de robotique, l’autonomie est le facteur qui va permettre d’étendre les usages opérationnels des robots, aujourd’hui limités. Pour autant, elle devra être cadrée afin de maintenir les prérogatives de décision et de responsabilité des chefs. Lire la suite
La bataille se déplace de nos jours vers des milieux qui restent encore difficiles d’approche : les milieux périurbains, urbains et suburbains. Dans ces univers à l’extrême limite des capacités humaines, que peuvent apporter les robots militaires et en quoi leur autonomie pourrait permettre de faciliter la progression et de réduire les risques ? Lire la suite
Les engagements de demain verront l’apparition de systèmes d’armes terrestres « de rupture » sur les théâtres d’opérations extérieures comme intérieures. La fulgurance des innovations technologiques doit pourtant s’inscrire dans une logique d’« ethic by design ». Pour remplacer ou appuyer le fantassin du futur, les drones terrestres armés devront alors compter sur leur capacité de précision et de maîtrise par l’humain, à distance. Lire la suite
Les futurs systèmes de drones - Jean-Marc Moschetta - p. 95-103
La miniaturisation croissante des systèmes laisse présager que les futurs systèmes de drones seront à la fois plus compacts, plus intelligents et plus envahissants. Ils pourront ainsi être opérés non individuellement mais par vagues ou par essaims. Lire la suite
Les technologies nécessaires à l’autonomie pour des systèmes robotiques sont maintenant disponibles et accessibles aisément. La dissémination de ces techniques pose de façon cruciale la question du maintien de l’homme dans la boucle pour tout usage létal. Lire la suite
Le déploiement de systèmes robotisés semi-autonomes semble inéluctable de par les avantages qu’ils offriront sur le champ de bataille. Pour accompagner cette évolution, il impose en revanche une formation poussée et anthropocentrée du chef militaire à une nouvelle éthique de responsabilité. Lire la suite
Implications juridiques
L’article examine la nécessité de contrôler la licéité d’une nouvelle arme en vertu du droit international humanitaire. Pour faire respecter ce cadre juridique, l’auteure analyse les discussions actuelles sur les nouveaux systèmes d’armes robotisés. Lire la suite
Cet article soutient que si les systèmes d’armes robotisés obligent à réfléchir au champ de bataille, le droit international humanitaire ne les prohibe pas contrairement à ce que suggèrent les débats actuels fondés sur une exploitation politique du droit. Lire la suite
Malgré sa spécificité : l’autonomie, l’arme robotique est soumise au droit des conflits armés dont les principes qualifiables d’« ethical by humanity » invitent à une subsidiarité des compétences entre le militaire responsable et la machine. Lire la suite
Le débat actuel sur l’interdiction préventive des Systèmes d’armes létaux autonome (Sala), qui semble se dérouler sur le terrain juridique, est biaisé par l’utilisation d’arguments de nature éthique. Cependant, si les contraintes juridiques pesant sur le développement de ces systèmes d’armes doivent être objectivées voire relativisées, il est aussi indispensable qu’une véritable réflexion éthique se structure en parallèle. Lire la suite
L’autonomisation croissante des robots militaires questionne la capacité d’un algorithme à appréhender et respecter les règles de droit applicables aux conflits tout en contenant des garde-fous éthiques militaires. Lire la suite
Implications éthiques
L’introduction dans la vie courante de robots et de systèmes autonomes dotés d’intelligence artificielle fait l’objet d’une médiatisation accélérée et de débats sur les dilemmes éthiques. Cet article analyse différents aspects contextuels et dynamiques de l’usage de véhicules autonomes, et propose des pistes de travail spécifiques et des recommandations en vue de l’élaboration d’une « politique éthique du véhicule autonome » à l’ensemble des acteurs concernés de la filière automobile. Lire la suite
Les fonctions de calcul de décision des systèmes robotisés peuvent nécessiter l'intégration de connaissances relevant de considérations éthiques. Cet article propose de formaliser le calcul de jugements de décisions selon des cadres éthiques et soulève des questions générales sur la conception d'algorithmes dits « éthiques ». Lire la suite
L’éthique de l’intelligence artificielle vise à protéger l’utilisateur et la société. Dans quelle mesure est-il possible de valider que les comportements d’un robot sont éthiques ? Tour d’horizon des principes de la certification et de l’évaluation des systèmes autonomes. Lire la suite
La constitution d’un algorithme est une activité porteuse d’une charge éthique. Or, les limites d’une éthique algorithmique montrent la place irréductible de l’acteur humain responsable. Il faut donc proposer, en matière de régulation éthique des systèmes autonomes, des critères de discernement basés sur un concept d’autonomie finalisée et responsable. Lire la suite
La France a pris l’initiative de lancer en 2013 une réflexion multilatérale sur les enjeux éthiques et sociétaux de futurs Systèmes d’armes létaux autonomes. Ces Sala ont suscité, depuis 2009, une mobilisation internationale qui a déjà connu trois âges, chacun marqué par un acteur de la société civile : les universitaires, les ONG et les industriels « philanthropes ». Lire la suite
Conclusion
Conclusion et mise en perspective - Monique Castillo - p. 259-264
Ce ne sont peut-être pas les hommes, mais les circonstances qui entraîneront la banalisation de l’usage des armes létales autonomes : menace d’une troisième guerre mondiale, par exemple, déstabilisation brutale d’une partie du monde, exaspération du terrorisme, panique des populations et quête de sécurité à tout prix… des scénarios qui peuvent sembler fantastiques, mais dont l’image suffit à signaler la nouvelle dangerosité du monde. Lire la suite
