« Si l’on pouvait autrefois se demander ce que les ordinateurs ne savaient pas encore faire, aujourd’hui il est urgent de définir ce que les machines ne devraient pas faire, notamment les “SALA” [Systèmes d’armes létaux autonomes]. » Le sous-titre de ce très stimulant petit livre pose d’emblée la question essentielle dès que l’on parle d’intelligence artificielle (IA), celle de l’autonomie des robots, particulièrement des robots à usage militaire.

Faisant suite au numéro de la RDN du mois de mai consacré à l’IA et à ses applications militaires dans lequel cette question apparaît de façon récurrente, cet ouvrage présente l’intérêt d’explorer tous les aspects éthiques des applications militaires de l’IA et de le faire de façon ludique et humoristique.

En effet, l’auteure utilise la métaphore d’une compétition entre l’homme et la machine. Le robot et l’humain se lancent le défi suivant : le meilleur remplacera l’autre à la guerre. Cette compétition comporte trois épreuves, l’une devant l’agora des philosophes, l’autre devant le tribunal des avocats, la dernière enfin face au champ de bataille des militaires.

L’immense intérêt de cet itinéraire est de mettre en évidence toutes les facettes de cette question et sa complexité. Certes, il y a une différence ontologique entre le robot et l’homme, et le robot ne sera jamais un agent moral comme le sont les humains mais dans le même temps, il possède une meilleure éthique que l’humain car il ne peut faire que le bien, malgré le fait qu’il y ait une impossibilité logique à réaliser une programmation éthique parfaite. Devant les avocats, la question est posée du statut juridique du robot et de sa responsabilité légale. Face « au champ d’honneur », la question interpelle directement les militaires car il s’agit du principe fondamental de leur métier, celui de la réciprocité dans le pouvoir de donner la mort.

Bien entendu, il ne s’agit pas ici de résumer l’ensemble des arguments exposés dans cet ouvrage dont l’intérêt réside dans la richesse, la subtilité et la complexité de l’argumentation. Pour cela l’auteure s’entoure, et c’est tout son mérite, des avis des plus grands philosophes, experts en IA, militaires et stratèges. Entre autres les lecteurs de la RDN retrouveront avec plaisir les réflexions de Noël Sharkey, auteur d’un article dans le numéro consacré à l’IA.

Je me garderai bien, pour réserver le suspense, de dévoiler le résultat de cette compétition. Néanmoins, je mettrai un petit bémol à la chronique très élogieuse de ce livre, car la conclusion me paraît un peu lapidaire ou lacunaire, eu égard à la richesse de cette enquête. En résumé un ouvrage passionnant, ludique, d’une culture exceptionnelle qui soulève les questions existentielles que l’on doit se poser lorsque l’on évoque l’IA et notamment ses applications militaires. ♦