La question des robots armés est clairement posée au regard des évolutions du champ de bataille. L’autonomie de tels systèmes doit faire l’objet d’une réflexion complète, du rôle du chef décidant de l’emploi aux impératifs éthiques à prendre en compte dont le contrôle de l’action y compris l’ouverture du feu. Ce champ étant décisif et dimensionnant.
Autonomie des robots armés Vers une délégation de l’exécution de tâches à des systèmes robotiques armés, par le chef militaire et sous contraintes
Autonomy of Armed Robots Towards Delegation of Task Execution to Armed Robotic Systems by the Military Commander—Within Constraints
The existence of armed robots poses important questions with regard to developments in the battlefield. The autonomy of such systems must be thoroughly examined, from the role of the decision-making commander to the ethical imperatives to be taken into account, among which command of the action and opening fire. This is a decisive and defining field.
Note préliminaire : Les éléments présentés dans cet article sont sujets à débat et échanges. Ils ne représentent pas la position officielle de l’armée française.
L’autonomie au service de l’efficacité militaire
Il semble tout à fait inéluctable que, dans les prochaines années, des systèmes d’armes létaux bénéficiant d’une certaine forme d’autonomie supervisée dans l’exécution de l’ouverture du feu verront le jour sur le champ de bataille, tant dans des rôles défensifs qu’offensifs. Leur emploi s’explique simplement : ils sont capables d’opérer en continu avec une constance que l’homme, soumis à la fatigue et à l’inattention, ne peut égaler ; ils offrent une réactivité et une vitesse de traitement de la menace supérieures, leur permettant de faire face à des attaques saturantes, multiples et complexes ; enfin, ils permettent des frappes d’opportunité.
Fort de ces avantages, il est aujourd’hui nécessaire de voir comment les armées peuvent intégrer de telles capacités sans remettre en question la place du chef militaire dans le processus décisionnel d’activation de ces systèmes, et tout en conservant son discernement dans l’action, afin de s’assurer de la maîtrise de la force dans leur utilisation.
Il reste 96 % de l'article à lire
Plan de l'article
L’autonomie au service de l’efficacité militaire
Le chef décide de la manœuvre et de son exécution
La prise en compte du contexte
Une nécessaire délégation de l’exécution de tâches
Une délégation d’autonomie finalisée
L’ouverture du feu
Homme « On-The-Loop » et non plus « In-The-Loop »
Un contrôle algorithmique au service d’une supervision humaine
Bornes et garde-fous
Exemples possibles de configuration et de bornage
Exemples possibles de leur implémentation
Une adaptation en dynamique en fonction du paramétrage
Les enjeux de responsabilité
Un accroissement de la responsabilité du chef
Le cas particulier de l’IA connexionniste
L’autonomie déportée
Facteur amplifiant de certaines difficultés
Facteur amplifiant de certains risques
Pistes de réponses pour sécuriser l’emploi de ces systèmes
Conclusions
Robot armé, autonomie, Droit des conflits armés (DCA), décision, létalité
