Connexion
  • Mon espace
RDN Association loi 1904, fondée en 1939 RDN Le débat stratégique depuis 1939
  • Panier - 0 article
  • La Revue
  • e-RDN
    • Tribune
    • e-Recensions
    • Cahiers de la RDN
    • Débats stratégiques
    • Florilège historique
    • Repères
    • Brèves
  • Boutique
    • Abonnements
    • Crédits articles
    • Points de vente
    • Conditions générales de vente
  • Bibliothèque
    • Recherche
    • Auteurs
    • Anciens numéros
  • La RDN
    • Présentation
    • Comité d'études
    • L'équipe
    • Contact
    • Lettre d'infos
    • Agenda
  • Liens utiles
  • Mon espace
  • Connexion
  • Connexion

    Email :

    Mot de passe :

  • La Revue
  • e-RDN
    • Tribune
    • e-Recensions
    • Cahiers de la RDN
    • Débats stratégiques
    • Florilège historique
    • Repères
    • Brèves
  • Boutique
    • Abonnements
    • Crédits articles
    • Points de vente
    • Conditions générales de vente
  • Bibliothèque
    • Recherche
    • Auteurs
    • Anciens numéros
  • La RDN
    • Présentation
    • Comité d'études
    • L'équipe
    • Contact
    • Lettre d'infos
    • Agenda
  • Liens utiles
  • Accueil
  • e-RDN
  • Revue n° 820 Mai 2019
  • Éthique et autonomie : la place irréductible de l’humain

Éthique et autonomie : la place irréductible de l’humain

Dominique Lambert, « Éthique et autonomie : la place irréductible de l’humain  » Revue n° 820 Mai 2019 - p. 162-167

Les systèmes d’armes autonomes imposent une réflexion en évitant un amalgame entre l’humain et des algorithmes performants mais artificiels. Cela signifie une prise en compte des questions de responsabilité et d’emploi en respectant le droit international humanitaire tout en maintenant la place de l’homme.

Ethics and Autonomy: the Irreducible Place of the Human

Autonomous weapon systems demand careful reflection to avoid confusing the human with high-performance, but artificial algorithms. This means taking into account issues of responsibility and use, and respect for international humanitarian law whilst retaining the position of the human in the process.

Le problème des définitions Lorsque l’on aborde la question des systèmes d’armes « autonomes », on se heurte à une question de définition. Nous avons en effet tout un éventail de systèmes d’armes dont les actions peuvent se réaliser sans l’intervention d’un humain. Mais, les uns (systèmes « automatisés ») ont des comportements parfaitement prédictibles dans une zone d’action clairement prescrite, tandis que les autres pourraient avoir des degrés de liberté bien plus étendus et être imprédictibles, en raison de capacités de reprogrammation ou d’auto-apprentissage (1). C’est dans ce cas que l’on peut véritablement parler « d’autonomie » (dans le sens où le système possède sa propre loi d’action).

Cet éventail doit être enrichi par des notions et des degrés de « supervision » humaine. Un système pourrait être doué d’une autonomie, tout en étant, par ailleurs, constamment, ou seulement à certains moments critiques, supervisé par un humain. On peut également penser à un « partage d’autorité » (2) entre l’être humain et la machine, l’un pouvant reprendre le contrôle à l’autre suivant les nécessités de la mission ou les dangers rencontrés. Remarquons que l’autonomie peut concerner les capacités de pilotage et de navigation ou les « fonctions critiques » de détection, d’identification, de sélection et d’attaque, ou les deux (3).

Les problèmes légaux et éthiques qui apparaissent lorsqu’on considère l’utilisation d’armes autonomes, ne sont pas nécessairement liés à l’autonomie. Celle-ci peut être gage de sécurité. Il suffit de penser à un système autonome capable de détecter des mouvements aberrants d’un pilote d’avion et de reprendre de lui-même le pilotage pour éviter un crash. Les problèmes arrivent quand l’autonomie est entendue comme une indépendance radicale (sans partage, sans supervision) par rapport à une autorité humaine ; cette autonomie n’étant plus envisagée avec comme référence la protection et le respect de l’humain, du droit et du bien commun.

Il reste 88 % de l'article à lire

 

Plan de l'article

La différence humaine : l’imitation n’est pas la réalité

Fascination et oubli du « génie malin »

L’intentionnalité : le risque du non-sens

La responsabilité : l’impossible réponse algorithmique

Programmer la morale ? L’impossible jugement totalement algorithmique

La référence minimale : le droit international humanitaire

La référence ultime : dignité et bien commun

 
 

L'article a bien été ajouté au panier.

Mon panierContinuer mes achats

éthique, autonomie, DIH, responsabilité

Partagez...

  • Accéder au sommaire du numéro

Mai 2025
n° 880

Océans, des défis pour la France

Je participe au débat stratégique


À vos claviers,
réagissez au dossier du mois

 

Actualités

05-05-2025

La DGA présente son bilan d’activités 2024

30-04-2025

Camerone – 1863

29-04-2025

La Marine nationale teste en pleine mer un drone offensif sur une cible réelle

29-04-2025

Lancement réussi du 4e Vega C – Succès de la mise en orbite de Biomass

28-04-2025

Signature du contrat Rafale Marine pour l’Inde

22-04-2025

Disparition d'Odile de Vasselot

10-04-2025

Début des essais à la mer du BRF Jacques Stosskopf

Adhérez au CEDN

et bénéficiez d'un statut privilégié et d'avantages exclusifs (invitations...)

Anciens numéros

Accéder aux sommaires des revues de 1939 à aujourd’hui

Agenda

Colloques, manifestations, expositions...

Liens utiles

Institutions, ministères, médias...

Lettre d'infos

Boutique

  • Abonnements
  • Crédits articles
  • Points de vente
  • CGV
  • Politique de confidentialité / Mentions légales

e-RDN

  • Tribune
  • e-Recensions
  • Cahiers de la RDN
  • Florilège historique
  • Repères

Informations

La Revue Défense Nationale est éditée par le Comité d’études de défense nationale (association loi de 1901)

Directeur de la publication : Thierry CASPAR-FILLE-LAMBIE

Adresse géographique : École militaire,
1 place Joffre, Paris VII

Nous contacter

Tél. : 01 44 42 31 90

Email : contact@defnat.com

Adresse : BP 8607, 75325 Paris cedex 07

Publicité : 01 44 42 31 91

Copyright © Bialec Tous droits réservés.