Egalité et Réconciliation
https://www.egaliteetreconciliation.fr/
 

Les Nations unies se penchent sur le cas des robots soldats

Qu’est-ce qu’un robot ? Le Larousse en donne la définition suivante : « Appareil automatique capable de manipuler des objets ou d’exécuter des opérations selon un programme fixe, modifiable ou adaptable ».

Il s’agit-là de bien préciser l’enjeu des travaux de la Convention des Nations unies sur l’interdiction des armes inhumaines, qui se tient jusqu’au 16 mai à Genève.

Ce n’est pas encore évident pour tout le monde mais, par exemple, un drone comme le MQ-9 Reaper, dont il est souvent question quand des groupes jihadistes sont la cible de frappes aériennes dans les zones tribales pakistanaises ou au Yémen, ne sont pas des robots dans la mesure où ils sont pilotés à distance et que la décision de lâcher un missile Hellfire revient à son opérateur. Si un tel engin était autonome, c’est à dire programmé pour effectuer certaines tâches (par exemple larguer une bombe quand il repère des barbus, qu’ils soient d’al-Qaïda ou des ZZ Top), alors le cas serait différent.

Les militaires ont de plus en plus recours à des robots, notamment pour effectuer des tâches logistiques ou bien des missions de déminage. Cette tendance risque de s’accentuer dans les années qui viennent, à cause, selon un récent rapport du Center for a New American Security (CNAS), un centre de réflexion américain, de l’augmentation du coût des systèmes de combats « habités » et de la compression des budgets militaires occidentaux (avec les déflations d’effectifs à la clé).

D’où la possible tentation d’une fuite en avant dans ce domaine. « Les véhicules aériens et terrestres téléguidés seront bientôt remplacés par des systèmes plus autonomes dans tous les domaines (air, mer, marins, terrestres et spatiales) et dans toute la gamme des opérations militaires », est-il estimé dans le document du CNAS. « Les États-Unis auront recours à ces systèmes par nécessité opérationnelle et aussi parce que les frais de personnel et de développement des plates-formes traditionnelles de combat avec équipage augmentent à un rythme insoutenable », y est-il écrit.

Sera-t-il question, dès lors, de robots soldats, comme ceux annoncés par certains auteurs de science-fiction ? L’on n’en est pas encore là mais, toutefois, des systèmes autonomes existent déjà, comme l’Iron Dome israélien, capable de discriminer et de détruire de manière autonome des roquettes en fonction de leur dangerosité. Idem pour le MK Phalanx américain. En Corée du Sud, Samsung a développé le robot « Sentinella », capable de détecter la présence d’intrus et de leur faire des sommations. Mais l’ordre de tir doit lui être donné par un homme.

Cela étant, un robot « tueur » contreviendrait aux règles de la robotique énoncées par Isaac Asimov (1- un robot, doté d’une intelligence artificielle ne peut porter atteinte à un être humain. 2- il doit obéir aux ordres, sauf si ces derniers entrent en conflit avec la première régle)… Mais ces dernières ne constituent pas une garantie absolue. D’où la conférence des Nations unies, qui abordera les questions juridiques et éthiques liées à l’utilisation de telles machines sur un champ de bataille. Utilisation contre laquelle plusieurs voix se sont élevées.

Prix Nobel de la Paix en 1997, Jody Williams milite pour l’interdiction de ces robots « tueurs ». « Il est inconcevable que l’être humain transfère la décision de tuer à des machines », estime-t-elle. Le directeur de Human Right Watch, qui a diffusé un rapport en novembre 2012 sur ce sujet, a quant à lui dit espérer un « début de processus » qui « aboutira à l’adoption d’un nouveau traité international interdisant ces armes ».

« Le jugement humain reste indispensable pour toute décision concernant le recours à une arme mortelle », qu’ »il s’agisse d’une situation de guerre ou d’application de la loi », a-t-il aussi affirmé. « Les gouvernements doivent les interdire préventivement dès maintenant, avant qu’il ne soit trop tard », a-t-il ajouté

Le Comité international de la Croix-Rouge (CICR) soulève « les implications profondes des armes entièrement autonomes pour le futur de la guerre » et a demandé aux gouvernements « d’examiner tous les aspects juridiques de ces armes pour être sûrs qu’elles soient utilisées en accord avec le droit international humanitaire ».

« De sérieuses inquiétudes existent sur le fait de savoir si les armes entièrement autonomes peuvent procéder à des jugements complexes et dépendant des circonstances, par exemple distinguer entre un civil et un combattant, ou annuler une attaque ayant des effets disproportionnés sur les civils », a ainsi fait expliqué Kathleen Lawand, chef de la division armement du CICR.

Sur la question de la responsabilité de l’emploi de telles armes, le général Yakovleff a apporté un début de réponse dans son livre La guerre robotisée (Economica) en se fondant sur les lois de la robotique d’Asimov.

« Quelle que soit la complexité des algorithmes qui détermineront le comportement des robots, la responsabilité humaine restera pleinement engagée, au moins à trois niveaux : le concepteur et notamment celui qui a orienté l’intelligence artificielle ; le chef tactique, qui a décidé de la mission de l’unité engagée et fixé les limites (dont les règles d’engagement qui s’enrichiront forcément d’alinaés dédiés aux robots) ; le maître du robot proprement dit, celui qui est relié et qui le commande directement », a-t-il écrit.

 

Voir aussi, sur E&R :

 






Alerter

21 Commentaires

AVERTISSEMENT !

Eu égard au climat délétère actuel, nous ne validerons plus aucun commentaire ne respectant pas de manière stricte la charte E&R :

- Aucun message à caractère raciste ou contrevenant à la loi
- Aucun appel à la violence ou à la haine, ni d'insultes
- Commentaire rédigé en bon français et sans fautes d'orthographe

Quoi qu'il advienne, les modérateurs n'auront en aucune manière à justifier leurs décisions.

Tous les commentaires appartiennent à leurs auteurs respectifs et ne sauraient engager la responsabilité de l'association Egalité & Réconciliation ou ses représentants.

Suivre les commentaires sur cet article

Afficher les commentaires précédents
  • #820757
    Le 15 mai 2014 à 00:48 par goy pride
    Les Nations unies se penchent sur le cas des robots soldats

    Cela étant, un robot « tueur » contreviendrait aux règles de la robotique énoncées par Isaac Asimov (1- un robot, doté d’une intelligence artificielle ne peut porter atteinte à un être humain. 2- il doit obéir aux ordres, sauf si ces derniers entrent en conflit avec la première régle)… Mais ces dernières ne constituent pas une garantie absolue.



    Ce passage est-il une blague ? Comme si ces règles venant d’un écrivain de science-fiction devaient avoir une valeur juridique ! Bien sûr que cela ne constitue pas une garantie absolue ! Pardi !

    Ces histoires de robots hyper médiatisées dans le cinéma, dans des documentaires...s’inscrivent dans le cadre d’une propagande visant à intimider les ennemis potentiels de l’empire en leur faisant croire que les USA disposent d’armes hyper sophistiquées qui pourront bientôt être utilisées...cela fait des décennies que cette propagande dure et on ne voit toujours rien arrivé ! En vérité même si ces abominations robotiques devaient être pleinement fonctionnelles les coûts considérables que cela nécessiterait pour être mis en oeuvre seraient probablement insurmontable. Un soldat humain cela reste de loin beaucoup plus efficace et économique !

     

    Répondre à ce message

    • #820883
      Le Mai 2014 à 09:16 par Orcinus Orca
      Les Nations unies se penchent sur le cas des robots soldats

      + 1
      Cette blague m’a fait sourire aussi... Amusant comme réalité et fiction tendent à se confondre dans certains cerveaux ( positroniques ou non )
      Non seulement les ingénieurs de l’armée se contrefoutent des 3 lois d’Asimov, mais il semble plus que probable que, pour abonder dans ton sens, les recherches s’orientent vers des systèmes hybrides homme/machine, à cause des coûts mais également des impasses technologiques inhérentes à des robots réellement autonomes.
      On se dirigerait alors vers un futur plus proche de Robert Heinlein, avec des soldats équipés d’exosquelettes et autres combinaisons high tech ( cf Starship Troopers, le livre, pas le film)

       
    • #820925

      Ces histoires de robots hyper médiatisées dans le cinéma, dans des documentaires...s’inscrivent dans le cadre d’une propagande visant à intimider les ennemis potentiels de l’empire en leur faisant croire que les USA disposent d’armes hyper sophistiquées qui pourront bientôt être utilisées...cela fait des décennies que cette propagande dure et on ne voit toujours rien arrivé ! En vérité même si ces abominations robotiques devaient être pleinement fonctionnelles les coûts considérables que cela nécessiterait pour être mis en oeuvre seraient probablement insurmontable. Un soldat humain cela reste de loin beaucoup plus efficace et économique !



      Oui et non.

      D’un côté des sociétés militaro-industrielles vendent du rêve aux futurs dictateurs en faisant miroiter les prouesses de robots ou de systèmes qui ne se plaignent pas, obéissent sans faillir, etc. Les budgets R&D aux USA sont importants. De l’autre, c’est vrai que ça ne marche pas toujours, ça coûte cher et ça sert beaucoup à épater la galerie. Mais jusqu’à quand ?

      Les drones sont une réalité et il y a une fuite mondiale en avant pour amener l’homme à être assisté de technologie (soldat augmenté, diagnostic par capteur, etc.) ou pour mettre la technologie à la place de l’homme (robot). Le progrès technique autour de l’énergie, des algorithmes comportementaux, de la détection évoluent vite et on soupçonne à peine ce qui sera possible dans 10 ou 20 ans.

      Des exemples de projets R&D :
      - possibilité de détecter des personnes dans une salle derrière un mur grâce à une caméra femtoseconde (on envoie des photons qui rebondissent sur les murs et retournent à la source pour former une image). Je ne retrouve pas la vidéo exacte de l’expérience mais sur le sujet :
      http://www.youtube.com/watch?v=bh2k...
      http://www.youtube.com/watch?v=-fSq...
      - détection / reconnaissance faciale (marche déjà plus ou moins bien)
      - exosquelette : http://www.youtube.com/watch?v=p2W2...

      Aujourd’hui, Google fait rouler des voitures seules sur des milliers de kilomètres aux USA. Les Google Glass n’existent pas depuis bien longtemps, mais illustrent l’idée d’un homme augmenté par la technologie. Que l’avenir soit fait de robots autonomes, d’un mélange de coopération homme / machine, il devient technologique.



      Un soldat humain cela reste de loin beaucoup plus efficace et économique !



      Pareil autrefois pour l’industrie et l’ouvrier. Qui fabrique les voitures en 2014 ?

       
  • #820839
    Le 15 mai 2014 à 06:34 par gorezin
    Les Nations unies se penchent sur le cas des robots soldats

    Jody Williams et le CICR ne serviront à rien dans le cas présent. Les USA voulant clairement des robots 100% autonomes, là où ils bloquent encore est sur la programmation qui prend du temps. mais ils cherchent à enlever l’humain derrière les commandes, pour mieux nous massacrer depuis le bureau ovale sans bouger un orteil. Terminator une fiction ? Attendons encore, disons 20 ans maxi, et il nous faudra un John Connor fait maison pour nous sortir de là

     

    Répondre à ce message

  • #820846
    Le 15 mai 2014 à 07:07 par FedericoF
    Les Nations unies se penchent sur le cas des robots soldats

    Je finis par me demander si la science-fiction n’inspire pas tous les barjots du progrès à tout prix (armement, agriculture, médecine) plutôt que de leur ouvrir les yeux sur leurs folies.

     

    Répondre à ce message

  • #820979
    Le 15 mai 2014 à 12:01 par matrix le gaulois
    Les Nations unies se penchent sur le cas des robots soldats

    Mouaip, ça fait peur.

    Déjà que les Iraniens arrivent à pirater et capturer les drones états-uniens (pareil pour le hezbollah qui arrive carrément à les retourner contre israël), alors imaginez : toute une armée US 2.0 où il n’y aurait comme humains que quelques généraux, être retournée du jour au lendemain par les Russes ou les Chinois à même le champs de bataille. Des milliers, des millions de machines de combat qui se mutinent contre 4 ou 5 généraux...

    Il faut au contraire que les USA continuent à dépenser du fric là-dedans : si ça peut couler un peu plus leur économie...

     

    Répondre à ce message

  • #821036

    On arrête pas de nous sortir que l’homme est un être merveilleux, bon et tout le tralala mais force est de reconnaître que l’un des domaines dans lesquels notre espèce excelle le mieux c’est la guerre donc la destruction.

    Il y a tant de problèmes dans les sociétés humaines et les robots pourraient aidé dans tant de domaines et pourtant certains voudraient investir une fortune pour avoir “iWarrior”.
    Passionné d’œuvres de science-fiction, ce genre de nouvelle ne me rassure guère car dans ces univers ça se termine rarement bien. Par exemple dans Mass Effect, même les robots de sécurités les plus basiques peuvent être facilement reprogrammé et se retourner contre leur maîtres.

    Dans le classements des 20 espèces animales les plus violentes et les plus barbares que la Terre a connu, l’être humain doit avoir une belle place.

     

    Répondre à ce message

  • #821051
    Le 15 mai 2014 à 13:31 par SpiritusRector
    Les Nations unies se penchent sur le cas des robots soldats

    Le problème de la machine à tuer si évoluée soit-elle est qu’elle change facilement de camp...

    - La programmation qui gèrerait tous les cas complexes... Pur fantasme... Autant offrir directement la technologie à l’ennemi... Donc contrôle distant...
    - Le contrôle distant c’est bien, sauf si l’ennemi prend votre base de contrôle distant... Il dispose donc de votre armée... Et vous êtes à poil.

    NB : la technologie d’armement est beaucoup moins fiable que celle de la locomotion, qui déjà n’est pas parfaite comme en attestent nos voitures et nos chars...

    Pour la simple raison que l’armement pèse très lourd, se déforme, s’enraye, voir s’autodétruit si tous les petits soins n’y sont pas apportés aussi souvent que nécessaire. (et c’est très souvent)

    Pour maintenir une force opérationnelle, il faudra donc beaucoup de machine et des bases d’entretien et de contrôle... Ça va coûter une blinde, à l’image de l’aviation moderne...

    En conclusion je reste très perplexe quant à la faisabilité de tout ça... Dans les films US je ne doute de rien... Mais au sol, sur le terrain (potentiellement accidenté) avec brouillard, cours-circuits, attaques par impulsions électromagnétiques, piratage, etc...

    Je pense que c’est plus un moyen de prolonger le mythe du progrès technologique éternel et éternellement applicable dans un monde aux ressources qui s’amenuisent.

    Ça devrait surtout contribuer à maintenir le dollar sous la perfusion de l’espoir et de l’imagination collective pendant quelques temps...

     

    Répondre à ce message

  • #821108

    mais c’est quoi cet article baclé !? quand vous prétendez dénoncer faites le bien au moins. voir boston dynamics,l’agence darpa et les liens avec la fema !

     

    Répondre à ce message

  • #821346
    Le 15 mai 2014 à 17:09 par take five
    Les Nations unies se penchent sur le cas des robots soldats

    on a vu ce que donnait le phalanx , consommateur gigantesque de munitions, face à un exocet aux malouines, tout ce bla-bla c’est de la propagande pour ados attardés, et j’ose même pas parler de l’efficacité de l’air force le 11 septembre...

     

    Répondre à ce message

  • #821361

    avec ce genre "d’inventions" ils pourront (en cas de BAVURES) raconter que c’est un pirate ,un "haqueur " qui à détourné cet instrument de la démocratie ....
    ou alors que ça a buggé ....
    c’est tout bénéf .

     

    Répondre à ce message

  • #821711

    Combien de films, livres ou bandes dessinées qui sur ce sujet nous avertissent de la dangerosité de la guerre cybernétique ?
    N’est-ce pas Einstein lui-même qui disait que la 4ème Guerre Mondiale se ferait avec des caillous et des batons en guise d’armes ? Parce qu’au rythme ou nous détruisons méthodiquement notre éco-système et la biosphère, d’ici 25 ans il ne restera plus grand chose !
    Pour ceux qui ne sont pas trop branchés science-fiction un seul film à voir : Terminator avec Arnold Schwarzeneger dans le rôle du gentil robot-soldat du futur venu faire plein de poutous-poutous à Sarah Connor... :-*

    Dans cet avenir sombre et sauvage, que nous voyons arriver inéluctablement ; quand les drones auront marteler la terre de leurs bombes et que l’Homme ne sera plus qu’un rat se terrant dans les sous-sol d’une planète dévastée par l’Hiver Nucléaire, quand d’autres organismes d’outre espace viendront finir de moissonner les ressources de notre chère Terre, et quand même Dieu aura laissé tomber sa création pour se reposer de tant de souffrances et de blasphèmes, quand la seule espèce encore vivante de cette minuscule boule bleue regardera vers un Passé révolu pour y trouver un peu de réconfort dans l’observation de sa gloire de naguère, alors nous dirons à nos petits enfants " nous ne savions pas !!! "
    Hacko

     

    Répondre à ce message

Afficher les commentaires précédents