Egalité et Réconciliation
https://www.egaliteetreconciliation.fr/
 
A A A
imprimer

Les Nations unies se penchent sur le cas des robots soldats

Qu’est-ce qu’un robot ? Le Larousse en donne la définition suivante : « Appareil automatique capable de manipuler des objets ou d’exécuter des opérations selon un programme fixe, modifiable ou adaptable ».

Il s’agit-là de bien préciser l’enjeu des travaux de la Convention des Nations unies sur l’interdiction des armes inhumaines, qui se tient jusqu’au 16 mai à Genève.

Ce n’est pas encore évident pour tout le monde mais, par exemple, un drone comme le MQ-9 Reaper, dont il est souvent question quand des groupes jihadistes sont la cible de frappes aériennes dans les zones tribales pakistanaises ou au Yémen, ne sont pas des robots dans la mesure où ils sont pilotés à distance et que la décision de lâcher un missile Hellfire revient à son opérateur. Si un tel engin était autonome, c’est à dire programmé pour effectuer certaines tâches (par exemple larguer une bombe quand il repère des barbus, qu’ils soient d’al-Qaïda ou des ZZ Top), alors le cas serait différent.

Les militaires ont de plus en plus recours à des robots, notamment pour effectuer des tâches logistiques ou bien des missions de déminage. Cette tendance risque de s’accentuer dans les années qui viennent, à cause, selon un récent rapport du Center for a New American Security (CNAS), un centre de réflexion américain, de l’augmentation du coût des systèmes de combats « habités » et de la compression des budgets militaires occidentaux (avec les déflations d’effectifs à la clé).

D’où la possible tentation d’une fuite en avant dans ce domaine. « Les véhicules aériens et terrestres téléguidés seront bientôt remplacés par des systèmes plus autonomes dans tous les domaines (air, mer, marins, terrestres et spatiales) et dans toute la gamme des opérations militaires », est-il estimé dans le document du CNAS. « Les États-Unis auront recours à ces systèmes par nécessité opérationnelle et aussi parce que les frais de personnel et de développement des plates-formes traditionnelles de combat avec équipage augmentent à un rythme insoutenable », y est-il écrit.

Sera-t-il question, dès lors, de robots soldats, comme ceux annoncés par certains auteurs de science-fiction ? L’on n’en est pas encore là mais, toutefois, des systèmes autonomes existent déjà, comme l’Iron Dome israélien, capable de discriminer et de détruire de manière autonome des roquettes en fonction de leur dangerosité. Idem pour le MK Phalanx américain. En Corée du Sud, Samsung a développé le robot « Sentinella », capable de détecter la présence d’intrus et de leur faire des sommations. Mais l’ordre de tir doit lui être donné par un homme.

Cela étant, un robot « tueur » contreviendrait aux règles de la robotique énoncées par Isaac Asimov (1- un robot, doté d’une intelligence artificielle ne peut porter atteinte à un être humain. 2- il doit obéir aux ordres, sauf si ces derniers entrent en conflit avec la première régle)… Mais ces dernières ne constituent pas une garantie absolue. D’où la conférence des Nations unies, qui abordera les questions juridiques et éthiques liées à l’utilisation de telles machines sur un champ de bataille. Utilisation contre laquelle plusieurs voix se sont élevées.

Prix Nobel de la Paix en 1997, Jody Williams milite pour l’interdiction de ces robots « tueurs ». « Il est inconcevable que l’être humain transfère la décision de tuer à des machines », estime-t-elle. Le directeur de Human Right Watch, qui a diffusé un rapport en novembre 2012 sur ce sujet, a quant à lui dit espérer un « début de processus » qui « aboutira à l’adoption d’un nouveau traité international interdisant ces armes ».

« Le jugement humain reste indispensable pour toute décision concernant le recours à une arme mortelle », qu’ »il s’agisse d’une situation de guerre ou d’application de la loi », a-t-il aussi affirmé. « Les gouvernements doivent les interdire préventivement dès maintenant, avant qu’il ne soit trop tard », a-t-il ajouté

Le Comité international de la Croix-Rouge (CICR) soulève « les implications profondes des armes entièrement autonomes pour le futur de la guerre » et a demandé aux gouvernements « d’examiner tous les aspects juridiques de ces armes pour être sûrs qu’elles soient utilisées en accord avec le droit international humanitaire ».

« De sérieuses inquiétudes existent sur le fait de savoir si les armes entièrement autonomes peuvent procéder à des jugements complexes et dépendant des circonstances, par exemple distinguer entre un civil et un combattant, ou annuler une attaque ayant des effets disproportionnés sur les civils », a ainsi fait expliqué Kathleen Lawand, chef de la division armement du CICR.

Sur la question de la responsabilité de l’emploi de telles armes, le général Yakovleff a apporté un début de réponse dans son livre La guerre robotisée (Economica) en se fondant sur les lois de la robotique d’Asimov.

« Quelle que soit la complexité des algorithmes qui détermineront le comportement des robots, la responsabilité humaine restera pleinement engagée, au moins à trois niveaux : le concepteur et notamment celui qui a orienté l’intelligence artificielle ; le chef tactique, qui a décidé de la mission de l’unité engagée et fixé les limites (dont les règles d’engagement qui s’enrichiront forcément d’alinaés dédiés aux robots) ; le maître du robot proprement dit, celui qui est relié et qui le commande directement », a-t-il écrit.

 

Voir aussi, sur E&R :

 



Article ancien.
Les commentaires sont désactivés



Alerter

21 Commentaires

AVERTISSEMENT !

Eu égard au climat délétère actuel, nous ne validerons plus aucun commentaire ne respectant pas de manière stricte la charte E&R :

- Aucun message à caractère raciste ou contrevenant à la loi
- Aucun appel à la violence ou à la haine, ni d'insultes
- Commentaire rédigé en bon français et sans fautes d'orthographe

Quoi qu'il advienne, les modérateurs n'auront en aucune manière à justifier leurs décisions.

Tous les commentaires appartiennent à leurs auteurs respectifs et ne sauraient engager la responsabilité de l'association Egalité & Réconciliation ou ses représentants.

  • #820612
    le 14/05/2014 par Pierre Lagaillarde & son orchestre
    Les Nations unies se penchent sur le cas des robots soldats

    L’O.N.U. veut interdire les armes inhumaines sous prétexte que ça n’est pas chevaleresque, mais par contre elle autorise les missiles balistiques intercontinentaux... le gars appuie juste sur un bouton pour envoyer un pruneau atomique à l’autre bout de la planète ; ridicule.

     

    • Ca n’a rien à voir, l’arme atomique n’est pas faite pour être utilisée (on peut dire que les deux utilisées au Japon ont été une belle connerie). Alors que les robots, si on ne fait rien aujourd’hui, demain tu auras ça en bas de chez toi à la place des CRS pour te faire marcher au pas. Et comme ce sera pas cher, on pourra en plus en mettre beaucoup et partout. Et je ne parle même pas du pouvoir corrompu et traître, qui pourra ainsi se protéger indéfiniment contre toute insurrection populaire (pourtant autorisée sous certaines conditions).


  • #820619

    Qui a vu le film planète hurlante... quand on sait les problèmes de bugs informatiques sur la plupart des machines modernes ça sera bien commode pour se laver les mains de massacres d’innocents à venir.

    J’imagine d’ici un Futur radieux.

    Quelque part, une hotline anonyme :
    "iKillcare bonjour... oui, oui, d’accord.
    Oh, ce massacre n’est pas de notre responsabilité, c’est sûrement dû à la dernière mise à jour pour la version 6.6.6 qui n’a pas pu être faite à temps, de toute façon dans les clause de la licence du firmware il était bien stipulé que nous n’avons aucune responsabilité en cas de bugs ou dysfonctionnement suite à une mise à jour.
    Mais je vois que votre unité est encore sous garantie donc nous pouvons la prendre en charge. Vous souhaitez une réparation standard ou un remplacement express ?"

     

    • En geste commercial, nous vous proposons -20% sur la toute nouvelle version de notre système de reconnaissance faciale "Blancos". Avec lui, les basanés vont valser. En vous remerciant de votre fidélité, je me joins à toute l’équipe de Ikillcare pour vous souhaiter une très bonne journée.


  • #820623

    Pour alimenter le sujet sur la robotique militaire, des vidéos à voir absolument :

    - les robots soldats de Boston Dynamics
    https://www.youtube.com/watch?v=cr-...

    Une vidéo plus ’brut de décoffrage’ qui montre la stabilité et capacité à aller vite, sur terrain escarpé ou encaisser un choc latéral. Les prochains robots soldats seront forts, rapides... dangereux et flippants donc.
    https://www.youtube.com/watch?v=cNZ...

    Pour rappel, Google a racheté Boston Dynamics. Mais pour en faire quoi, mystère.
    Cette vidéo montre, en plus du ’Dog’, le robot humanoide Petman... impressionnant (à partir de 1’27). Les japonais ne sont pas en reste.
    https://www.youtube.com/watch?v=cj8...

    - Autre video très instructive de Daniel Suarez lors d’une conférence Tedx : ’la décision de tuer ne devrait pas être laissée à un robot’.
    Ses explications sur le volume de data à traiter (drones à 64 caméras, vision à 360°, etc) qui va reléguer le traitement humain à une éventuelle décision go / no go sont limpides.
    (vidéo en anglais, gratuite, à voir)
    http://www.ted.com/talks/daniel_sua...

    - en aparté, au-delà du robot isolé en forme d’homme ou d’animal, la coopération de robots volants (drone) :
    http://www.ted.com/talks/vijay_kuma...
    les vidéos vers les trois quarts de la présentation sont impressionnantes.
    On retrouve ce type de vidéo pour les plus pressés :
    https://www.youtube.com/watch?v=YQI...

    - Le sujet du gros robot à la Terminator est bien à prendre en compte, mais il y a peut-être un potentiel encore plus important avec des petits robots / drones coopérants qui pourront déployer des actions aujourd’hui insoupçonnées. Les machines sont télépathes (wifi), pas les hommes et peuvent déployer des actions synchronisées et actualisées en temps réel... essaim de bourdons ou autres (nano)robots encore à imaginer, terminator équipé d’une tourelle... je suis assez inquiet sur ce que l’avenir de la guerre nous réserve avec ces technologies. Leur précision, rapidité et capacité à calculer instantanément un déplacement, l’évitement d’un obstacle ou d’un projectile leur donneront un avantage réel sur l’homme.


  • Je ne pense pas que les politiciens accepterons un jour de mettre en circulation des robots tueur autonomes.

    Imaginez une seconde un robot qui serait capable d’analyser la situation et de tué tout individu qu’il jugera suffisamment mauvais ou dangereux, la première chose qu’il fera sera de ce retourner contre les membres du gouvernement... non, aucune chance que ça passe.

    Par contre des robot qui tirerons à vue sur tout individus qui ne se sera pas fait poser sa puce d’identité, ça c’est déjà plus probable...

    De toute façon on en est pas encore la, les mercenaires lowcost du tiers-monde sont plus rentables.


  • ils feraient mieux de dépenser des millions pour réapprendre à s’aimer, mais bon je ne sais même pas s’ils savent si ce mot a un sens pour eux ?


  • A quand les guerres a base d’armés de terminator / drone face a des nations moins développées obligées d’envoyer des soldats ?



  • Cela étant, un robot « tueur » contreviendrait aux règles de la robotique énoncées par Isaac Asimov (1- un robot, doté d’une intelligence artificielle ne peut porter atteinte à un être humain. 2- il doit obéir aux ordres, sauf si ces derniers entrent en conflit avec la première régle)… Mais ces dernières ne constituent pas une garantie absolue.



    Ce passage est-il une blague ? Comme si ces règles venant d’un écrivain de science-fiction devaient avoir une valeur juridique ! Bien sûr que cela ne constitue pas une garantie absolue ! Pardi !

    Ces histoires de robots hyper médiatisées dans le cinéma, dans des documentaires...s’inscrivent dans le cadre d’une propagande visant à intimider les ennemis potentiels de l’empire en leur faisant croire que les USA disposent d’armes hyper sophistiquées qui pourront bientôt être utilisées...cela fait des décennies que cette propagande dure et on ne voit toujours rien arrivé ! En vérité même si ces abominations robotiques devaient être pleinement fonctionnelles les coûts considérables que cela nécessiterait pour être mis en oeuvre seraient probablement insurmontable. Un soldat humain cela reste de loin beaucoup plus efficace et économique !

     

    • + 1
      Cette blague m’a fait sourire aussi... Amusant comme réalité et fiction tendent à se confondre dans certains cerveaux ( positroniques ou non )
      Non seulement les ingénieurs de l’armée se contrefoutent des 3 lois d’Asimov, mais il semble plus que probable que, pour abonder dans ton sens, les recherches s’orientent vers des systèmes hybrides homme/machine, à cause des coûts mais également des impasses technologiques inhérentes à des robots réellement autonomes.
      On se dirigerait alors vers un futur plus proche de Robert Heinlein, avec des soldats équipés d’exosquelettes et autres combinaisons high tech ( cf Starship Troopers, le livre, pas le film)



    • Ces histoires de robots hyper médiatisées dans le cinéma, dans des documentaires...s’inscrivent dans le cadre d’une propagande visant à intimider les ennemis potentiels de l’empire en leur faisant croire que les USA disposent d’armes hyper sophistiquées qui pourront bientôt être utilisées...cela fait des décennies que cette propagande dure et on ne voit toujours rien arrivé ! En vérité même si ces abominations robotiques devaient être pleinement fonctionnelles les coûts considérables que cela nécessiterait pour être mis en oeuvre seraient probablement insurmontable. Un soldat humain cela reste de loin beaucoup plus efficace et économique !



      Oui et non.

      D’un côté des sociétés militaro-industrielles vendent du rêve aux futurs dictateurs en faisant miroiter les prouesses de robots ou de systèmes qui ne se plaignent pas, obéissent sans faillir, etc. Les budgets R&D aux USA sont importants. De l’autre, c’est vrai que ça ne marche pas toujours, ça coûte cher et ça sert beaucoup à épater la galerie. Mais jusqu’à quand ?

      Les drones sont une réalité et il y a une fuite mondiale en avant pour amener l’homme à être assisté de technologie (soldat augmenté, diagnostic par capteur, etc.) ou pour mettre la technologie à la place de l’homme (robot). Le progrès technique autour de l’énergie, des algorithmes comportementaux, de la détection évoluent vite et on soupçonne à peine ce qui sera possible dans 10 ou 20 ans.

      Des exemples de projets R&D :
      - possibilité de détecter des personnes dans une salle derrière un mur grâce à une caméra femtoseconde (on envoie des photons qui rebondissent sur les murs et retournent à la source pour former une image). Je ne retrouve pas la vidéo exacte de l’expérience mais sur le sujet :
      http://www.youtube.com/watch?v=bh2k...
      http://www.youtube.com/watch?v=-fSq...
      - détection / reconnaissance faciale (marche déjà plus ou moins bien)
      - exosquelette : http://www.youtube.com/watch?v=p2W2...

      Aujourd’hui, Google fait rouler des voitures seules sur des milliers de kilomètres aux USA. Les Google Glass n’existent pas depuis bien longtemps, mais illustrent l’idée d’un homme augmenté par la technologie. Que l’avenir soit fait de robots autonomes, d’un mélange de coopération homme / machine, il devient technologique.



      Un soldat humain cela reste de loin beaucoup plus efficace et économique !



      Pareil autrefois pour l’industrie et l’ouvrier. Qui fabrique les voitures en 2014 ?


  • Jody Williams et le CICR ne serviront à rien dans le cas présent. Les USA voulant clairement des robots 100% autonomes, là où ils bloquent encore est sur la programmation qui prend du temps. mais ils cherchent à enlever l’humain derrière les commandes, pour mieux nous massacrer depuis le bureau ovale sans bouger un orteil. Terminator une fiction ? Attendons encore, disons 20 ans maxi, et il nous faudra un John Connor fait maison pour nous sortir de là


  • Je finis par me demander si la science-fiction n’inspire pas tous les barjots du progrès à tout prix (armement, agriculture, médecine) plutôt que de leur ouvrir les yeux sur leurs folies.

     

  • #820979

    Mouaip, ça fait peur.

    Déjà que les Iraniens arrivent à pirater et capturer les drones états-uniens (pareil pour le hezbollah qui arrive carrément à les retourner contre israël), alors imaginez : toute une armée US 2.0 où il n’y aurait comme humains que quelques généraux, être retournée du jour au lendemain par les Russes ou les Chinois à même le champs de bataille. Des milliers, des millions de machines de combat qui se mutinent contre 4 ou 5 généraux...

    Il faut au contraire que les USA continuent à dépenser du fric là-dedans : si ça peut couler un peu plus leur économie...


  • On arrête pas de nous sortir que l’homme est un être merveilleux, bon et tout le tralala mais force est de reconnaître que l’un des domaines dans lesquels notre espèce excelle le mieux c’est la guerre donc la destruction.

    Il y a tant de problèmes dans les sociétés humaines et les robots pourraient aidé dans tant de domaines et pourtant certains voudraient investir une fortune pour avoir “iWarrior”.
    Passionné d’œuvres de science-fiction, ce genre de nouvelle ne me rassure guère car dans ces univers ça se termine rarement bien. Par exemple dans Mass Effect, même les robots de sécurités les plus basiques peuvent être facilement reprogrammé et se retourner contre leur maîtres.

    Dans le classements des 20 espèces animales les plus violentes et les plus barbares que la Terre a connu, l’être humain doit avoir une belle place.


  • #821051

    Le problème de la machine à tuer si évoluée soit-elle est qu’elle change facilement de camp...

    - La programmation qui gèrerait tous les cas complexes... Pur fantasme... Autant offrir directement la technologie à l’ennemi... Donc contrôle distant...
    - Le contrôle distant c’est bien, sauf si l’ennemi prend votre base de contrôle distant... Il dispose donc de votre armée... Et vous êtes à poil.

    NB : la technologie d’armement est beaucoup moins fiable que celle de la locomotion, qui déjà n’est pas parfaite comme en attestent nos voitures et nos chars...

    Pour la simple raison que l’armement pèse très lourd, se déforme, s’enraye, voir s’autodétruit si tous les petits soins n’y sont pas apportés aussi souvent que nécessaire. (et c’est très souvent)

    Pour maintenir une force opérationnelle, il faudra donc beaucoup de machine et des bases d’entretien et de contrôle... Ça va coûter une blinde, à l’image de l’aviation moderne...

    En conclusion je reste très perplexe quant à la faisabilité de tout ça... Dans les films US je ne doute de rien... Mais au sol, sur le terrain (potentiellement accidenté) avec brouillard, cours-circuits, attaques par impulsions électromagnétiques, piratage, etc...

    Je pense que c’est plus un moyen de prolonger le mythe du progrès technologique éternel et éternellement applicable dans un monde aux ressources qui s’amenuisent.

    Ça devrait surtout contribuer à maintenir le dollar sous la perfusion de l’espoir et de l’imagination collective pendant quelques temps...


  • mais c’est quoi cet article baclé !? quand vous prétendez dénoncer faites le bien au moins. voir boston dynamics,l’agence darpa et les liens avec la fema !


  • on a vu ce que donnait le phalanx , consommateur gigantesque de munitions, face à un exocet aux malouines, tout ce bla-bla c’est de la propagande pour ados attardés, et j’ose même pas parler de l’efficacité de l’air force le 11 septembre...


  • avec ce genre "d’inventions" ils pourront (en cas de BAVURES) raconter que c’est un pirate ,un "haqueur " qui à détourné cet instrument de la démocratie ....
    ou alors que ça a buggé ....
    c’est tout bénéf .


  • Combien de films, livres ou bandes dessinées qui sur ce sujet nous avertissent de la dangerosité de la guerre cybernétique ?
    N’est-ce pas Einstein lui-même qui disait que la 4ème Guerre Mondiale se ferait avec des caillous et des batons en guise d’armes ? Parce qu’au rythme ou nous détruisons méthodiquement notre éco-système et la biosphère, d’ici 25 ans il ne restera plus grand chose !
    Pour ceux qui ne sont pas trop branchés science-fiction un seul film à voir : Terminator avec Arnold Schwarzeneger dans le rôle du gentil robot-soldat du futur venu faire plein de poutous-poutous à Sarah Connor... :-*

    Dans cet avenir sombre et sauvage, que nous voyons arriver inéluctablement ; quand les drones auront marteler la terre de leurs bombes et que l’Homme ne sera plus qu’un rat se terrant dans les sous-sol d’une planète dévastée par l’Hiver Nucléaire, quand d’autres organismes d’outre espace viendront finir de moissonner les ressources de notre chère Terre, et quand même Dieu aura laissé tomber sa création pour se reposer de tant de souffrances et de blasphèmes, quand la seule espèce encore vivante de cette minuscule boule bleue regardera vers un Passé révolu pour y trouver un peu de réconfort dans l’observation de sa gloire de naguère, alors nous dirons à nos petits enfants " nous ne savions pas !!! "
    Hacko


Afficher les commentaires suivants