Egalité et Réconciliation
https://www.egaliteetreconciliation.fr/
 

La science-fiction, cette machine à anticiper notre peur des robots

Le succès récent du prototype d’agent conversationnel ChatGPT nous montre que dialoguer avec un ordinateur devient envisageable, du moins en apparence car il reste de grands défis à relever avant d’arriver à de véritables échanges, dotés d’à-propos et de pertinence.

 

Comme pour d’autres domaines de l’intelligence artificielle (IA), des questions se posent : les machines vont-elles nous dépasser dans notre maîtrise des langues ? Peuvent-elles nous supplanter ?

 

Une science-fiction préventive

Comme souvent, la science-fiction a su anticiper nos craintes et nos fantasmes en matière de robots conversationnels. Elle nous a habitués aux robots et IA qui se rebellent contre les humains, et a ainsi nourri le courant des dystopies, ces futurs plus ou moins proches où une technologie écrase l’humanité, où une guerre rend la vie impossible aux rares survivants, où une pandémie fait des ravages.

 

 

On pense aux drones autonomes et aux robots-tueurs comme le fameux T-800 de Terminator (James Cameron, 1984), ou aux super-ordinateurs dotés de capacités effrayantes comme le mythique HAL de 2001, L’Odyssée de l’espace (Stanley Kubrick, 1968). En montrant le comportement extrême de telles machines, la science-fiction traite de questions philosophiques qui sont au cœur des débats d’aujourd’hui avec ChatGPT.

 

 

Nous citons deux films dont les machines inquiétantes ont marqué à jamais leurs spectateurs, mais le côté sombre des robots et logiciels ont été explorés aussi – et souvent en premier – par les littératures de l’imaginaire.

Prenons l’exemple d’une IA conversationnelle programmée pour gérer une pandémie, c’est-à-dire fouiller parmi des informations en très grand nombre pour faire des déductions et remonter au cas zéro, mais aussi pour proposer des mesures sanitaires (confinement, surveillance des entrées et sorties d’un quartier sensible) voire aider les scientifiques humains à la mise au point d’un vaccin puis planifier l’inoculation de ce vaccin. Ce scénario vous semble familier ? Il vient d’un roman intitulé SARRA : une intelligence artificielle.

L’auteur, David Grison, un habitué des milieux hospitaliers et politiques, n’y est pas allé de main morte, car l’IA en vient – attention, spoiler ! – à faire des choix meurtriers. Ah oui, petit détail : le roman est paru en 2018, alors même que le mot « Covid » n’existait pas. De fait, c’est une épidémie d’Ebola que SARRA doit gérer.

Comparé à SARRA, le Terminator du premier film paraît bien fruste : programmé pour tuer Sarah Connor, il ne perd pas de temps à discuter et traque sa proie sans relâche, quitte à attaquer le commissariat (!) où elle s’est réfugiée. Avec un tel comportement, on pourrait penser que les capacités linguistiques du robot T-800 sont réduites voire inexistantes : il fait preuve d’une bonne connaissance des fusils à pompe, pas du traitement automatique des langues ni de ChatGPT.

 

Un robot expert en conversation

Et pourtant, le T-800 parle et comprend l’anglais bien mieux que ChatGPT. Revenons sur une scène significative du film : blessé à l’œil, le robot se réfugie dans une chambre d’hôtel pour se réparer, maniant ainsi des morceaux de tissus organiques qui attirent les mouches. L’odeur se propage vraisemblablement dans le couloir, car un homme d’entretien frappe à la porte et demande si ça vient d’un chat crevé. Vient alors le moment intéressant : on voit la tête du T-800 se tourner vers la porte fermée puis on assiste, en vue subjective, au raisonnement qui le conduit à proférer une injure, « fuck you, asshole ».

Sur fond rouge apparaît « réponse possible » suivi d’une liste de six phrases, qui vont de la réponse la plus simple et directe (« oui » ou « non ») jusqu’à cette fameuse injure, en passant par une réponse polie : « please come back later », soit « merci de revenir plus tard ». L’injure choisie par l’IA se met à clignoter et, simultanément, le T-800 la prononce, ce qui provoque l’effet escompté, c’est-à-dire éloigner l’homme d’entretien. Presque 40 ans avant ChatGPT, nous voici dans la tête d’une IA au moment où elle génère une réponse à une question.

 

JPEG - 45.9 ko
Comment Terminator génère automatiquement une réponse lors d’un dialogue.

[...]

ChatGPT est conçu pour répéter, combiner et reformuler des réponses qu’il puise dans un corpus, pas pour préparer chacun de ses énoncés en fonction d’une tâche ou mission à remplir comme le fait le T-800. On trouve néanmoins dans celui-ci des prémices de ChatGPT : lors de la toute première scène du film, il a entendu mot pour mot la même injure, proférée par l’un des voyous à qui il a violemment pris des vêtements. Mieux : on voit dans la liste deux injures qui ne diffèrent que d’un mot : on peut imaginer que l’une des deux vient du corpus d’apprentissage, l’autre de l’interaction entre le T-800 et les voyous.

 

 

Le film Terminator 2 : le Jugement dernier (James Cameron, 1991) explicite les capacités d’apprentissage et de traitement automatique des langues (TAL) du T-800 : on le voit répéter « Hasta la vista, baby » et dialoguer sans difficulté avec les différents personnages.

[...]

Avec de tels questionnements, la science-fiction nous met face aux rapports que nous entretenons avec nos machines, et nous aide à mieux comprendre nos peurs. Pourquoi avions-nous peur d’être dépassés par des ordinateurs jouant aux échecs ou au go ? Pourquoi cette peur a-t-elle désormais disparu ? La peur des ordinateurs maîtrisant les langues l’a-t-elle remplacée ? Mais est-ce légitime d’avoir peur de répétitions et de reformulations ?

Enfin, n’oublions pas que les robots conversationnels interviennent surtout quand on se situe juste avant la dystopie, et quand la communication avec les humains est encore utile. Dans Matrix (les Wachowski, 1999), tout est perdu : l’humanité sert de source d’énergie et les machines ne discutent plus…

 

 

Lire l’article entier sur theconversation.com

Comme prévu, sur E&R :

 






Alerter

53 Commentaires

AVERTISSEMENT !

Eu égard au climat délétère actuel, nous ne validerons plus aucun commentaire ne respectant pas de manière stricte la charte E&R :

- Aucun message à caractère raciste ou contrevenant à la loi
- Aucun appel à la violence ou à la haine, ni d'insultes
- Commentaire rédigé en bon français et sans fautes d'orthographe

Quoi qu'il advienne, les modérateurs n'auront en aucune manière à justifier leurs décisions.

Tous les commentaires appartiennent à leurs auteurs respectifs et ne sauraient engager la responsabilité de l'association Egalité & Réconciliation ou ses représentants.

Suivre les commentaires sur cet article

Afficher les commentaires précédents
  • #3104068

    J’en profite au passage pour rappeler que Terminator 2 est un pur chef-d’œuvre !!!

     

    Répondre à ce message

  • #3104353

    Tout ça, c’est le plan de Satan. Le plan de Dieu est tout autre et le Malin le sait. "Quand vous verrez l’abomination de la désolation ..." a dit le Christ, et bien on y est, suffit de regarder autour de soi.
    Une émission de masse coronale depuis le soleil en plein vers la terre, comme au XIX ème siècle, des aurores boréales partout, et c’est la fin de toute électronique. Plus rien ne fonctionnera et Babylone s’effondrera.

     

    Répondre à ce message

  • #3104559

    La connerie naturelle sera toujours plus dangereuse que l’intelligence artificielle ! Les cons sont en panique !

     

    Répondre à ce message

  • #3104824

    Quand on discute avec nos cons citoyens, on préfère l’intelligence artificielle !

     

    Répondre à ce message

  • #3105383
    Le 22 janvier 2023 à 16:41 par Problème cognitif
    La science-fiction, cette machine à anticiper notre peur des (...)

    Un super film , c’était Mondwest ,réalisé par Michael Crichton avec Yul Brynner en 1973

     

    Répondre à ce message

  • #3105676
    Le 23 janvier 2023 à 07:48 par Palm Beach Post : "Cult !"
    La science-fiction, cette machine à anticiper notre peur des (...)

    l’humanité a cette capacité de connerie
    qu’il y aura toujours une couille dans le système

    une brèche,
    une p’tite faille
    ’fait tranquillou la différence

     

    Répondre à ce message

  • #3105678
    Le 23 janvier 2023 à 07:56 par Palm Beach Post : "Cult !"
    La science-fiction, cette machine à anticiper notre peur des (...)

    rien ne dépassera jamais l’intelligence humaine
    on ne peut pas programmer des émotions

    même le plus débile, il bandera pour un gros cul
    une machine n’est pas autonome, c’est un programme

     

    Répondre à ce message

  • #3105729
    Le 23 janvier 2023 à 09:53 par Greg PMU
    La science-fiction, cette machine à anticiper notre peur des (...)

    Terminator 2 le meilleur film d’anticipation, sûrement le meilleur deuxième opus de toute l’histoire du cinéma, tout y est , la musique, la profondeur et simplicité du scenar, la réalité à venir qui ne se démand pas , l’amour filiale, la tradition héroïque, et l’éspoir d’une alliance homme machine qui pourrait être positive...ce film est mythique à tout les niveaux, et en plus Sarah Connor passe de serveuse à guerriere sauvée par son fils qui lui permet d’aimer à nouveau l’humanité qui l’a faite internée pour simplement vivre en vérité... Putain de film qui me rappel une époque où j’avais encore des gens qui m’aimaient autour de moi. Les années 90... merveilleuses années paradisiaques comparées a l’enfer sur terre actuel. On est bien dans les profecies de ce film , tout le monde se transforme en Terminator en chasse envers ceux qui pourraient encore sauver l’humanité si celle ci décidait de vouloir leur ressembler un peu plus au lieu de vouloir leur mort pour pas avoir à réfléchir sur leur condition de robots programmés par l’Antéchrist .

    Highlander est aussi excellent , dans un autre registre. Tout aussi excellent pour réaliser la puissance cinématographique et spirituelle des années 80, quoi qu’on en dise.

     

    Répondre à ce message

  • #3105894

    N’oubliez pas Dune (1965) et son fameux « jihad butlerien » !

     

    Répondre à ce message

  • #3113326

    Suffit de débrancher la prise en vrai... pouf y’a plus d’IA.

    C’est tout con mais l’autonomie des machines est impossible pour cette simple et unique raison. Elles sont incapables de produire l’énergie nécessaire à leur fonctionnement, celle-ci ne pouvant être produite que par l’huile de coude, à savoir le travail humain.

    Dans Matrix, elles tirent leur énergie du corps humain, plus précisément de l’activité du cerveau (si je me souviens bien). Allégorie plutôt bien sentie car en définitive les machines ont beau asservir l’humanité, elles restent malgré tout dépendantes de notre activité neuronale, donc de l’intelligence humaine. Cette dernière étant bien plus à craindre.

    « Artificiel, adj : Qui est dû à la technique de l’homme, par opposition à ce qui a été créé et s’est développé naturellement. »

    Bref, l’IA est un épouvantail, ce sont bien des Hommes dont il faut se méfier.

     

    Répondre à ce message

Afficher les commentaires précédents