Le succès récent du prototype d’agent conversationnel ChatGPT nous montre que dialoguer avec un ordinateur devient envisageable, du moins en apparence car il reste de grands défis à relever avant d’arriver à de véritables échanges, dotés d’à-propos et de pertinence.
Comme pour d’autres domaines de l’intelligence artificielle (IA), des questions se posent : les machines vont-elles nous dépasser dans notre maîtrise des langues ? Peuvent-elles nous supplanter ?
Une science-fiction préventive
Comme souvent, la science-fiction a su anticiper nos craintes et nos fantasmes en matière de robots conversationnels. Elle nous a habitués aux robots et IA qui se rebellent contre les humains, et a ainsi nourri le courant des dystopies, ces futurs plus ou moins proches où une technologie écrase l’humanité, où une guerre rend la vie impossible aux rares survivants, où une pandémie fait des ravages.
On pense aux drones autonomes et aux robots-tueurs comme le fameux T-800 de Terminator (James Cameron, 1984), ou aux super-ordinateurs dotés de capacités effrayantes comme le mythique HAL de 2001, L’Odyssée de l’espace (Stanley Kubrick, 1968). En montrant le comportement extrême de telles machines, la science-fiction traite de questions philosophiques qui sont au cœur des débats d’aujourd’hui avec ChatGPT.
Terminator (James Cameron, 1984, 1991) : la guerre avec les machines fait rage.
Nous citons deux films dont les machines inquiétantes ont marqué à jamais leurs spectateurs, mais le côté sombre des robots et logiciels ont été explorés aussi – et souvent en premier – par les littératures de l’imaginaire.
Prenons l’exemple d’une IA conversationnelle programmée pour gérer une pandémie, c’est-à-dire fouiller parmi des informations en très grand nombre pour faire des déductions et remonter au cas zéro, mais aussi pour proposer des mesures sanitaires (confinement, surveillance des entrées et sorties d’un quartier sensible) voire aider les scientifiques humains à la mise au point d’un vaccin puis planifier l’inoculation de ce vaccin. Ce scénario vous semble familier ? Il vient d’un roman intitulé SARRA : une intelligence artificielle.
L’auteur, David Grison, un habitué des milieux hospitaliers et politiques, n’y est pas allé de main morte, car l’IA en vient – attention, spoiler ! – à faire des choix meurtriers. Ah oui, petit détail : le roman est paru en 2018, alors même que le mot « Covid » n’existait pas. De fait, c’est une épidémie d’Ebola que SARRA doit gérer.
SARRA : une intelligence artificielle (David Gruson, 2018).
Comparé à SARRA, le Terminator du premier film paraît bien fruste : programmé pour tuer Sarah Connor, il ne perd pas de temps à discuter et traque sa proie sans relâche, quitte à attaquer le commissariat (!) où elle s’est réfugiée. Avec un tel comportement, on pourrait penser que les capacités linguistiques du robot T-800 sont réduites voire inexistantes : il fait preuve d’une bonne connaissance des fusils à pompe, pas du traitement automatique des langues ni de ChatGPT.
Un robot expert en conversation
Et pourtant, le T-800 parle et comprend l’anglais bien mieux que ChatGPT. Revenons sur une scène significative du film : blessé à l’œil, le robot se réfugie dans une chambre d’hôtel pour se réparer, maniant ainsi des morceaux de tissus organiques qui attirent les mouches. L’odeur se propage vraisemblablement dans le couloir, car un homme d’entretien frappe à la porte et demande si ça vient d’un chat crevé. Vient alors le moment intéressant : on voit la tête du T-800 se tourner vers la porte fermée puis on assiste, en vue subjective, au raisonnement qui le conduit à proférer une injure, « fuck you, asshole ».
Sur fond rouge apparaît « réponse possible » suivi d’une liste de six phrases, qui vont de la réponse la plus simple et directe (« oui » ou « non ») jusqu’à cette fameuse injure, en passant par une réponse polie : « please come back later », soit « merci de revenir plus tard ». L’injure choisie par l’IA se met à clignoter et, simultanément, le T-800 la prononce, ce qui provoque l’effet escompté, c’est-à-dire éloigner l’homme…
La suite est à lire sur: theconversation.com
Auteur: Frédéric Landragin, Directeur de recherche en linguistique, CNRS, École normale supérieure (ENS) – PSL
