Infernet / Tay les agents conversationnels sont des cons

Les réseaux sociaux nous confrontent à une multiplicité de points de vue, provenant partiellement d’inconnus, auxquels on se confronte sans connaissance préalable de leur contexte d’énonciation. Notre interlocuteur peut être le prix Nobel de la paix, un serial killer, notre grand-mère ou l’épicier du coin. Nous ne les connaissons qu’aux données qu’ils partagent avec nous et à partir des paroles qu’ils prononcent. Celles-ci, à la différence des points de vue que l’on peut entendre dans la bouche d’êtres humains dans notre vie courante, ne sont pas portés par des corps mais par des identités numériques. Si l’on peut, par l’exercice de notre sensibilité, voir le degré d’ironie d’une personne qui s’adresse à nous dans la vie réelle, ou deviner, par son expression, la nature de ses intentions comme la fragilité du corps qui la porte (ou, à l’inverse, son hypocrisie ou le danger potentiel qu’il représente), la même chose n’est pas possible sur les réseaux sociaux où nous n’avons affaire qu’à une production de données. Nous pouvons avoir l’intuition que nous sommes en présence d’un troll ou d’un manipulateur, mais nous ne pouvons pas en avoir la certitude… jusqu’au moment où ce dernier nous frappe ou nous harcèle. D’où le choc, et la terreur nouvelle que représente, pour ceux qui en sont victimes, les attaques massives de trolls ou de « haine en ligne ».

Le problème d’évaluation de l’intelligence d’un agent conversationnel comme Tay, c’est que, à notre différence, il n’a ni corps ni âme. Il n’a qu’une intelligence, un « esprit ». Il ne peut donc pas ressentir les émotions. Il ne peut que les imiter. On doit les lui « apprendre ».

Or, l’intelligence humaine n’est pas qu’une affaire de sélection de données. Elle ne résulte pas d’un simple tri d’informations. Contrairement aux illusions de la conférence de Dartmouth, nous ne sommes pas le produit d’une combinaison de fonctions réceptives, de fonctions de stockage, de fonctions expressives et exécutives. Nous avons une histoire et une expérience physique qui ont développé ou entravé notre sensibilité, créant à la fois des ouvertures et des blocages. Nous avons des rêves – dans les deux sens du terme : les espoirs que nourrit notre esprit et les productions de notre inconscient. Nous sommes traversés par des pulsions contradictoires et nous occupons une place dans la société qui a produit des réflexes de classe ou de groupe – dont nous sommes parfois conscients, parfois…