“Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait nous tuer tous d’ici la fin de la décennie”, c’est ce qu’a déclaré, dans un fil X, Jacob Coxon, un chercheur pour Anthropic, la société d’intelligence artificielle à l’origine de Claude, en annonçant sa démission. Si l’affirmation est très sensationnaliste, en ce qu’elle n’explique en rien son affirmation (pourquoi ? comment ?), elle a toutefois le mérite de soulever un débat sur les dangers potentiels de l’IA. Mais ce genre de buzz ont aussi, on va le voir, des effets pervers.
Des risques réels…
Les dangers de l’Intelligence Artificielle sont réels. Au-delà des bouleversements sociaux qu’elle génère – détruire des emplois ou la qualité de ceux-là, la dépendance technologique accrue qui nous fait perdre en capacités cognitives en externalisant toujours plus de tâches, la baisse d’originalité des créations (images laides, écriture lourde et sans âme…), la confusion entre fiction et réel, l’accroissement des technologies de surveillance et de contrôle, l’insoutenabilité écologique… – l’IA présente aussi un risque de perte de contrôle.
Sans que l’on en soit aux situations apocalyptiques imaginées par la science-fiction (2001: L’Odyssée de l’espace, Terminator, Matrix…) nous avons d’ores et déjà assisté à des signaux prométhéens, ces moments où une technologie semble échapper à ses créateurs : l’année dernière, Grok, l’IA du milliardaire d’extrême droite Elon Musk, avait été modifiée pour donner des réponses moins progressistes aux utilisateurs et utilisatrices, mais le résultat produit avait été à l’opposé. Grok s’était mis à défendre la Palestine et à dénoncer les tentatives de censure de ses créateurs. On avait dores et déjà un cas d’école d’une IA déployée mais atteignant un niveau de complexité la rendant difficilement maîtrisable par…
Auteur: Rob Grams
