L’extinction de l’humanité à brève échéance est entre les mains d’une poignée d’oligarques de la tech, sans aucun contrôle ni débat
Jamais une technologie ne s’est imposée si vite et n’a présenté une menace aussi existentielle pour l’ensemble des êtres peuplant cette planète. Les IA gagnent en autonomie chaque jour et échappent déjà à tout contrôle. Ce constat n’est pas celui de nébuleux groupes anti-tech’. Il est partagé par des milliers de chercheurs et développeurs des IA eux-mêmes.
«J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche en pré-entraînement à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d’ici à la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle». Ce sont les mots sur X de Jacob Coxon, ingénieur en intelligence artificielle. Ils sont glaçants.
Coxon a travaillé pour deux géants de la Tech et fleurons de logiciels d’intelligence artificielle aux États-Unis. Open-IA avec ChatGPT et Anthropic qui développe les modèles Claude. Il vient de quitter son emploi et prévient : «Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie». Il évoque aussi les capacités d’IA autonomes à pirater absolument tout ce qui est numérique. On pense évidemment à l’arsenal nucléaire et aux centrales, aux réseaux de surveillance des États, aux laboratoires bactériologiques, aux essaims de drones, aux sites chimiques…
Ce message a provoqué de très nombreuses réactions en ligne ces dernières heures, et les langues se délient chez les ingénieurs de l’IA.
Evan…
Auteur: B
