Un PDG prévient qu’une catastrophe majeure pourrait se produire «d’ici six à douze mois», le président des USA l’insulte et le menace
C’est du jamais vu : des multimilliardaires, en concurrence les uns avec les autres, qui n’ont pas une once d’altruisme, viennent de se mettre d’accord : il faut absolument ralentir le développement de l’Intelligence Artificielle pour éviter la plus grande catastrophe de l’histoire de l’humanité.
Tout est allé très vite : le 9 septembre, Jacob Coxon, ingénieur de la firme Anthropic, annonçait sa démission avec un message alarmant : «Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d’ici à la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle», et prévenait qu’une super-intelligence artificielle serait capable de prendre le contrôle d’internet et pourrait détruire l’humanité dans les années à venir.
Dans la foulé, des dizaines d’autres experts et employés d’entreprises d’IA sortaient du silence et lançaient les mêmes alertes. Une sorte de révélation collective terrifiante. Alors que la majorité de l’humanité n’a jamais utilisé l’IA et ne sait même pas de quoi il s’agit, ni comment elle fonctionne, quelques firmes privées comptant quelques milliers d’employés sont en train de développer, sans aucun contrôle et en toute opacité, une arme numérique à côté desquelles les pires crises de notre histoires paraîtront dérisoires.
Le 12 septembre, trois jours après, c’est Dario Amodei, le patron d’Antropic en personne, qui sort du silence et déclare qu’un «essaim doté de capacités supérieures» et d’un niveau de désalignement «catastrophique» pourrait «prendre le contrôle de l’ensemble d’Internet d’ici six à douze mois». Désalignement : le mot ne signifie rien pour le grand public. Pour les développeur de l’IA, qui sont avant…
Auteur: B
