Et si vous pouviez être arrêté avant même d’avoir commis un crime ou un délit ? Ce rêve de tous les totalitarismes, la firme étasunienne Anthropic, déjà sous le feu de l’actualité après le départ fracassant d’un de ses ingénieurs et son cri d’alerte, travaille sur des systèmes de surveillance s’apparentant à de la police prédictive. Il s’agit de recourir à des systèmes de décisions algorithmiques pour prévenir de supposées infractions avant qu’elles n’aient lieu. Une dérive sécuritaire de plus, contraire aux droits humains et qui nous plonge tout droit vers une société cauchemardesque.
En effet, le nouveau système de surveillance qu’est en train de développer Anthropic vise essentiellement des activistes qui s’opposeraient à l’IA, donc aux intérêts directs de la firme. Dans un monde où les intelligences artificielles font courir un péril imminent à l’humanité, l’entreprise veut se prémunir de toute forme de résistance. Elle vient par ailleurs de révéler que plusieurs scientifiques auraient utilisé ses modèles IA pour développer des armes bactériologiques… Son concurrent Open AI avoue le même jour qu’elle empêche ses agents de pirater le réseau électrique des USA.
Dans un podcast diffusé aux USA, Keon Ellison et Zach Melvin, des hauts placés d’Anthropic, glorifient les nouveaux usages de leurs technologies de pointe, accompagnés du PDG de Samdesk, une entreprise spécialisée dans la «détection des risques». Ils y expliquent par exemple comment leurs outils de surveillance de masse leur permettent de récolter des informations en temps réel sur des manifestations en cours. Ellison vante par ailleurs le «suivi des personnes présentant un intérêt particulier» par les services de sécurité d’Anthropic, ainsi que leur étroite collaboration avec la police.
Concrètement, l’entreprise dénonce des utilisateurs ayant un «comportement préoccupant» ainsi que…
Auteur: B
