« Dans 11 pays du Sud global, jusqu’à un enfant par classe a signalé que l’IA avait été utilisée pour créer des deepfakes à caractère sexuel le représentant. Les signalements de contenus pédopornographiques générés par l’IA auprès de la ligne d’alerte américaine CyberTip, NCMEC, augmentent de façon exponentielle », a averti Sonia Livingstone, membre du Groupe scientifique international indépendant sur l’IA.
S’appuyant sur les premières conclusions du rapport préliminaire de ce groupe, mandaté par l’Assemblée générale des Nations Unies, elle a estimé que les preuves de violations liées à l’IA, touchant tant les individus que les groupes les plus vulnérables, étaient désormais « bien plus probantes » que les bénéfices démontrés de cette technologie.
Selon elle, l’IA est utilisée pour « créer et amplifier la persuasion et la tromperie », diffuser la désinformation et exploiter les données personnelles à grande échelle.
La professeure Sonia Livingstone, membre du Groupe scientifique international indépendant des Nations Unies ONU sur l’intelligence artificielle, s’adresse au Dialogue mondial sur la gouvernance de l’IA à Genève.
Des garde-fous dès la conception
Pour les Nations Unies, ces risques montrent qu’aucun pays ne peut être exclu des discussions sur la gouvernance mondiale de l’IA. Le Dialogue mondial de Genève, organisé en marge du sommet « AI for Good » de l’Union internationale des télécommunications (UIT), sera suivi d’un second rendez-vous en mai prochain à New York.
Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a plaidé pour que les principes d’égalité, de responsabilité et de supervision humaine soient intégrés dès la conception des systèmes d’IA.
« Nous ne considérons pas les normes de sécurité applicables aux médicaments, aux voitures…
Auteur: Nations Unies FR
