« Nous avons perdu la bataille sur les réseaux sociaux parce que nous avions un temps de retard, et nous sommes en train de perdre la bataille sur l’intelligence artificielle pour la même raison : nous avons encore un temps de retard », a alerté Dre Najat Maalla M’jid, représentante spéciale du Secrétaire général de l’ONU chargée de la question de la violence à l’encontre des enfants.
Elle intervenait lors d’une réunion de haut niveau à l’Assemblée générale des Nations Unies consacrée aux risques et aux possibilités que présente l’IA dans la lutte contre les violences faites aux enfants.
Au cours de la seule année écoulée, les images d’au moins 1,2 million d’enfants dans 11 pays ont été détournées pour produire des hypertrucages (« deepfakes ») à caractère sexuellement explicite, a noté la Vice-Secrétaire générale de l’ONU, Amina Mohammed, citant une récente étude du Fonds des Nations Unies pour l’enfance (UNICEF).
Dre M’jid a également fait état d’une hausse spectaculaire des signalements de contenus pédosexuels générés par l’IA. Selon les données du Centre national américain pour les enfants disparus et exploités (NCMEC), leur nombre a bondi de 1.325 % entre 2023 et 2024. Elle a toutefois souligné que la majorité des infractions commises contre des enfants à l’aide de l’IA ne sont ni signalées ni poursuivies en justice.
Quand la technologie devient une arme
Les agents conversationnels (chatbots) peuvent être utilisés pour gagner progressivement la confiance des enfants, recueillir des informations personnelles et les pousser à partager des images à caractère sexuel, a expliqué la représentante spéciale. Des hypertrucages créés à l’aide d’applications permettant de déshabiller numériquement des personnes servent également à humilier, menacer et exploiter des mineurs.
Le profilage et les outils de ciblage prédictif offrent par ailleurs aux prédateurs, aux trafiquants…
Auteur: Nations Unies FR
