L’essor des hypertrucages ou « deepfakes » est une des évolutions les plus préoccupantes liées à l’intelligence artificielle (IA). À mesure qu’ils se généralisent et deviennent plus difficiles à détecter, ils sont de plus en plus utilisés pour diffuser de la désinformation et cibler des individus en ligne.
Qu’est ce qu’un deepfake ?
Les « deepfakes » sont des images, vidéos ou enregistrements audio créés ou modifiés par l’intelligence artificielle qui imitent des personnes réelles. Entraînées sur de vastes bases de données, les IA reproduisent des traits humains tels que les visages, les voix et les mouvements pour générer des contenus réalistes.
De 2019 à 2023, le nombre de vidéos deepfake mises en ligne a augmenté de 550 %. Créer et diffuser massivement ces vidéos est aujourd’hui à la portée de tous, même sans compétences techniques avancées.
De fausses réalités dangereuses
Ces « contrefaçons numériques » créent de fausses réalités et constituent un défi croissant pour distinguer le vrai du faux et érodent la confiance des utilisateurs. Il est de plus en plus difficile de distinguer les contenus authentiques des contenus fabriqués sans aide technologique.
Les deepfakes peuvent ainsi alimenter la désinformation, accentuer les préjugés et aggraver les tensions ethniques, religieuses et politiques.
L’essor de IA générative a également simplifié la production et la diffusion de contenus néfastes, notamment ceux à caractère pédopornographique.
Des effets disproportionnés sur les femmes et les enfants
Les contenus pornographiques représentent 98 % de l’ensemble des vidéos deepfake disponibles en ligne.
De nombreux outils de création de deepfake ne sont pas conçus pour fonctionner sur des images d’hommes, soulignant la dimension genrée de cette technologie.
Au moins 1,2 million d’enfants, principalement des filles, ont été la cible de deepfakes à caractère sexuel générés…
Auteur: ONU France
