Les trucages réalisés grâce aux intelligences artificielles déforment notre vision de la réalité, affectant nos comportements de consommateurs et de citoyens.
En 2022, la télévision ukrainienne, hackée, a diffusé un hypertrucage (ou deepfake) du président ukrainien Zelensky annonçant qu’il rendait les armes, ce qui aurait pu transformer la réalité du champ de bataille. En mai 2023, une image représentant Le Pentagone avec un nuage de fumée a provoqué une chute de 0,29 % des cours de bourse du S&P500, nécessitant un démenti officiel du ministre de la Défense américain. À Hongkong, un employé a transféré 25 millions de dollars en pensant suivre des ordres des directeurs de son entreprise avec qui il avait eu un appel en visioconférence. En réalité, il n’avait jamais eu le moindre humain face à lui.
Ces images sont des deepfakes, c’est-à-dire des contenus ultraréalistes mais qui ne représentent pas la réalité, voire l’altèrent, et qui peuvent donc déformer notre vision du monde.
Ces hypertrucages — images, vidéos et même contenus interactifs — mobilisent notre ouïe, notre vue, notre participation. Ils sont créés en superposant à des images réelles des données qui ne le sont pas grâce à des algorithmes de machine learning combinés à des logiciels de cartographie faciale, et peuvent être rendus encore plus performants grâce à l’intelligence artificielle générative.
Ainsi, certains outils tels que Speechify, démocratisés en ligne, permettent de faire dire n’importe quoi à quelqu’un si l’on dispose d’un enregistrement de 30 secondes de sa voix. Les contenus créés sont si réalistes qu’ils peuvent tromper même ceux qui estiment pouvoir les détecter, rendant difficile la distinction entre le vrai et le faux.
En somme, aujourd’hui, voir n’est plus croire : les images, vidéos et autres contenus fabriqués peuvent être indiscernables des contenus authentiques. Ce…
Auteur: Stéphanie Gauttier, Professeur Associée en Systèmes d’Information, Responsable de l’équipe de recherche ‘Systèmes d’Information pour la société’ Chaire Digital Organization & Society, Grenoble École de Management (GEM)
