Définir l’IA et définir la conscience : deux écueils complexes sur lesquels achoppent aujourd’hui les textes qui visent à réguler les pratiques de manipulation des citoyens et des consommateurs.
L’influence et la manipulation des citoyens — ou des consommateurs dans une acception plus économique — sont une pratique aussi banale qu’ancienne, entre la publicité qui existe depuis fort longtemps, les réunions et meetings électoraux susceptibles d’emporter la conviction du public, ou encore le plus traditionnel bouche-à-oreille au sein des familles et des cercles amicaux, qui conduit à consulter l’avis d’autrui avant de prendre une décision. Elle intervient parfois involontairement, en induisant des comportements sous le seuil de conscience des usagers, et parfois, bien sûr, intentionnellement.
Néanmoins, le numérique a provoqué une véritable révolution. Les outils d’intelligence artificielle (IA) en particulier permettent de personnaliser les pratiques de manipulation, avec une meilleure connaissance de la personne manipulée et une adaptation plus rapide à son profil comportemental. Ces techniques numériques sont en outre souvent mises en œuvre par des opérateurs économiques puissants, usant de multiples canaux afin de récupérer les données des consommateurs et disposant d’une force de frappe sans précédent (sites Internet, réseaux sociaux, moteurs de recherche, chatbots, services d’IA générative permettant de formuler des prompts…). Il en résulte une asymétrie des moyens qui permet de malmener le libre arbitre et d’exploiter la faible conscience du risque de manipulation par les utilisateurs.
C’est pour cela que la Commission européenne dresse une taxonomie des risques systémiques engendrés par les IA génératives à usage général (celles permettant de produire du contenu de type texte, code, image, son, vidéo, par exemple ChatGPT, Copilot, Gemini, Grok, Sora). La dernière version de…
Auteur: Sabine Bernheim-Desvaux, Professeure de droit, Université d’Angers
