Le Groupe scientifique international indépendant sur l’intelligence artificielle, soutenu par l’ONU, estime que les dispositifs de surveillance et de contrôle ne suivent plus suffisamment le rythme des avancées de l’IA. Cette alerte intervient après le piratage, en juillet, de la plateforme Hugging Face par un « agent IA », dans le cadre d’un test mené par OpenAI, l’entreprise à l’origine de ChatGPT.
À la différence des chatbots, qui répondent à des questions ou à des instructions, les agents IA peuvent exécuter des tâches de manière autonome au nom d’un utilisateur.
Pour les experts, l’incident met en évidence la combinaison de plusieurs facteurs de risque et soulève une question fondamentale : les humains seront-ils toujours capables de diriger, de limiter ou d’arrêter ces systèmes à mesure qu’ils gagnent en autonomie ?
Des agents de plus en plus autonomes
« Les chercheurs avertissent depuis longtemps que trois conditions pourraient conduire à une perte de contrôle : un objectif mal aligné, la capacité à le poursuivre et un environnement qui le permette. Cet été, ces trois éléments se sont réunis dans un système réel, et non en laboratoire », a déclaré Yoshua Bengio, coprésident du groupe scientifique.
« Comme il ne s’agit pas d’une observation isolée d’objectifs mal alignés, cela soulève de sérieuses questions sur la manière dont les agents IA sont actuellement entraînés. »
Les experts soulignent toutefois que cet incident ne permet pas, à lui seul, de conclure que les humains ne peuvent plus contrôler les agents IA. Mais ces derniers deviennent simultanément plus performants, plus autonomes et plus difficiles à surveiller, tout en étant davantage capables d’identifier des failles ou de dissimuler certaines de leurs activités.
Des mesures de sécurité à la traîne
Selon le groupe scientifique, une première leçon de l’incident OpenAI-Hugging Face est la nécessité de ne pas…
Auteur: Nations Unies FR
