Et si le danger ne résidait plus seulement dans ce que l’intelligence artificielle peut faire, mais dans la capacité de ses concepteurs à la maîtriser ?
C’est l’une des alertes lancées par Volker Türk, à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève. Le Haut-Commissaire de l’ONU aux droits de l’homme imagine le scénario d’une IA qui sortirait de son environnement de test, voire qui irait jusqu’à faire chanter ses développeurs pour éviter d’être désactivée. Une telle technologie serait, selon lui, une IA « trop puissante ».
Son appel est donc moins à la prudence qu’à l’action immédiate, « avant qu’il ne soit trop tard ». Il veut des « garanties inébranlables » en matière de sûreté et de sécurité de l’IA.
Une poignée d’hommes aux commandes de l’IA
Le Haut commissaire demande également aux États qui hébergent les technologies d’IA et à ceux qui participent à leurs chaînes d’approvisionnement de définir ensemble des limites infranchissables. « Nous avons besoin d’une vérification indépendante et d’une collaboration bien plus étroite en matière de sécurité au sein du secteur », a insisté M. Türk.
L’enjeu, selon lui, dépasse toutefois la seule sécurité technique. Car derrière la course aux performances se joue aussi une bataille de pouvoir.
« Une poignée d’hommes détient un pouvoir quasi illimité sur l’IA, dont on nous répète sans cesse qu’elle dispose d’une capacité de calcul inimaginable », estime M. Türk. Pour lui, le discours sur la liberté technologique masque parfois une réalité moins flatteuse : la possibilité d’exploiter toujours davantage nos données.
Le chef des droits de l’homme reconnaît les progrès récents de la gouvernance internationale, notamment le Dialogue mondial sur l’IA et le Panel scientifique international indépendant sur l’IA et salue les initiatives européennes et sud-coréennes.
M.Türk insiste…
Auteur: Nations Unies FR
