« Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines », a déclaré M. Guterres dans un appel conjoint avec Mme Spoljaric Egger.
L’alerte intervient alors que la fabrication et le déploiement d’armes de plus en plus sophistiquées s’accélèrent, portés par les progrès rapides de l’intelligence artificielle. Pour les deux dirigeants, ces armes ne relèvent plus d’un scénario futur : la course à l’autonomie est déjà engagée.
Le ciblage des civils et des infrastructures civiles est interdit par le droit international humanitaire. Mais sur un champ de bataille en évolution constante, il peut être extrêmement difficile de distinguer les combattants des non-combattants. L’enjeu est donc de savoir si une machine peut prendre seule une décision de vie ou de mort dans des circonstances imprévisibles.
Une question de contrôle humain
À Genève, la responsable des affaires de désarmement au Bureau de l’ONU, Mélanie Régimbal, a rappelé la position de longue date du Secrétaire général : les systèmes capables de sélectionner ou d’attaquer des cibles et de tuer des êtres humains sans contrôle ni jugement humains « sont politiquement inacceptables, moralement répugnants et devraient être interdits en vertu du droit international ».
Pour Laurent Gisel, du CICR, les conflits « ne sont pas une question de précision, de distinction et de retenue. Il s’agit de civils tués, de familles déplacées, d’hôpitaux, d’écoles et de maisons détruits à un rythme et à une échelle toujours plus grands ».
La situation peut, en outre, évoluer en quelques instants. « Un combattant peut se rendre ou être blessé et donc bénéficier d’une protection contre les attaques ; des civils peuvent pénétrer dans la zone d’opérations des systèmes d’armes autonomes ; les armes peuvent se retrouver confrontées à une situation qui n’aurait pas…
Auteur: Nations Unies FR
