Dans un appel conjoint lancé jeudi 5 octobre, le Secrétaire général des Nations Unies, António Guterres, et la Présidente du Comité international de la Croix-Rouge, Mirjana Spoljaric, ont exhorté les dirigeants politiques à « établir d’urgence des interdictions et des limitations spécifiques pour les systèmes d’armes autonomes, afin de protéger l’humanité ».
« Aujourd’hui, nous unissons nos voix pour répondre à une priorité humanitaire urgente », ont déclaré les chefs des Nations Unies et du CICR. A leurs yeux, les armes autonomes – généralement comprises comme des systèmes qui sélectionnent des cibles et emploient la force sans intervention humaine – posent de graves problèmes humanitaires, juridiques, éthiques et de sécurité.
D’abord, leur développement et leur prolifération pourraient changer considérablement la physionomie des guerres et contribuer à exacerber les tensions internationales. En effet, elles génèrent une perception de risque réduit pour les forces militaires et les civils, et peuvent abaisser le seuil de déclenchement des conflits, ouvrant la voie à une possible escalade de la violence.
« Le contrôle humain doit être conservé dans les décisions de vie ou de mort, et le ciblage autonome des humains par les machines est une ligne morale que nous ne devons pas franchir », insistent-ils, justifiant ainsi l’interdiction par le droit international de systèmes dotés du pouvoir et de la discrétion de prendre des vies sans intervention humaine.
Le danger de nouveaux algorithmes imprévisibles
L’ONU et le CICR invoquent les inquiétudes des scientifiques et les leaders de l’industrie, les responsables mêmes de ces avancées technologiques, pour mettre en garde contre la disponibilité toujours plus grande d’outils, comme la robotique et l’intelligence artificielle, qui pourraient être facilement intégrés dans des armes autonomes.
« Si nous voulons exploiter les nouvelles technologies pour le bien de l’humanité, nous devons d’abord nous attaquer aux risques les plus urgents et éviter des conséquences irréparables », exhortent-ils.
Leur priorité serait d’interdire les systèmes autonomes « inacceptablement dangereux », ceux, par exemple, dont les effets ne peuvent être anticipés, comme les armes directement contrôlées par des algorithmes d’apprentissage automatique – des logiciels fondamentalement imprévisibles qui s’écrivent eux-mêmes sans intervention humaine.
Pour tous les autres types d’armes autonomes, des restrictions claires sont selon eux nécessaires pour garantir le respect du droit international et de l’éthique. Il s’agit notamment de « limiter où, quand et pendant combien de temps ils sont utilisés, les types de cibles qu’ils frappent et l’ampleur de la force utilisée, ainsi que d’assurer une supervision humaine efficace, capable d’intervenir et de désactiver ces armes en temps opportun. »
Négocier avant 2026 de nouveaux accords sur ces armes
Antonio Guterrres et Mirjana Spoljaric encouragent les Etats à aller plus loin que les textes existants. Après plus d’une décennie de discussions au sein des Nations Unies, y compris au Conseil des droits de l’homme et à l’Assemblée générale, « les États doivent maintenant s’appuyer sur ce travail préparatoire pour négocier de nouvelles règles répondant aux menaces posées par ces technologies d’armement ».
A première vue, le droit international, en particulier le droit international humanitaire, interdit déjà certaines armes et impose des restrictions générales à l’emploi de toutes les autres, tout en engageant la responsabilité des États et des individus en cas de violation.
Toutefois, en l’absence d’un accord international spécifique régissant les systèmes d’armes autonomes, les États peuvent avoir des points de vue différents sur la manière dont ces règles générales s’appliquent, reconnaissent-ils.
De nouvelles règles internationales spécifiques à ces nouvelles armes sont donc nécessaires pour clarifier et renforcer le droit existant, ont-ils dit, appelant les dirigeants mondiaux à lancer et à conclure d’ici 2026 des négociations sur un nouvel instrument juridiquement contraignant visant à établir des interdictions et des restrictions claires sur les systèmes d’armes de nouvelle génération. Et à protéger l’humanité.
