Conseil de sécurité : L’ONU alerte sur les risques de l’intelligence artificielle pour la paix mondiale
Pour la première fois de son histoire, le Conseil de Sécurité des Nations Unies (CSNU) s’est penché sur les conséquences pour la paix et la sécurité mondiale de l’intelligence artificielle (IA).
Lors du CSNU du 18 juillet, Antonio Guterres a souligné le potentiel de l’IA pour accélérer le développement humain. Toutefois, le Secrétaire général de l’ONU a mis en garde contre l’utilisation « malveillante » de cette nouvelle technologie.
Selon lui, bien que l’intelligence artificielle devienne principalement une arme pour générer des deepfakes, lancer des cyberattaques, ou pour diffuser des discours de haine et de la désinformation, elle pourrait également avoir des conséquences très graves pour la paix et la sécurité mondiale. Ainsi, il appelle à mettre en place des garde-fous de façon urgente contre cette technologie « sans précédent ».
Il a exhorté le Conseil à l’aborder « avec un sentiment d’urgence, une vision globale et un état d’esprit d’apprenant ».
Les risques pour la sécurité mondiale
Selon James Cleverly, le chef de la diplomatie britannique qui présidait la réunion, l’IA « pose un défi à nos postulats en matière de défense et de dissuasion, elle pose des questions morales sur la responsabilité de la prise de décisions causant des morts sur le champ de bataille ». A l’automne, son gouvernement organisera un sommet sur cette question.
Antonio Guterres craint une « utilisation malveillante de systèmes d’IA à des fins terroristes, criminelles ou étatiques {qui} pourrait causer des niveaux horribles de morts et de destructions, des traumatismes généralisés et des dommages psychologiques profonds à une échelle inimaginable ».
Il a également pris l’exemple des réseaux sociaux : « Des outils et des plateformes conçus pour renforcer les liens humains sont désormais utilisés pour saper les élections, diffuser des théories du complot et inciter à la haine et à la violence ».
Il ajoute que « Les dysfonctionnements des systèmes d’IA sont un autre sujet de préoccupation majeur. Et l’interaction entre l’IA et les armes nucléaires, la biotechnologie, la neurotechnologie et la robotique est très alarmante. » Dans ce cadre, le Secrétaire général a appelé à mettre en place d’ici fin 2026 un instrument contraignant pour interdire les « systèmes d’armes létaux autonomes » qui fonctionnent sans supervision humaine et à ne « jamais enlever » le contrôle humain des armes nucléaires.
L’IA au service de la paix
Le Secrétaire général a néanmoins mis en exergue l’utilisation de l’IA au service de la paix, notamment par les Nations Unies, y compris pour surveiller les cessez-le-feu ou identifier les schémas de violence, « contribuant ainsi à renforcer nos efforts en matière de maintien de la paix, de médiation et d’aide humanitaire ».
Il met également en avant les bienfaits que peuvent avoir ces technologies, notamment le fait qu’elles peuvent aider à éradiquer la pauvreté, soigner le cancer, chasser la faim et stimuler l’action climatique.
Des instruments pour réguler l’IA
Outre la volonté affichée du Secrétaire général des Nations Unies de créer un instrument contraignant pour interdire les « systèmes d’armes létaux autonomes », il appelle à la mise en place de « mécanismes pour la gouvernance de l’IA {…} de manière urgente ». Dans ce cadre, il va confier à un groupe d’experts la tâche de proposer des « options » en la matière d’ici la fin de l’année.
D’ici-là, il a réaffirmé son soutien à la création d’une « entité des Nations Unies » pour aider à réduire les risques de l’IA et maximiser les bénéfices, sur le modèle du groupe d’experts de l’ONU sur le climat (Giec) ou de l’Agence internationale de l’énergie atomique (AIEA).
Maya Soulaire
