给AI自主武器及早戴上“紧箍咒”(2)

用于战场引争议
AI增加了致命自主武器的速度和规避防御的能力。一些观察人士担心，未来任何集团都可派遣大批廉价的AI无人机前往战场，使用面部识别技术消灭目标对象。
理论上，AI还能用于战争的其他方面，如编制潜在目标清单。有媒体报道称，以色列使用AI创建了一个包含数万名疑似武装分子姓名的数据库。不过，以色列军方对此进行了否认。
2017年，美国加州大学伯克利分校计算机科学家、著名反AI武器活动家斯图尔特·拉塞尔帮助制作了名为“杀戮机器人”的视频，突出了将AI用于战争可能带来的风险。视频展示了在不久的将来，配备面部识别系统的微型无人机装配炸药，成为恐怖的“AI杀手”。它们能锁定并杀死目标或攻击特定人群，如穿着制服的人。
AI在战场上出现，引发了研究人员、法律专家和伦理学家的争论。
一些人认为，AI辅助武器可能比人类引导的武器更精确，能减少死亡和致残士兵人数，减轻附带伤害，如平民伤亡和对居民区的破坏，同时帮助弱势国家和群体自卫。另一些人则强调，这些AI加持的自主武器可能会犯下灾难性错误。
而卡伦伯恩认为，主要问题不在于技术本身，而在于人类如何使用这项技术。
亟待制订相关规则
多年来，研究人员一直在努力控制这种AI增强武器可能带来的威胁，联合国已经迈出了至关重要的一步。

2023年7月，联合国安理会讨论了AI增强武器的问题。图片来源：《自然》网站
去年12月，联合国一项决议将致命自主武器列入今年9月联合国大会议程。联合国秘书长安东尼奥·古特雷斯去年7月表示，他希望2026年前禁止可在没有人类监督情况下使用的武器。
专家认为，此举为各国对AI武器采取行动提供了一条现实途径。但说起来容易做起来难，部分原因在于各国对法律的实际内容缺乏共识。2022年的一项分析发现，“自主武器”至少有十几个定义。
拉塞尔说，这些定义范围很广，并没有达成共识。例如英国认为，致命自主武器“能够理解更高层次的意图和方向”；德国则将“自我意识”视为自主武器的必要属性，而大多数研究人员认为现在的AI远未获得这种能力。