致命的人工智能武器来了：我们如何控制它们？(3)

例如，英国表示，LAWs“能够理解更高层次的意图和方向”，而中国则表示，这种武器可以“自主学习，以超出人类预期的方式扩展其功能和能力”。伊斯雷尔宣称:“我们应该远离机器发展、创造或激活自己的想象——这些应该留给科幻电影。”德国将“自我意识”作为自主武器的必要属性——大多数研究人员表示，这种品质即使不是完全不可能，也与今天的人工智能相差甚远。
“这意味着武器必须在早上醒来，决定自己去攻击俄罗斯，”罗素说。
尽管需要制定一个更全面、更具体、更现实的法律定义，但一些专家表示，这可以等待。“传统上，在裁军法中，尽管这是违反直觉的，但实际上他们经常在谈判中最后做出定义，”多赫蒂说。一个可行的定义通常足以启动这一进程，并有助于缓和反对采取行动的国家最初的反对意见。
人工智能的优势
根据奥登塞南丹麦大学战争研究中心(University of Southern Denmark)于2023年发布的一份分析报告，目前军队指挥官可以使用的由人工智能制导的自主武器相对粗糙——行动缓慢、笨拙的无人机，配备了足够的炸药，可以炸毁自己和目标。
这些“四处游荡的弹药”有飞机模型那么大，价值约5万美元，能携带几公斤炸药到50公里外，足以摧毁一辆汽车或杀死个别士兵。这些弹药使用机载传感器监测光学、红外或无线电频率来探测潜在目标。人工智能将这些传感器输入与预先指定的坦克、装甲车和雷达系统以及人类的轮廓进行比较。
观察人士表示，与遥控无人机相比，这些自主炸弹提供的最显著优势是，如果对方拥有干扰电子通信的设备，它们仍然可以工作。自主操作消除了远程操作人员被敌人追踪和攻击的风险。
尽管有传言称，2020年自主弹药在利比亚杀死了战斗人员，但来自乌克兰冲突的报道证实了人工智能无人机现在正在使用的观点。罗素说:“我认为，在乌克兰，他们已经开始使用完全自主的武器，因为电子干扰非常有效。”乌克兰的雅罗斯拉夫·洪查尔(Yaroslav Honchar)等军事指挥官表示，该国“已经在没有人为干预的情况下进行了完全的机器人行动”。
很难知道人工智能武器在战场上的表现如何，很大程度上是因为军方不公布此类数据。去年9月，在英国议会的一次调查中，当被直接问及人工智能武器系统时，英国战略司令部(UK Strategic Command)副司令汤姆•科彭格-赛姆斯(Tom Copinger-Symes)没有透露太多信息，只是说英国军方正在进行基准研究，将自主系统与非自主系统进行比较。他说:“不可避免地，你想要检查一下，与让10个图像分析师看同一件事的老式系统相比，这种系统是否物有所值。”