谷歌前高级工程师警告“杀手机器人”即将带来战争灾难

据《卫报》日前报道，一位前谷歌高级软件工程师警告称，新一代自主武器，又被称为“杀手机器人”，可能意外引发战争或大规模暴行。
劳拉诺兰(Laura Nolan)呼吁禁止所有非人工操纵的人工智能杀人武器。去年，她从谷歌辞职，以抗议自己被派往一个旨在大幅提升美国军用无人机技术的项目工作。
诺兰说，就像需要缔结国际条约禁止化学武器一样，不受人类远程控制的杀手机器人也应该被全球禁止。
与无人机不同的是，无人机是由数千英里以外的军事小组遥控运行的，而AI武器是自主控制的。诺兰表示，杀手机器人有可能“做一些原本没有为它们编程的灾难性事件”。
没有迹象表明谷歌参与了自主武器系统的开发。上个月，一个由政府专家组成的联合国小组就自主武器展开了辩论，他们认为谷歌有意避免将人工智能用于武器系统，而集中于开发更适合AI的民事领域。

抗议者制作的杀人机器人模型
诺兰参加了“阻止杀人机器”的运动，并向纽约和日内瓦的联合国外交官简要介绍了自动武器的危险。她强调：“杀人机器所造成的灾难规模与交战双方投入的机器数量成正比。即使是在战争法约束下，也可能出现前所未有的暴行和非法杀戮，特别是如果双方部署了数百或数千台这样的机器。”
“机器人可能会发生大规模事故，因为这些机器人的系统会出现意想不到的错误。这就是为什么任何先进的武器系统都应该受到有意识的人类控制，否则它们就必须被禁止，因为它们太不可预测、太危险了。”
谷歌于2017年聘请都柏林三一学院(Trinity College Dublin)计算机科学专业毕业生诺兰(Nolan)参与Maven项目，她在这家科技巨头工作了四年，成为该公司在爱尔兰的顶尖软件工程师之一。
她表示，她对自己在Maven项目中扮演的角色“越来越关注”。Maven项目旨在帮助美国国防部大幅加快无人机视频识别技术的发展。

谷歌的无人机项目
诺兰和她的同事们被要求建立一个让人工智能机器能够以极快的速度自主分辨人和物体的系统，替代之前要靠大量人力操控无人机连续数小时拍摄潜在敌人目标。
谷歌同意在今年3月中止Maven项目合同，此前该公司3000多名员工签署了一份请愿书，抗议该公司参与国防部的军事项目。
“作为一名网络可靠性工程师，我在谷歌的职责是确保我们的计算机系统和基础设施正常运行，这是我应该帮助Maven做的。虽然我没有直接参与视频识别研究，但我意识到我仍然是杀戮链的一部分;这最终将导致更多的人成为美国军队在阿富汗等地的目标并被杀害。”
尽管诺兰因Maven项目辞职，但她预测，正在研发的自主武器对人类构成的风险，远远大于遥控无人机。
她列举了一些不可抗的外部力量如何可能让杀手机器人偏离轨道，并带来致命后果。
“可能会出现这样一种情况，自动武器被派去执行任务，在搜索区域受到意想不到的雷达信号干扰，可能是某些天气因素没有被编入到它的程序中；或者他们遇到了一群持枪者，他们看起来像是叛乱分子，但实际上却只是一群外出打猎的猎人。机器没有人类五官所具有的识别能力或常识。”
“这些自主战争武器的另一个可怕之处在于，你只有在真正的战区部署它们，才能真正测试它们。也许目前在叙利亚的俄罗斯人就在这样做，谁知道呢?我们所知道的是，俄罗斯在联合国反对任何停战条约，更不用说禁止这些武器了。”

俄罗斯正在将T14主战坦克自主化
“如果你要测试一台杀人机器人对周围的目标能否做出自主反应，那么它必须是在真实的战场。此外，如何训练一个只靠软件运行的系统，让它学会检测人类的细微行为，或者辨别猎人和叛乱分子之间的区别?战场非常混乱，经验丰富的老兵有时都难以识别。”
诺兰说，军队将无人机改造为自主非人类制导武器的能力“现在只是一个软件问题，而且相对容易解决”。
她说，她希望爱尔兰政府在支持禁止此类武器方面采取更强硬的立场。
“我不是说制导系统或反导防御系统应该被禁止。毕竟，他们完全处于人类的控制之下，最终还是有人承担责任的。但是，如果武器自主攻击，这些自主武器杀人的伦理问题将变得很复杂，没有人为暴行直接负责。一个小小的编程差错或者外界干扰，就会让这些杀人机器人失去控制，从而引发一场闪电战，或者摧毁一座核电站，并导致大规模暴行。”

美国军方制造AI机器人