致命的人工智能武器来了：我们如何控制它们？(5)

Kallenborn说，人工智能武器可以相当容易地锁定红外或强大的雷达信号，将它们与数据库进行比较，以帮助确定什么是什么。Kallenborn说:“这相当有效，因为一个走在街上的小孩不会在他的背包里有一个大功率的雷达。”这意味着，当人工智能武器探测到战场上雷达信号的来源时，它可以在伤害平民的风险很小的情况下进行射击。
但他说，视觉图像识别问题更大。Kallenborn说:“如果它基本上只是一个像相机一样的传感器，我认为你更容易出错。”尽管人工智能擅长识别图像，但它并不是万无一失的。他说，研究表明，对图片的微小改变会改变神经网络对它们进行分类的方式，比如让它们把飞机和狗搞混。
伦理学家的另一个可能的分界线是如何使用武器:例如，攻击还是防御。先进的自主雷达制导系统已经用于保护海上船只免受快速来袭目标的攻击。英国兰开斯特大学(Lancaster University)的社会学家露西·萨奇曼(Lucy Suchman)研究人与机器之间的相互作用，她说，伦理学家对这种自主武器更放心，因为它针对的是军械而不是人，而且这种信号很难被错误地归因于其他任何东西。
研究人员和军方普遍提出的一个原则是，自主武器应该有一个“人在循环”。但人们应该或必须在何处以及如何参与，仍有待讨论。包括Suchman在内的许多人通常将这个想法解释为，在授权攻击之前，人类特工必须在视觉上核实目标，并且必须能够在战场条件发生变化时取消攻击(例如，如果平民进入战区)。但这也可能意味着，人类在释放武器之前，只是对目标的描述进行了编程——这是一种被称为“发射后忘记”的功能。
一些系统允许用户根据具体情况在完全自主和人工辅助模式之间切换。萨奇曼和其他人说，这还不够好。“要求人类禁用自动功能并不构成有意义的控制，”她说。
完全自治的想法也搅浑了问责制。多彻蒂说:“我们非常担心自主武器系统的使用会陷入问责制的空白，因为很明显，你不能让武器系统本身承担责任。”她补充说，让运营商对一个自主运行的系统的行为负责，在法律上也是具有挑战性的，而且可以说是不公平的。
罗素建议“在机载计算和发射电路之间没有通信”。这意味着发射必须由远程操作人员激活，而不能由人工智能激活。
罗素说，在法律讨论中，至少有一点(几乎)每个人似乎都同意:甚至包括美国和中国在内的普遍反对控制的国家也表示，包括人工智能在内的自主代理不应该参与发射核武器的决定。