人工智能科技“黑暗面”——“AI杀手机器人”

虽然科学家警告：“AI杀手机器人便宜且致命，能够演变为大规模杀戮，应该与限制生化武器一样，限制AI自主武器”！但是，由于美俄等大国的阻挠，联合国日内瓦会议未能就全面禁止AI驱动的“完全自主武器”禁令达成一致，全面禁止AI杀人武器仍然任重而道远。
中国提议遭到美、印、俄等国反对，反对禁令的主要国家包括俄罗斯，美国，韩国，以色列和澳大利亚等国。联合国工作人员表示：“这是令人失望的，少数军事强国就可以阻碍多数人的意志。

AI科技的黑暗面
2021年12月13日至17日在日，联合国在《联合国特定常规武器公约》审查会议上讨论了禁止AI自主武器的问题，但没有就禁止达成共识。该公约成立于1983年，旨在限制残忍的常规武器，包括地雷、诱杀装置和燃烧武器等。
根据最近联合国安理会关于利比亚内战的报告称：“通常被称为“杀手机器人”的自主武器系统有史以来第一次杀死人类”。全球可能将此确定为下一场大型军备竞赛的起点，这场军备竞赛也有可能成为人类的“最后一场军备竞赛”。

AI自主武器系统是具有致命武器的机器人，可以无需人工干预，独立选择和自主攻击目标。目前，世界各国军队都在大力投资自主武器的研发，仅美国在2016年至2020年的自主武器研发预算就高达180亿美元。

专家警告说：“自主武器技术将破坏当前核战略稳定，因为AI自主武器可以与化学、生物、核武器结合使用，会从根本上改变对战略打击决策，增加核大国主动攻击的风险”。

全球核武器储备情况

一旦发生末日审判，除了人类其他都无辜

一旦发生末日审判，除了人类其他都无辜
致命的AI“蜜蜂”
08:02
该视频在日内瓦举办的联合国特定常规武器公约会议上公布，视频中的“蜂型杀手无人机”拥有anti-sniper 技术，具备广角摄像头、传感器、面部识别等功能，携带3克炸药，能够独立攻击也可以采用“蜂群”战术协同攻击，完全基于AI的“杀人蜂”能够轻易躲避抓捕，不仅可以按计划协同也可以进行自主协同攻击，一击而中，极端致命。

“蜂型杀手无人机”制空

“蜂型杀手无人机”大小

“蜂型杀手无人机”通过人脸识别目标

“蜂型杀手无人机”攻击目标头部示意图

“蜂型杀手无人机”可以无孔不入

军事级别“蜂型杀手无人机群”部署
AI自主武器的主要风险
1.错误识别风险：在选择目标时自主武器怎样区分敌对士兵和玩玩具枪的儿童，以及逃离作战区域的平民和进行战术撤退的叛乱分子等等？这里的问题不仅是机器会犯这样的错误，同样人类也会犯。例如，美国在阿富汗由人操作的无人机袭击平民事件，杀手机器人系统由目标算法控制，更可能发生类似的“误杀”。

AI战争末日景象艺术渲染
2.失控“走火”风险：人工武器系统一旦出现失误，发生“走火”问题，可以迅速的进行人为干预采取截断供弹或将武器指向安全方向等方式防止危害继续扩大，但是AI自主武器系统显然很难有这样的保障。

无人战斗机器人
3.低端扩散风险：随着AI系统的市场成本不断降低，AI自主武器系统会像卡拉什尼科夫突击步枪（AK-47）一样廉价，一旦落入国际恐怖分子手中将成为在全球范围内广泛传播的“恐怖机器人”。

“民用级”无人机群
4.高端扩散风险：高端扩散同样糟糕，各国竞争开发包括能够安装化学、生物和核武器等更具破坏性的AI自主武器，这些AI武器的使用将减少己方士兵伤亡，会成倍放大战争升级的风险，从而导致更频繁和规模更大的战争。

“军用级”无人机群
AI自主武器对战争法的破坏
自主武器将破坏人类对抗战争罪行的追责：如何让AI自主武器承担责任呢？谁应该为犯下战争罪行的机器人负责？法理中最为重要的有罪行为和有罪意识怎样界定？谁会受到审判？武器？战士？指挥官？制造武器的公司？

有罪行为的是机器而有罪意识则是人类
AI自主武器的出现将使现有的法律框架受到极大挑战，理论上军队、叛乱团体以及恐怖分子可以在任何时间和地点以零风险的方式部署AI自主武器，而无需承担由此产生的法律责任。AI自主武器在本质上是不可预测的，其广泛的部署将使战争法的法理结构及其威慑价值被极大削弱。

“末日审判”一旦到来，谁才有罪是否有意义？