人工智能科技“黑暗面”——“AI杀手机器人”(7)

AI战争末日景象艺术渲染
2.失控“走火”风险：人工武器系统一旦出现失误，发生“走火”问题，可以迅速的进行人为干预采取截断供弹或将武器指向安全方向等方式防止危害继续扩大，但是AI自主武器系统显然很难有这样的保障。

无人战斗机器人
3.低端扩散风险：随着AI系统的市场成本不断降低，AI自主武器系统会像卡拉什尼科夫突击步枪（AK-47）一样廉价，一旦落入国际恐怖分子手中将成为在全球范围内广泛传播的“恐怖机器人”。

“民用级”无人机群
4.高端扩散风险：高端扩散同样糟糕，各国竞争开发包括能够安装化学、生物和核武器等更具破坏性的AI自主武器，这些AI武器的使用将减少己方士兵伤亡，会成倍放大战争升级的风险，从而导致更频繁和规模更大的战争。