谷歌前高级工程师警告“杀手机器人”即将带来战争灾难

据《卫报》日前报道，一位前谷歌高级软件工程师警告称，新一代自主武器，又被称为“杀手机器人”，可能意外引发战争或大规模暴行。
劳拉诺兰(Laura Nolan)呼吁禁止所有非人工操纵的人工智能杀人武器。去年，她从谷歌辞职，以抗议自己被派往一个旨在大幅提升美国军用无人机技术的项目工作。
诺兰说，就像需要缔结国际条约禁止化学武器一样，不受人类远程控制的杀手机器人也应该被全球禁止。
与无人机不同的是，无人机是由数千英里以外的军事小组遥控运行的，而AI武器是自主控制的。诺兰表示，杀手机器人有可能“做一些原本没有为它们编程的灾难性事件”。
没有迹象表明谷歌参与了自主武器系统的开发。上个月，一个由政府专家组成的联合国小组就自主武器展开了辩论，他们认为谷歌有意避免将人工智能用于武器系统，而集中于开发更适合AI的民事领域。

抗议者制作的杀人机器人模型
诺兰参加了“阻止杀人机器”的运动，并向纽约和日内瓦的联合国外交官简要介绍了自动武器的危险。她强调：“杀人机器所造成的灾难规模与交战双方投入的机器数量成正比。即使是在战争法约束下，也可能出现前所未有的暴行和非法杀戮，特别是如果双方部署了数百或数千台这样的机器。”
“机器人可能会发生大规模事故，因为这些机器人的系统会出现意想不到的错误。这就是为什么任何先进的武器系统都应该受到有意识的人类控制，否则它们就必须被禁止，因为它们太不可预测、太危险了。”