谷歌前高级工程师警告“杀手机器人”即将带来战争灾难(2)

谷歌于2017年聘请都柏林三一学院(Trinity College Dublin)计算机科学专业毕业生诺兰(Nolan)参与Maven项目，她在这家科技巨头工作了四年，成为该公司在爱尔兰的顶尖软件工程师之一。
她表示，她对自己在Maven项目中扮演的角色“越来越关注”。Maven项目旨在帮助美国国防部大幅加快无人机视频识别技术的发展。

谷歌的无人机项目
诺兰和她的同事们被要求建立一个让人工智能机器能够以极快的速度自主分辨人和物体的系统，替代之前要靠大量人力操控无人机连续数小时拍摄潜在敌人目标。
谷歌同意在今年3月中止Maven项目合同，此前该公司3000多名员工签署了一份请愿书，抗议该公司参与国防部的军事项目。
“作为一名网络可靠性工程师，我在谷歌的职责是确保我们的计算机系统和基础设施正常运行，这是我应该帮助Maven做的。虽然我没有直接参与视频识别研究，但我意识到我仍然是杀戮链的一部分;这最终将导致更多的人成为美国军队在阿富汗等地的目标并被杀害。”
尽管诺兰因Maven项目辞职，但她预测，正在研发的自主武器对人类构成的风险，远远大于遥控无人机。
她列举了一些不可抗的外部力量如何可能让杀手机器人偏离轨道，并带来致命后果。
“可能会出现这样一种情况，自动武器被派去执行任务，在搜索区域受到意想不到的雷达信号干扰，可能是某些天气因素没有被编入到它的程序中；或者他们遇到了一群持枪者，他们看起来像是叛乱分子，但实际上却只是一群外出打猎的猎人。机器没有人类五官所具有的识别能力或常识。”
“这些自主战争武器的另一个可怕之处在于，你只有在真正的战区部署它们，才能真正测试它们。也许目前在叙利亚的俄罗斯人就在这样做，谁知道呢?我们所知道的是，俄罗斯在联合国反对任何停战条约，更不用说禁止这些武器了。”