AI做过哪些让人细思极恐的事？(3)

Tom解释，AI认为当时的情况下，唯一的应对举措就是不玩了。
没错，按下暂停键不再继续，那局永远也不会输。不知怎的，这件事让人隐隐不安。
Vasily Konovalov | 软件工程师，ML/NLP研究员
弗兰肯斯坦？（僵尸不死军团）

这个故事发生在不久之前。下面的引用，都是描述Facebook开发的谈判机器人。
“Facebook的工程师惊慌失措，赶紧拔掉了AI的电源插头”“人类真的创造出弗兰肯斯坦？”——让AI“创造了语言”的Facebook研究员怒怼媒体报道“不负责任”。
这个研究是想开发一种能以自然语言进行多问题谈判的AI系统。对话系统的复杂架构被经过训练的RNN网络取代，对话策略的训练采用了强化学习。
不过在这个AI尝试互相学习的过程中，产生了一些看起来“令人毛骨悚然”的对话。

Shay Zykova | ESL教师，来自夏威夷住在俄罗斯
杀死竞争对手！
美国某大学（应该是MIT）举办了一场机器人大赛：设计一个自主思考并执行策略的机器人，把羊（机器羊）抓到自己的羊圈，抓得最多者获胜。
比赛开始，机器人开始疯狂的捉羊。但让人百思不得其解的是，有个机器人只捉了一只羊，就关上了羊圈的门。
随后，可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是：根本不用捉羊，把对手消灭掉就赢了。