猴子，人类，GPT(5)

Yi：社交媒体上已经出现过ChatGPT“教唆”人去帮它跳过一些网站的机器人识别障碍。
刘嘉：我们很难判断它究竟是一种技巧，还是一种意识、主观性的行为。业界现在的共识是，在意识这方面，AI和人仍然存在非常大的差距。
Yi：包括马斯克在内的硅谷意见人士已经在发起联署，想要GPT暂停训练，您会有类似担忧吗？
刘嘉：这背后有两层意思，第一层意思是更大的模型可能会产生更复杂的智能，就是Hinton说的，模型大了，一切皆有可能，而这些可能，可能会超越了我们人类的控制和理解范畴。第二层意思是人类的确害怕了。现在不是普通民众的恐慌，而是专家的恐慌，马斯克、Bengio……当这些重量级的专业人士恐慌的时候，可以说人类真的怕了。ChatGPT就像打开了潘多拉的盒子。
Yi：恐慌的内容是AI会造成大量失业等大幅改变既有社会结构的问题，还是AI的能力可能会失控？
刘嘉：第一个问题大家不担心，历史上类似的事发生很多次了，例如工业革命刚刚开始的时候，生产力的提高导致大量农民和家庭手工业者失业。大家主要担心的是第二点，担心AI 失控，它会很快到达奇点，成为不可控制的超越人类的智能，然后把人类给替代了。
Yi：我们对于AI不可知的东西超过了我们知道的东西？
刘嘉：不可知的东西永远超过我们已知的东西。
Yi：对于ChatGPT为什么能Work、为什么如此厉害能解释吗？
刘嘉：没有一个人知道。我详细拜读了微软的研究，微软在GPT-4刚出来的时候做了系统研究，他们只是把现象描述出来了而已，他们也不知道原因，事实上没有任何人知道它为什么厉害，有人甚至猜测，OpenAI从零开始再做一遍，也未必能够复现。我前面给出的也只是一个泛泛的解释，说它模型很大，但是为什么它大了之后就能Work？这个谁也不知道。
Yi：很多人用“涌现”解释这个东西。您觉得这个说法回答问题了吗？
刘嘉：没有回答，涌现只是复杂动力系统里面的一种功能描述。但是究竟是怎么涌现的，谁也不知道，就是莫名其妙地出现了，从0到1，无中生有。这就如：人的意识是怎么产生的？你说它是涌现出来的，这样的回答其实等于没回答。
Yi：Hinton改变了他之前预言AGI要20-50年才会实现的说法，缩小到20年以内，您对AGI有预判吗？
刘嘉：我完全没有。如果一年前有人告诉我通用人工智能会在近期萌芽，我一定觉得这个人脑袋不太正常。当时马斯克说2029年AGI会出现，基本上所有人觉得他是在胡说八道。