猴子，人类，GPT(7)

去年这个时候，通用人工智能领域还是百花齐放，符号主义、控制论、神经形态计算都仍在候选名单。现在在我看来，大部分研究者已经同意一个观点，就是通用人工智能只有大模型这一个方向。
Yi：Deepmind之前是另一个路径，认为强化学习可以做任何事情？
刘嘉：Deepmind一直强调强化学习，比如AlphaGo。强化学习强调与自然界的交互，从进化上讲，动物之所以能进化，就是因为不停地交互、根据自然界的反馈来学习。
但它最大的问题是，第一，你要获得足够反馈，你想想从地球上产生第一个单细胞生物到我们人类，地球总共经历了多长时间的演化？里面无数动物经历了各种各样的挑战和反馈，经过了35亿年，才演化到今天的人类。要通过强化学习训练一个神经网络，想在短时间内获得足够反馈是不现实的。
第二，Deepmind选错了路径。为训练通用人工智能Gato，他们训练了600个任务。背后的逻辑是，一个系统能做600个任务的话，就再加到800个，然后1000个，那做到两万个任务的时候是不是就和人一样了？这是他们当时的思路，通过在一个既有成功模型的基础上不停给她加任务，来解决AGI问题。事实证明，这个路径对少量任务而言没有问题，任务一多就开始出现问题。
当然，我现在说这些其实全是马后炮，我曾是Deepmind的最大粉丝，我的实验室追DeepMind追了两三年，他们好多研究我都会在实验室内部复现，我原本很认同他们的路线。但现在反思，觉得他们的路径不行。
Yi：Deepmind没有看上语言任务？
刘嘉：Deepmind的任务中包含了语言，但都是非常简单的语言问答。OpenAI的核心就是语言，它找到了语言内部的关系，相当于构建出了人类文明的知识图谱。其实大家对ChatGPT有一个认知错误，认为它是一个语言模型，这是错的。ChatGPT其实是一个思维模型，因为语言是思维的载体，一旦把语言这件事搞定，就相当于能把思维搞定。
5000年前，人类开始有了文字，从那时到现在所有的人类文明都可以在文字中找到。OpenAI训练 GPT-3时，就把能拿到的整个人类文明的文字放进去训练了。他们的思路是对的，就是去搞思维，把思维模型构建出来，就能像人一样做任何事情。
Yi：解决语言问题就可以摆平很多问题，这个认知是否也是GPT之后的后见之明？
刘嘉：解决语言问题就能够解决思维问题，或者通用人工智能问题，业界本身就是认可的，只是大家觉得这个问题太难了。