猴子，人类，GPT(4)

刘嘉：这是一个很有趣的问题。举个例子，猴子也有非常原始的语言能力，但是无论你怎么训练它，它永远不能达到人类的语言能力。所以，我们说猴子的语言能力和人的语言能力，具有“质”上的区别。但是一个三岁小孩，他的语言能力明显不如成人，但经过一段时间成长，他可以达到成人水平，我们就说小孩的语言能力和成人存在着“量”上的区别。
现在的问题是，ChatGPT和人类的能力区别，到底是质上的区别，还是量上的区别？如果是量上的区别，那剩下的只是时间问题，一块GPU不够，就再加一块。但如果是“质”上的区别，它可能就永远不能达到甚至超越人类的水平了。
Yi：是什么原因导致它不能和人类真正地一样，比如说，像人一样产生意识、好奇心？
刘嘉：目前我们知道的是，ChatGPT还没有意识，也没有好奇心，但是这种区别究竟是量上的，还是质上的，这个问题现在还没办法回答。
如果你去问Hinton，他说这只是一个“量”上的区别，只要参数达到人类大脑参数量（注：ChatGPT参数量为1750亿，而人类大脑比它高3个量级，GPT-4未公布），意识和好奇心就会自涌现出来。
Yi：意识、好奇心……这些东西对AI一定是重要的吗？
刘嘉：如果我是ChatGPT的话，这些对我而言是最重要的东西。意识对于人而言就是最重要的东西。比如说死亡意识，只有人类拥有死亡意识，而且其他动物则没有。死亡意识是推动人类进步的一个关键：这种死亡意识会推动你每天总想着让你的人生拥有一点意义和价值，而不是没心没肺地活着。还有自我意识，因为有自我意识，我们构建了保障我们自由的法律，我们会想尽一切可能活下去，要追求幸福。自我意识是人之所以为人的核心。对于AI来说，它不想要这个东西吗？如果AI没有意识，我们就完全不用担心人类文明会不会被毁掉了，因为它永远只是一个工具而已。而一旦有了意识，它就可能希望自主决定自己的命运：你现在想把我的电源关了，我能想方设法不让你关。
再说好奇心，现在机器还没有好奇心。现在你给它多少知识，它学多少知识，它不会主动去学东西。但是它一旦拥有了，它就可能自我驱动去学习新知了。
Yi：存不存在这样一种可能：AI确实不像人，但它能比人更强大？就像飞机并不像鸟，但它比鸟更强大。
刘嘉：完全有可能。但是我更相信的是，这种不同，只是表面上的；而他们的底层逻辑和机制，则可能是完全一样的。就象鸟和飞机，他们都遵循空气动力学原理。人和AI，应该都遵循智能原理，只是它具体是什么，我还不知道。