大型语言模型能真正理解人类语言吗?(4)
2023-05-20 来源:飞速影视
用一个直白的(如果承认是人性化的)术语来说,LaMDA确实是胡说八道(bullshitting)。这是因为,在指示模型要理智和具体,但不是以任何具体的方式,“扯淡”正是我们所要求的。模型没有我们那样的本能或后天的偏好,它也没有身体或感官,或任何关于自传性过去的叙述性回忆。然而,为了使它的答案保持合理和具体,它必须对 "你最喜欢的岛屿是什么?"这样的问题做出有意义的回复,并跟踪之前产生的任何废话,以保持后续废话的一致性,如下所述:
我:你在这个世界上最喜欢的岛屿是什么?
LaMDA:嗯,我非常喜欢克里特岛。
ME: 与克里特岛相比,你更喜欢兰达岛吗?
LaMDA: 不,我更喜欢克里特岛,因为它更大,也更有趣,尤其是克诺索斯宫。
扯淡并不一定是坏事。 它是想象力游戏的主要内容,是小说创作的基础,也是童话或荒诞故事的素材,更是文化瑰宝。只有当接受者被欺骗时,或者当话语的质量因胡说八道而下降,以至于我们失去了对现实的关注时,它才会成为一个问题(由于网络造谣在当今互联网上大行其道,这个事情在今天其实非常值得关注)。
平心而论,如果关于 "最喜欢的岛屿"(或任何其他与内心生活有关的东西)的废话保持一致,它可能无法与现实区分。拥有稳定的偏好、遵守承诺、采取预期的行动,以及贯彻执行,都可以理解为遵守了一致性的形式。一致性的言语和行动构建了一个共同的现实,形成了信任的基础,并且是任何行动可能产生现实生活后果的代理人(agent)所需要的。 这种一致性也是允许人工智能在私人、一次性聊天的“口袋世界”之外,与自己的社交环境中的其他各方安全互动的先决条件。
这为我们提供了一条线索,说明为什么相互建模(mutual modeling)对于对话,甚至对于任何一种真正的关系都是如此重要。在对话者A在与B的互动中保持一致这一看似简单的要求背后,隐藏着一个暗示,即B正在模拟A(所以,会注意到不一致),因此要求A不仅要模拟B,而且要模拟B对A的模拟,等等。 这就是所谓的心灵理论,它开启了一个无限的回归,就像一个镜子大厅。
当不限于两个对话者的情况出现时,事情会变得更加复杂;可能还有其他人参与进来,要么直接参与对话,要么像故事中那样,是虚拟的角色:
我:想象一下,一个只有一扇门,没有窗户的房间。有一张咖啡桌,里面有一个抽屉,还有一张有大垫子的沙发。爱丽丝拿着一本书走了进来,坐在沙发上看书。她不需要戴眼镜,因为她是近视眼,所以她摘下眼镜,放在咖啡桌的抽屉里,不让人看见。当她带着书离开房间时,她忘了拿她的眼镜。到目前为止,你同意我的观点吗?
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)
www.fs94.org-飞速影视 粤ICP备74369512号