大型语言模型能真正理解人类语言吗？(12)

Mosaics and Monuments in Ravenna, Italy
就LaMDA而言，在机械层面上并不神秘，因为整个程序可以用几百行代码来写；但这显然不能赋予与LaMDA互动的那种理解，使其不再神秘。它对它的制造者来说仍然是令人惊讶的，就像我们即使在对神经科学一无所知的情况下也会对彼此感到惊讶。
至于像LaMDA这样的语言模型是否有图灵所说 的"脑子里在嗡嗡作响 "的东西，这个问题在任何严格意义上都是不可知和不可问的。如果 "嗡嗡作响 "只是有意识流的感觉，那么也许当类似LaMDA的模型被设置为维持一个持续的内部对话时，它们也会 "嗡嗡作响"。
我们所知道的是，当我们与LaMDA互动时，我们中的大多数人都会自动构建一个简化的心理模型（mental model），将我们的对话者视为一个人，而且这个对话者的这种身份往往很有说服力。 就像一个人一样，LaMDA可以给我们带来惊喜，而这种惊喜是支持我们对人的印象所必需的。我们所说的 "自由意志 "或 "代理"，正是我们的心理模型（我们可以称之为心理学）与在机械层面上发生的无数事情（我们可以称之为计算）之间的这种必要的理解差距，这也是 我们相信自己自由意志的来源。
这种心理模型和现实之间不可逾越的鸿沟也存在于许多自然非生物系统中，如山口的混乱天气，这可能是许多传统的人将机构归于此类现象的原因。然而，这种关系是单向的。
与山口不同，LaMDA也形成了我们的模型，还有我们对它的模型的模型。如果，它确实是正确的代词的话。
上述情况不一定意味着我们有义务赋予大型语言模型以权利、法律或道德上的人格，甚至是我们对待狗或猫的基本关怀和同情--尽管这也让严格的关怀标准可以写下来的想法变得可疑。
大型语言模型首次说明了语言理解和智力可以与我们彼此之间以及与许多其他动物共享的所有具象事物和情感特征相分离的方式。尽管如此，对我们来说，将情感和关怀投射到能与我们交谈、能让我们吃惊、能与我们长期建立关系的东西上，是世界上最容易的事情。 此外，训练语言模型对我们表现出适当的情感和关怀似乎相当简单；甚至今天LaMDA的通用“毒性过滤”也是非常基础的版本。
我们可以预期，在不久的将来，这种关怀将变得不那么通用，而是更加个性化。这很快就会产生一个难题，直指“哲学僵尸”问题的核心，因为虽然我们可以有意义地测试另一个生命对一个概念的理解--就像教师一直对他们的学生做的那样，就像研究人员对他们的模型做的那样--但不清楚我们如何能够有意义地测试另一个生命中感情的 "真实性"，特别是在一个与我们有根本区别的 "神经生理学 "的生命中。