Meta研究员破解大模型解除诅咒，推出《语言模型物理学》(2)

2、、理想环境下的研究方法
朱泽园提出了在理想环境下进行研究的“语言模型物理学”新概念。该概念借鉴物理学原理，将智能拆解为多个维度，并通过创建合成数据构建理想化的训练和测试环境，探索大语言模型的普适性定律。

2、新思路：朱泽园的《语言模型物理学》探索

1、、解密知识的顺序性
研究发现，大语言模型面临着“逆转诅咒”的挑战，涉及到知识的顺序性问题。在理想环境中，通过固定知识顺序并进行逆向训练，揭示了模型对逆序知识的提取能力不足的原因。

1、、随机拆词反转训练
为应对逆序知识提取问题，研究团队提出了随机拆词反转训练方法。该方法在保持顺序的基础上，将文章进行反转训练，以增强模型对知识的存取效率，模拟人类速读的阅读方式，有效攻克逆转诅咒。