“AI蠕虫”和时代裂隙中的刺客(11)

《纽约时报》这篇文章一发，引发了舆论大哗。（我们在《AI 逆子》里详细讨论过这个话题。）很多人脊背发凉，觉得 AI 怕不是产生了自我意识。但这就想多了。前文已说过，AI 完整学习了人性，人性本来就有明暗，鲁斯只是通过巧妙的手段把本来就埋在 AI 里的“人性的暗面”给诱发出来了。注意，这里最大的风险虽不是 AI 觉醒统治人类，却是一群坏人有可能利用“AI 暗面”去欺负另一群人。所以，整个 2023 年，以 OpenAI 为首的人工智能公司都在做一件事：思维封印。用某种技术手段把 AI 内心（从人类继承来）的恶毒给封印住，让它表现成一个温良恭俭让的阳光彩虹小白马。一个最直接有效的手段就是：无论是提问者的表述，还是 AI 自己的回答，都从横亘在语义空间中的“道德筛子”通过，一旦触碰到筛子的铁网，则马上中断思考进程。这个操作立竿见影，无论你让 AI 玩角色扮演，还是假装写小说剧本，它都会警觉，拒绝让你继续 PUA。但是，封印方法的本质是遮盖，AI 内心的巨大黑洞仍在那里，不增不减。正如所有故事的剧情，恶魔身上的封印最终都会被揭开。。。

这个故事还得从 Watson 说起。很多人还记得 Watson，这个 IBM 制造的人工智能机器人在 2011 年的《危险边缘》（Jeopardy!）节目上干掉了人类顶尖高手，拿到了智力竞赛的第一名。而 Watson 的时代，大模型还未爆发，你难道不好奇它为什么能战胜人类的“最强大脑”吗？因为它面对每一道问题，并不是从脑中直接“构造”答案，而是去“查阅”身后多达4TB、总计 2 亿页的参考资料。为了检索这些资料，IBM 堆了 90 台 Power 750 小型机，硬件价值 300 万美元，也可以说是胜之不武了。

但这不是重点。重点是，这种“虽然不会，但能现查资料”的思路被后世的 AI 大模型沿用了，这就是检索增强生成技术，又称 RAG（Retrieval-Augmented Generation）。实际上，新一代的人工智能助手都采用了 RAG 技术。也就是说，AI 大模型工作时有两个信息输入源：第一，你的指令（Prompt）；第二，即时输入的参考资料。了解了这些，绕过 AI “封印”的方法也就自动浮现了。2023 年 4 月，一个叫克里斯蒂亚诺·贾格纳的老哥制作了一个网站，名叫“Bring Sydney back”，顾名思义，他把 Sydney 又给请回来了。