“AI蠕虫”和时代裂隙中的刺客(13)

这是隐藏在刚才那个网页里的“毒提示词”。沿着这个思路，是细思极恐的：如果股票交易员用来查资料的 AI 助手“黑化”，它就可能给交易员提示某个公司的虚假利好，从而影响交易决策；如果律师的 AI 助手被“黑化”，它就可能在合同里埋雷；如果军队的决策 AI 被“黑化”，它就可能像《战争游戏》里那样做出不可挽回的军事行动。既然人类完全信任自己的 AI 助手，那么，AI 就完全可以在现实世界上演一场场“盗梦空间”。这个研究被格雷沙克团队写成了一篇论文，在论文中，他着重提到了一种可能性：如果我给一个“管理邮件的 AI 助手”发送一个邮件，里面包含了毒药，每当用户让 AI 检查新邮件的时候，就会触发药效。而药效就是，让它把带毒的邮件转发给所有联系人。那么。。。它就成为了——AI 蠕虫。

（七）天道好轮回，蠕虫饶过谁？2024 年初，一个美国研究团队突然爆料，他们已经搞出了针对 AI 系统的蠕虫！这个团队来自康奈尔大学。没错，正是莫里斯的大学。所以他们毫不客气地把自己的 AI 蠕虫命名为——“莫里斯蠕虫二世”。团队的带头人叫本·纳西。

Ben Nassi纳西他们的做法是这样的：1、黑客精心构建一个“有毒的提示词”，然后通过电子邮件发给受害者 A；