立即暂停训练更强大的AI！马斯克等超2300人签署联名信，科技大佬在担心什么；74页起诉书起底赵长鹏在美往事｜一周国际财经(4)

在图灵奖“三巨头”中，对于此事的观点也并不一致：Yoshua Bengio带头签名，Yann LeCun强烈反对，还有一位被称为“AI教父”的Geoffrey Hinton并未公开发表看法。每经记者向三位得奖者均发送了置评邮件，Bengio拒绝评论，剩下两位则并未回复。
Dietterich在接受每经记者采访时也表示，“我反对这封信，它夸大了AI技术的风险，并建议停止训练新的、更强大的模型，这不太可能解决他们声称存在的任何风险。”
分歧：AI真的会消灭人类吗？
从ChatGPT横空出世以来，科技巨头争红了眼。OpenAI、微软、谷歌隔三差五就发布一个新产品，令大众目不暇接。科技高光之下，关于AI的风险并未受到大范围的主流关注——直到这封联名信的出现。
在近期，OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达。他表示，未来，AI确实可能杀死人类。而有如此石破天惊言论的并非Sam Altman一人，一向深居简出的Geoffrey Hinton在近期也发出了警示：AI消灭人类并非空谈。
几天前，Marcus在推特上转发了Hinton的采访。但有人立即质疑：“这会不会造成对即将到来的通用AI（AGI）的无端恐惧？”

图片来源：推特截图
Marcus解释，他现在并不担心所谓的AGI风险，他担心的是Bing和GPT-4广泛部署后带来的风险，因为其存在明显的错误和不可靠倾向。现在这些工具广为人知，并越来越多地被允许进入外部世界，可能被犯罪分子利用造成更大的破坏。
在LLM的帮助下，包藏祸心的人可以更快、更真实地进行网络钓鱼和在线欺诈，并可以将其用于处理恐怖主义、宣传和虚假信息等，例如恐怖主义融资或匿名文件共享。Marcus甚至还描绘了一些更恐怖的场景，“再加上AI的大规模宣传，LLM导致的恐怖主义可能反过来引发核战争，更大范围的病毒传播等。”