立即暂停训练更强大的AI！马斯克等超2300人签署联名信，科技大佬在担心什么；74页起诉书起底赵长鹏在美往事｜一周国际财经(3)

前述公开信表示，大量研究表明，得到顶级AI实验室的认可、具有和人类竞争智能的AI系统，可能对社会和人类构成4种深远的风险：假新闻和宣传充斥信息渠道、大量工作被自动化取代、AI甚至有一天会比人类更聪明、更强大，让我们失去对人类文明的掌控。

然而，各大AI实验室为了开发和应用更加强大的AI，最近几个月已经陷入了“失控”的竞赛，甚至连AI系统的创始人也并不能完全理解、预测和有效控制其风险，相应的计划和管理工作没有跟上。
只有当人类确信，AI的影响是积极的、风险是可控的时候，才应该开发强大的AI系统。因此他们呼吁，所有AI实验室立即暂停训练比GPT-4更强大的AI系统，至少6个月。
Gary Marcus是签名的一员，他是纽约大学的荣誉教授，也是美国非常知名的AI研究专家。在推特上，Marcus非常活跃，经常与马斯克等人互动。自ChatGPT发布以来，以他与图灵奖得主、Meta首席AI科学家Yann LeCun为首，常发表反对ChatGPT的言论，认为大型语言模型（LLM）将带来诸多风险。
在通过邮件发给《每日经济新闻》记者的一篇文章中，Marcus分享了关于这封信的看法，“这封信的确并不完美，但许多批评被误导了。”他不断强调，这封信没有要求禁止AI，也没有要求禁止GPT-4，它也并没有要求禁止绝大多数AI研究，只是暂停了一个非常具体的项目，该项目使用的技术具有已知风险且没有解决方案。
Jie Wang告诉记者，这封信的目的是呼吁在AI系统的开发和部署中提高透明度和问责制，并在围绕这些技术的决策中加强公众投入和监督。
尽管有上千名大佬背书，这封信还是引发了舆论上的争端。例如，虽然在声讨ChatGPT上和Marcus站在同一阵线，但Yann LeCun却并没有参与签署这封公开信。他在推特上表示，“我不同意这个前提。”