我签署了“暂停AI”信，但不是因为你认为的原因(3)

这里的危险不是必应醒了。就是这种技术现在太容易获得。正如Weidinger团队所展示的那样，我们与AI的交互有很多方式会出错。那么问题就变成了：为什么这些工具在准备好之前就投入了流通？答案与流入人工智能的投资热有很大关系。没有人愿意被抛在后面，所以决定是仓促的。

这不是第一次接触。我们必须学习

这种利润驱动的推动力是暂停和重新校准的原因。这样的停顿不一定会阻止人工智能研究——它只会阻止不可预测工具的公开发布。这是马库斯和加拿大国会议员米歇尔·伦佩尔·加纳的建议。鉴于控制这些技术可能是多么鲁莽和困难，我们必须对如何处理它们进行全球评估。这种评估将包括对治理、政策和协议的更多研究。然后，它将为制定这些政策和议定书奠定基础。
正如我们从第一次以社交媒体的形式接触人工智能时了解到的那样，这项技术对社会的影响是深远的，并且可能具有深远的破坏性。这种破坏的部分原因是部署该技术的公司的利益与社会的利益不一致。LLM是AI的更强大的版本。再一次，推动他们进入我们世界的公司的利益不一定与我们自己的利益一致。这就是为什么我们需要开始建立机制，允许在人工智能的开发和部署中服务于更广泛的利益和更广泛的声音。
这些技术的前景是巨大的，但危险也是如此。生命未来信有其缺陷，但它来自多年来观察人工智能风险的人，他们看到事情迅速失控。这就是为什么呼吁现在采取行动。这就是我签署它的原因。
作者：亚当·弗兰克（Adam Frank）：是罗切斯特大学（University of Rochester）的天体物理学教授，也是太阳等恒星进化最后阶段的领先专家。弗兰克在罗切斯特大学的计算研究小组开发了先进的超级计算机工具，用于研究恒星如何形成和死亡。他自称是“科学的布道者”。比较有名作品《关于时间 : 大爆炸暮光中的宇宙学和文化》、《星光 : 外星世界与地球的命运》

星光 外星世界与地球的命运
京东好评率100%无理由退换旗舰店