比尔·盖茨对话山姆·奥特曼：未来将走向何方？(7)

比尔·盖茨：现在谈到人工智能，如果我们真的达到了通用人工智能（AGI）或超越 AGI 的惊人能力，我有三个担忧。
第一个是坏人控制了这个系统。如果好人拥有同样强大的系统，那或许可以减少这个问题。第二是系统自己控制一切的可能性，不过出于某些原因，我对这个不太担心，我很高兴其他人在关注这个问题。让我感到困惑的是人类的目标。我在处理疟疾问题上感到很兴奋，但如果机器告诉我，“比尔，你去打匹克球吧，我来解决疟疾问题。你思考太慢了”，这在哲学上很令人困惑。我们该如何组织社会？是的，我们会改善教育，但如果达到了这种极端，教育又是为了什么？
山姆·奥特曼：研究这项技术有很多心理上的难题，但对我来说，这是最困难的，因为我也从中获得了很多成就感。从某种真实意义上讲，这可能是我做的最后一件难事。
比尔·盖茨：我们的思维方式太过围绕着稀缺性，比如教师、医生和好想法的稀缺性。我确实想知道，一个在没有这种稀缺性的环境中长大的一代人，会如何找到适合自己社会位置和应该做什么的哲学概念。也许他们会找到一个解决方案。我担心我的思维方式太过于围绕着稀缺性，以至于我很难想象它。
山姆·奥特曼：这也是我告诉自己的，而且我真的相信，尽管我们在这里放弃了一些东西，但从某种意义上说，我们将拥有比我们更聪明的东西。如果我们能进入这个后稀缺世界，我们会找到新的事情去做。它们会感觉非常不同。也许不再是解决疟疾，而是决定你喜欢哪个星系，以及你打算如何处理它。
我相信我们永远不会缺少问题，我们也永远不会缺少找到满足感和为彼此做事的不同方式，以及理解我们如何以这种对待其他人。肯定会有所不同，但我认为唯一的出路是穿越过去。我们必须去做这件事，这将会发生。这现在是一条不可阻挡的技术道路，价值太大了。我非常有信心，我们会让它工作，但它确实感觉会非常不同。

比尔·盖茨：将这项技术应用于当前的一些问题，比如为孩子们提供家教帮助，激励他们，或者研发阿尔茨海默症的药物，我认为这些做法相当明确。但是，人工智能是否能帮助我们减少战争、降低社会两极分化。