比尔·盖茨对话山姆·奥特曼：未来将走向何方？(4)

比尔·盖茨：有些人认为，如果有一些模型非常强大，以至于我们害怕它们——核监管在全球范围内有效的原因，基本上是因为每个人，至少在民用方面，都希望共享安全实践，这一直很有效。但当你涉及到核武器方面时，情况就不同了。
如果关键是阻止整个世界做危险的事情，你几乎需要一个全球政府，但今天对于许多问题，比如气候变化、恐怖主义，我们看到国际合作很困难。人们甚至因为美中竞争而认为任何放慢速度的想法都是不合适的。任何放慢速度或足够慢以确保谨慎的想法，难道不是很难执行吗？
山姆·奥特曼：是的，如果被视为要求放慢速度，那将非常困难。如果它是说，“做你想做的，但任何超过某个极高功率阈值的计算集群”——考虑到成本，我们可能在全世界谈论的是五个左右的集群——像这样的集群必须接受类似于国际武器检查员的审查。这些模型必须提供安全审计，通过一些训练期间的测试，并在部署前通过。这对我来说是可行的。
我之前不太确定，但今年我环游世界，与许多需要参与其中的国家的领导人交谈，几乎得到了一致的支持。这不会解决所有问题。仍然会有一些问题出现在规模较小的系统中，有时甚至是严重的问题。但我认为这可以帮助我们应对最大的风险。

比尔·盖茨：我确实认为人工智能在最佳情况下可以帮助我们解决一些棘手的问题。
山姆·奥特曼：当然可以。
比尔·盖茨：包括极端化问题，因为这可能会对民主造成破坏，那将是极其糟糕的。目前，我们看到人工智能在提升生产力方面发挥了巨大作用，这主要是件好事。你最感兴趣的领域是什么？
山姆·奥特曼：首先，我认为值得记住的是，我们正处于一个长期且持续的发展曲线上。现在，我们有能够执行特定任务的人工智能系统。它们当然还不能完全替代人类工作，但它们可以完成一些任务，从而提高生产力。最终，它们将能够完成我们今天认为的工作类型，并且我们自然会找到新的、更好的工作。
我坚信，如果你给人们提供更强大的工具，他们不仅能工作得更快，还能做出质的不同的事情。目前，我们可能将程序员的工作效率提高了大约 3 倍。这是我们看到的情况，也是我们最感兴趣的领域之一。它运行得非常好。但如果你让程序员效率提高三倍，不仅仅是他们能做更多的事情，而是他们可以——在更高层次的思考和更多的脑力投入下——开始思考完全不同的事情。就像从打孔卡片到高级编程语言的转变，不仅仅让我们编程更快，还让我们能做全新的事情。我们真的看到了这一点。