OpenAI第三弹：OpenAI真正“话事人”GregBrockman的创业经历(12)

Q2：AGI 的概念让人担忧，在人们拥有不可预测的智能系统之前，需要建立什么？需要什么样的框架？
A2：我认为一切都归结为一个核心思想，AGI 有可能引起迅速的变化，期间政策机制以及社会规范很难跟上，政府在政策层最重要的事情是开发衡量它的防范，未来很难预测，部分原因是人们对现在了解也很少。
Q3：如何看待限制 AI，例如有争议的领域？
A3：没有一个简单答案，我不认为我一个人或者 OpenAI 的其它人能给出正确答案，OpenAI 在章程上花费了很多精力，总共花了 2 年研究它的制度，主要是弄清楚什么是安全和负责的 AI 开发，以及它的意义。
Q4：你认为 OpenAI 有责任制定 AI 使用的政策么？还是必须与政府共同制定？
A4：一项技术影响到每个人，你就需要进行公开对话，核心之一是 AI 创造了许多好处，所以不应该被锁定在任何一个实体中，它应该是共享并广泛分发的东西，这也是举行政府听证会以及公开对话的重要原因之一，现在很难将信号和噪音区分，即使是对于在这个领域的人来说；另外，我们需要深入了解正在发生的事情、推动进步的因素以及未来将发生的事情，这是一个挑战，但我认为通过正确的数据进行真实对话，我们有机会做好。
Q5：AI 的偏见是经常讨论的问题，AI 也会使原本就是黑匣子的问题更糟糕，OpenAI 如何考虑解决这个问题？
A5：这当中存在一系列问题，不管是今天存在于系统的问题，还是明天的，即使数据很好，如果这些系统建立在错误的方式上，例如被赋予了错误的目标，最终可能会发生意外，如何确保 AI 按照我们的意图操作而不带偏见，这些都是非常重要的开放问题。另一个层面，建立 AI 安全领域非常重要，好的是 OpenAI 有很大的动力去做这一点，但是目前而言还没有做到，提前解决比追赶这些问题更加重要。