什么是“奇点”？(13)

硬起飞与软起飞

在硬起飞的情况下，通用人工智能AGI迅速自我完善并“掌控”世界（也许在几个小时内）。速度太快，以致于无法进行重大的人为纠错或对 AGI 的目标进行逐步调整。在软起飞的情况下，虽然AGI仍然比人类强大得多，但却以一种类似人类的速度进步（也许是几十年的数量级），持续的人类互动和修正可以有效地引导AGI的发展。
Ramez Naam反对硬起飞。他指出，我们已经看到企业等超级智能体的递归式地自我完善。例如，Intel拥有“数万人的集体脑力，可能还有数百万个CPU核心……来设计更好的CPU！”然而，这并没有导致硬起飞；相反，它以摩尔定律的形式实现了软起飞。Naam进一步指出，高等智能的计算复杂度可能比线性大得多，因此，“创建智能系统2的难度可能两倍于是创建智能系统1的两倍多。”
J.Storrs Hall认为，“许多常见的一夜之间出现的硬起飞场景都是循环论证——它们似乎在自我提升过程的起点上假设了超人类的能力”，以便人工智能能够实现起飞所需的戏剧性的、领域通用的改进。Hall认为，一个初出茅庐的人工智能与其靠自己不断地自我改进硬件、软件和基础设施，不如专注于一个它最有效的领域，然后在市场上购买剩余的组件，因为市场上产品的质量不断提高，人工智能将很难跟上世界其他地方使用的尖端技术。
Ben Goertzel同意Hall的意见，即一种新的人类级别的人工智能将很好地利用其智能来积累财富。人工智能的天赋可能会激励公司和政府将其软件分散到整个社会。Goertzel对5分钟的硬起飞持怀疑态度，但他推测从人类到超人的水平，以5年的速度起飞是合理的。Goerzel将这种情况称为“半硬起飞 semihard takeoff”。
Max More不同意这一观点，他认为，如果只有少数超高速的人类水平的人工智能，它们不会从根本上改变世界，因为它们仍将依赖人来完成任务，并且仍然会受到人类认知的限制。即使所有的超高速人工智能都致力于智能增强，但目前还不清楚为什么它们在产生超人类智能方面比现有的人类认知科学家做得更好，尽管进展速度会加快。更进一步指出，超级智能不会在一夜之间改变世界：超级智能需要与现有的、缓慢的人类系统进行接触，以完成对世界的物理影响。”合作、组织和将想法付诸实际变革的需要将确保所有旧规则不会在一夜之间甚至几年内被抛弃。”