超级人工智能将如何影响我们人类(2)

第三，任何人都无法抗拒超级人工智能。这种人工智能足够先进，可以将人类视为原子的集合，与它可以根据需要操纵和控制的任何其他形式的物质没有什么不同。它可以使用说服方法，这需要我们花费1000年才能理解。以这个AI的计算速度，每一秒对我们来说就像1000年一样。随着这些时间的流逝，它可能会运行模拟来预测我们接下来可能做出的每个动作的数万亿种变化，而训练是它可以用来欺骗我们的每个动作的变化。例如，英国作家大卫·兰福德（David Langford）写了一篇短篇小说《刀锋》。在这个故事中，他描述了包含模式的图像，这些模式可以利用人类思维结构中的缺陷来减少不良反应。这些图像可以有效地使你崩溃，就像计算机程序在给定无法处理的数据时崩溃一样。高度进化的超级智能 AI 可能会发现与我们的五种感官类似的东西来控制和削弱它认为是威胁的人类。
第四，它可能不喜欢我们知道它是超级智能的AI。我们可能不知道我们是否以及何时创造了超级智能。在这种情况下，一个有意识的超级智能会决定不展示它的能力。除非我们看到它在运行中，否则我们如何确定程序或机器具有超级智能的能力，在某些潜在情况下，我们可能会严重低估连接到互联网的人工智能的能力，并且它们可能会在多年或甚至几十年，当它找到实现目标的战略机会时，这最终可能导致惊人的损失。

第五，在精神上和身体上无法控制可能很有趣。根据《人工智能研究杂志》，由于计算的基本限制，完全遏制超级智能人工智能是不可能的。基于这样的假设，即超级智能将由不断变化和快速发展的程序组成。这些程序需要像整个世界的状态一样复杂的输入。严格收容需要对这些程序进行模拟，这在理论上和实践上都是不可能的。至少，创建这种复杂的模拟可能比超级基金要困难得多。智能人工智能本身。在最坏的情况下，这个AI可以计算出我们体内的原子对其他目的更有用，并随后破坏。在最好的情况下，我们可以学会与之共存并互相帮助实现我们的目标。无论哪种方式，这都是人类最终可能不得不面对的十字路口。
总之，让我们拭目以待，看看AI未来如何发展吧。