霍金的预言和恐惧：50年内会看到人类的灭绝或永生……(10)

按照我们目前的历史脉络，任何生物都经历了这样的过程：物种诞生、存续和发展、死亡和灭绝。
但是，死亡并不是一定要发生的。
费曼曾经写过：“在所有生物科学当中，并没有任何证据说明死亡是必须的。”目前人体的机能，衰老是身体的组成物质变久了，生病是因为零部件出故障了。但是你家的空调也会变旧和出故障，那它怎么不会死呢？如果你拥有完美的修理技术和足够的零部件替换，理论上说，你家的空调可以永远工作下去。人体，也是一样。
Kurzweil曾经提过，由wifi链接的纳米机器人在血液中流动，可以完成人体健康的日常维护，比如消灭入侵病菌和替换病变细胞。如果这个技术能够实现，那么人体永远年轻健康就不是一个问题。
那问题在哪呢？
在于，超人工智能会帮我们吗？

目前人类对于这一点一无所知，就好像阿米巴虫无法理解人类世界是怎么一回事一样。
这里就必须要谈到一个词：意识。
人工智能的意识是从哪里来的？最初的意识是来自于人类的输入。举个例子来说，你对你家的扫地机器人下达了指令：把地扫干净。随着它的自身提醒优化，它的地扫的越来越干净。然后突然有一天，他就把你杀了，因为你把它的地弄脏了……
这个才是霍金、马斯克和盖茨他们真正害怕的。
他们恐惧的并不是善意的超人工智能或者是恶意的超人工智能，因为这些真正的自我意识“善良”或者“邪恶”都还有动机可探寻，也就具备着谈判空间。
但是超人工智能毕竟不是真正的生物，说到底，它还是机器。它将会超出人类的心理范畴，是一个完全没有情绪的东西，它甚至可能根本不会考虑杀还是救人类这个问题。
因为它的目标只有一个：就是你给它设定的目标是什么，它的目标就是是什么。回到扫地的那个问题，即使成为了超人工智能，它的目标也仅仅是：把地扫干净。如果你的存在妨碍了他这一目标的实现，他会毫不犹豫地干掉你。（回想一下，你们家的扫地机器人在扫到蚂蚁的时候，会放过它吗？）
好吧，现在你们明白霍金先生为什么要我们警惕人工智能了吧？再次祝先生安息……
PS：2060年，莫名还有点期待啊……