人工智能即将爆发(9)

“就好像单细胞生物向多细胞生物转化的时候那样，还是阿米巴虫的我们没有办法知道我们究竟在创造什么鬼。”
当把“对超人工智能领域完全不清楚”和“它具有毁灭人类的能力”结合在一起时，我们就有了生存危机。
这就是为什么人们理解和研究超人工智能后，把它称作人类的最后一项发明，最后一个挑战。
不过大佬刘对“人工智能灭绝人类”的担忧，是持乐观态度的。
中文的“德”字，在甲骨文象形的写法表意中，就是十只眼睛盯着你的行为规范选择，大家都接受的行为规范就是德，大家都不接受的就是不道德。日常行为中，必然要求你在做行动选择的时候，要考虑周围人的看法，需要去揣测他人的意思，才决定自己的行为。
也就是如果你不能推断别人的思想，那你就不知道伦理道德，反之，你就具有了伦理道德（先不论道德水准的高低）。
在AGI的发展中，研究机器人很重要的一个问题是：机器人要去做事情的时候，那它首先要想一下——“我如何做这个事情？他人会有什么反应？如果反应好怎么做？如果反应不好怎么改？”
那机器怎么知道他人怎么想的呢？它必须先了解你喜欢什么、厌恶什么。每个人都不一样，在不同的群体里面，哪些话该说，哪些话不该说，这些大家心里面的共识，需要交互。
AI在与人交互的过程中，包括与其它机器的交互中，自然就有了人类的道德伦理。就像人在和自然的交互中，自然就懂得了尊重生命的道理。
人是由猩猩猿猴进化来的，按现在人类的智能程度，人类可以很轻松灭绝智力比我们低的猩猩和猿猴。但正是这种人与自然的交互，让人类懂得了生命的伦理，所以我们不但不消灭猩猩猴子，反而想方设法保护它们的生存。
同理，在人类研发人工智能的过程中，AI在互相交互中，她自然传承了人类的道德规范。
从这个意义上讲，AI硅基生命是人类碳基生命的延续。
AI是人类的儿女，儿女为什么要灭绝自己的父母？