霍金的预言和恐惧：50年内会看到人类的灭绝或永生……(6)

4、黑暗森林理论：存在着很有攻击性的文明，但他们都好自为之，不向外广播自己的位置。这其实是霍金不赞成探索外星生命的重要原因，贸然接触外星文明是很危险的，因为你很难判断他们的意图，并且极有可能根本无力自保。
5、我们的技术太落后，根本探测不到。
其他的还有超级捕食者理论等等，就不多说了。
二、为什么要警惕人工智能
1、加速回报定律。
这是由预言家Ray Kurzweil所提出。根据该理论，技术改良以过去的成就为基础，每十年革新的步调会加倍。即技术进步是以指数方式发展的，而非是线性。也就是说科技越发达，它发展的速度就会越快。
Ray Kurzweil认为：在20世纪中，100年的进步，在21世纪只需要20年就可以达到。再往会会变得只需要几年、几个月、甚至几天就可以完成之前100年的进步。那么有可能世界在2050年，就会变得面目全非。
2、人工智能是什么？
“人工智能”一词最初是在1956 年Dartmouth学会上提出的，它的英文名称是Artificial Intelligence，英文缩写为AI。
其实人工智能的范围很宽，目前流行的观点，大概可以分成三个阶段：弱人工智能、强人工智能、超人工智能。
弱人工智能：即不可能制造出能真正地推理（REASONING）和解决问题（PROBLEM_SOLVING）的智能机器，这些机器只不过看起来像是智能的，但是并不真正拥有智能，也不会有自主意识。既，它只是个机器。
我们目前还是主要停留在这一阶段。
强人工智能：真正能推理（REASONING）和解决问题（PROBLEM_SOLVING）的智能机器，并且，这样的机器能将被认为是有知觉的，有自我意识的。既，它已经可以和人类比肩。
这是我们现在的研究方向。
超人工智能：现在还难以给它定义，因为按照牛津著名人工智能思想家Nick Bostrom的说法，超人工智能就是各方面都比人类强的存在。它可能只强一点点，也可能强几十倍、几百倍、上千倍。
3、人工智能之路
目前普遍的观点是认为，从弱人工智能到强人工智能的路，是最难完成的。
因为我们现在其实已经处于弱人工智能的包围中了，你的导航系统、你的手机软件，你的垃圾过滤系统，甚至你的网购，其实都是弱人工智能的一部分。