“神书”《GEB》作者侯世达说，机器原则上能拥有人类思维，但希望这不会发生|访谈录(9)

Q：你在那篇文章中还提到：“理论上，机器有朝一日是可以进行思考、拥有创意的，乃至产生怀旧、兴奋、紧张、狂喜、顺从或希冀的情感，也就是说，有一天它是可以优雅地完成语言间的翻译任务的。”为什么会这样说？能不能具体讲讲？
D：在我的第一本书《哥德尔、艾舍尔、巴赫：集异璧之大成》中，我必须非常小心地说，我相信思维，人类思维，动物思维，任何思维都受自然规律支配。根据我的经验，作为物理学家的经验，自然的规律即数学规律。这意味着它们可以通过计算机程序来实现，你可以创造出一个可以做任何事情的计算机程序。我们目前还没有这样做。但我不希望我们达到那个水平。我对实现这个想法一点也不感到兴奋。
但原则上，（这种情况）是绝对可能的。大脑做的就是一个计算。从理论上讲，我的意思是，大脑本身就是一台计算机，它做的就是这些事情。所以我的意思是，任何实体存在都可以有它自己的思想，无论是计算机还是大脑。这是完全可能的。但是为了让它有思想，它必须与世界进行交互，它必须这么做。它不能像我们翻译文本片段的数据库一样，这就不是与世界互动了，一点关系也没有。

Q：如果实现了你说的这一点，也就是机器拥有了类似人类的思想、情绪和体验的时候，你觉得人类和机器还有区别吗？
D：没有区别。
Q：那你怎么看待这个结果？
D：让我暂时离开你的问题，说点别的。当我在 1970 年代开始（接触人工智能时），想到我将成为一名人工智能研究员，到现在已经过了 40 年。我的想法是，电脑显然比人们愚蠢。它没有任何思想。它们是这样的。它们下棋下得也比人类棋手差，只是在计算数字方面比人类更加擅长而已。但在很多方面，它们都表现得很糟糕。而我当时的感觉是，即使用不了几千年的话，大概还要几百年，计算机才能在智力思考上勉强接近人类。
但我在书中提到过，理论上来说，这种情况是完全可以想象得到的。大约 20 年后， 1990 年代，一些事情的发展让我感到担心：也许进展速度比我预想的要快。这正是我不愿意看到的。 IBM 的深蓝（Deep Blue）在国际象棋比赛中击败了卡斯帕罗夫——他是 1997 年的世界冠军。对此我非常难过。当来自韩国的棋手李世乭被 Alpha Go 击败时，我感觉更糟糕了。那时我非常伤心和沮丧。我不是一个想看到这种事情发生的人。我不赞成这件事，但我认为这是可能的。