清华教授沈向洋：创新就要做到极致，用开源的方式培养未来工程师(6)

第二个阶段，技术已经能够让你成长，但就出现了新的伦理问题。以尤瓦尔的《未来简史》为例，它提到医疗在发展过程中，需要把更多的个人隐私贡献给机器。里面的一个人物茱莉做了乳腺手术，因为他们在观察过她的基因后，认为她患癌症的概率比别人大好几倍。这个在西方得到一片赞誉，都觉得她特别勇敢。但假设茱莉不擅长做决定，那机器能否再做一步，询问她是否把决定权交给它，那就是机器帮你做决定了。人会变得更健康，但人的自由、自主性就开始下降了。
今天我们都在用百度地图，大家在开车的时候已经低开高走了。因为在用地图时，我们已经开始无脑使用，机器告诉你走哪里，你就走哪里，它的全局数据比你的准，你算不过它。这时候机器开始进行全局统筹，与人做沟通，不给你全部信息，只给你局部信息，告诉一半人这条路不堵，告诉另外一半人，那条路不堵。这个时候决策权不在我们手里，已经交给机器了。不管生命健康还是交通出行，从恶意到善意的决策，人类一直在丧失自己做决策的能力和机会。
以后我们的决定有50%以上由机器做，我们现在面临的困境是，该怎么去突破，这个事情我现在也没有答案。但是我是一个机器主义者，机器把人取代了，机器升级完了，生成人类的下一代，也挺好的。就像埃隆·马斯克讲的，人类是机器的Preloader，这种解答可以让自己心安一点，作为一个技术人可以这么想。总体来讲，机器做决定与人做决定，带来了人的自由这样的矛盾，除去隐私、机器恶意不谈，这些都会带来人的意义的变化，这是需要思考的。
王超：这个问题你一定要说一下。
沈向洋：首先小川讲得非常好，做决策的伦理是非常重要的一点。不要讲AI伦理了，比如说核武器，毫无疑问，今天有核武器，但要不要扔，这里就有伦理的问题。
第二，我前面提到了，可解释的人工智能有必要做。因为你如果不理解它，就很难去下判断，即这件事该不该做。在国外对AI的伦理讨论非常多，国内也有很多人在做，如果能对标国外一个机构，有100多家公司来参与，大家来讨论、正视这个问题，才能解决它。