专访约翰·塞蒙斯：“后人类”是一种哲学寓言(5)

您在写作中曾提到，真相的“收敛模型”[4]并不完全符合当今科学领域里密集运算的现实，但当代科学已经高度依赖运算和软件工具。汉娜·阿伦特曾写道，现代物理研究所设计的数据“不是现象、表象，因为我们在哪儿都不会遇见它们，无论是在我们的日常世界里，还是在实验室里：我们知道它们的存在，仅仅因为它们以某种方式影响了我们的 测量仪器”[5]。我们今天应该如何看待哲学层面的“真相”？

过去与未来之间
汉娜 · 阿伦特 / 著
王寅丽、张立立 / 译
译林出版社，2011-10
塞蒙斯：很好的问题。我想，一方面我们应该思考计算机的工具本质和它们的局限。最显而易见的局限是：我们“创造”了它们，但我们有局限，我们会犯错误，比如你在前面提到的神经网络训练数据集的偏见问题。另一方面，“运算性”也逃不出系统的逻辑限制。计算机到底能做什么，其逻辑边界其实是分明的。
你问到对“真相”的理解，我想现在存在着很多无法抵达的真相。我们正处于一种“实际的不透明感”（practical opacity）中，我们使用的许多工具的运作过程如今已经不完全裸露在人类的肉眼观察之中，我们也无法如期待的那样完全理解机器学习系统，我们只知道这些系统能给我们提供不错的解释。但实际上，要完全搞明白这些运算过程是超出人类能力的。
早在20世纪70年代，哲学家就曾面临同样的问题。当时，计算机开始被人类用来证明数学定理，比如四色猜想。计算机证明了这条定理后，哲学家却遇到了问题——因为这个证明是“不可观测的”（not surveyable），换句话说，对于用大量机器生成的证明，我们无法一目了然。这是早在机器学习流行起来之前发生的故事，当时的计算机执行的只是所谓“传统的软件解决思路”。我们或许认为，我们确实得到了某种证明，但它是不透明的，因为这个“证明”并非一目了然。但事实上，有很多学科领域早就面临同样的现状，比如瑞士的欧洲核子研究组织（CERN），我想没有人能了解它所进行的实验的每一个方面。对于我们今天所面临的“大科学”来说，“不透明感”就是它的现状。