科技反噬论：人类蜗居“云端”，算法蚕食世界(6)

谷歌翻译是在2006年推出的，其采用的是一种名为统计语言推理（statistical language inference）的技术。该系统并没有尝试去理解语言的构造原理，而是直接吸收运用大量现有的译文。简单来说，谷歌翻译并没有用人类的思维来理解语言，而是靠数据驱动，直接处理映射单词。
正因如此，谷歌翻译造成的错误比比皆是，让人啼笑皆非。但在2016年，系统开始采用谷歌大脑（Google Brain）开发的神经网络，翻译能力呈指数级提高。其不再交叉引用文本，而是建立了一个自己的模型。
同年，谷歌大脑的其他研究员开发了另外三个网络，分别称为Alice、Bob，以及Eve，专门用来学习如何加密信息。过程如下：Alice和Bob手上有一个加密数字要是，但是Eve不知道；接着，Alice会执行文本操作，然后发送给Bob和Eve。如果Bob破解信息，那么Alice就加一分；如果Eve破解信息，那么Alice就扣一分。
经过数千次的测试和迭代，Alice和Bob最终能够在Eve无法破解信息的情况下沟通；这有点儿像我们今天用的私密邮件一般。但关键的是，我们并不了解这种加密工作，具体的操作被网络层层阻隔。Eve不知道的东西，我们也不知道；机器正在学会保守秘密。

我们如何理解自己在世界上的位置、我们与他人以及机器的关系，最终将决定技术的发展方向。我们不能忽视网络，我们只能在网络中思考。
现如今，影响着我们的技术不会凭空消失；在许多情况下，我们也不希望它消失。毕竟，还有一个70亿人口的星球在依赖着它。对于现在所处的恶劣环境，我们并非无能为力；我们要做的，就是思考、思考、再思考。
科技是我们自我的延伸，存在于机器设施编码，以及知识行为框架中。计算机并没有给我们所有的答案，而是让我们向这个世界用新的方式提出了新的问题。