超维计算与人工智能(2)

“这是我最兴奋的事情，几乎在我的整个职业生涯中，”奥尔斯豪森说。对他和其他许多人来说，超维计算预示着一个新的世界，在这个世界中，计算是高效和稳健的，机器做出的决策是完全透明的。

进入高维空间

为了理解超向量如何使计算成为可能，让我们回到带有红色圆圈和蓝色方块的图像。首先，我们需要向量来表示变量 SHAPE 和 COLOR。然后，我们还需要可以分配给变量的值的向量：圆形、正方形、蓝色和红色。
向量必须是不同的。这种区别可以通过称为正交性的属性来量化，这意味着处于直角。在 3D 空间中，有三个彼此正交的向量：一个在 x 方向，另一个在 y 方向，第三个在 z 方向。在 10，000 维空间中，有 10，000 个这样的相互正交向量。
但是，如果我们允许向量接近正交，那么高维空间中这种不同向量的数量就会爆炸。在 10，000 维空间中，有数百万个近正交向量。
现在让我们创建不同的向量来表示形状、颜色、圆形、正方形、蓝色和红色。由于高维空间中存在许多可能的近正交向量，因此只需分配六个随机向量来表示六个项目;它们几乎可以保证几乎是正交的。“制作近正交向量的便利性是使用超维表示的主要原因，”加州大学伯克利分校红木理论神经科学中心的研究员Pentti Kanerva在2009年的一篇有影响力的论文中写道。

Pentti Kanerva（左）和Bruno Olshausen，加州大学伯克利分校的研究人员。
这篇论文建立在Kanerva和Tony Plate在1990年代中期所做的工作之上，当时他们是多伦多大学Geoff Hinton的博士生。两人独立开发了用于操作超向量的代数，并暗示了其对高维计算的有用性。
给定我们的形状和颜色的超向量，由Kanerva和Plate开发的系统向我们展示了如何使用某些数学运算来操作它们。这些行动对应于象征性地操纵概念的方式。
第一个运算是乘法。这是一种结合思想的方式。例如，将向量 SHAPE 与向量 CIRCLE 相乘，将两者绑定成“SHAPE is CIRCLE”的表示形式。这个新的“有界”向量几乎与 SHAPE 和 CIRCLE 正交。单个组件是可恢复的——如果你想从绑定向量中提取信息，这是一个重要的功能。给定一个表示您的大众汽车的绑定矢量，您可以解绑并检索其颜色的矢量：紫色。