超维计算与人工智能

尽管 ChatGPT 和其他大型语言模型取得了巨大的成功，但支撑这些系统的人工神经网络 （ANN） 可能走上了错误的轨道。
首先，人工神经网络是“超级耗费电力”的，马里兰大学的计算机科学家Cornelia Fermüller说。“另一个问题是（他们）缺乏透明度。这样的系统是如此复杂，以至于没有人真正理解它们在做什么，或者为什么它们工作得如此之好。反过来，这使得他们几乎不可能通过类比来推理，而人类就是这样做的——使用符号来表示物体、想法和它们之间的关系。
这些缺点可能源于人工神经网络及其构建块的当前结构：单个人工神经元。每个神经元接收输入，执行计算并产生输出。现代人工神经网络是这些计算单元的复杂网络，经过训练可以执行特定任务。
然而，人工神经网络的局限性早已显而易见。例如，考虑一个区分圆和正方形的ANN。一种方法是在其输出层中有两个神经元，一个表示圆形，另一个表示正方形。如果你想让你的ANN也能辨别形状的颜色——蓝色或红色——你需要四个输出神经元：蓝色圆圈、蓝色方块、红色圆圈和红色方块各一个。更多的特征意味着更多的神经元。
这不可能是我们的大脑感知自然世界的方式，以及它的所有变化。“你必须提出，好吧，你有一个适用于所有组合的神经元，”加州大学伯克利分校的神经科学家布鲁诺·奥尔斯豪森（Bruno Olshausen）说。“所以，你的大脑里会有一个紫色的大众探测器。
相反，奥尔斯豪森和其他人认为，大脑中的信息是由许多神经元的活动来表示的。因此，对紫色大众汽车的感知不是编码为单个神经元的行为，而是编码为数千个神经元的行为。同一组神经元，以不同的方式放电，可能代表一个完全不同的概念（也许是粉红色的凯迪拉克）。
这是一种完全不同的计算方法的起点，称为超维计算。关键是每条信息，例如汽车的概念，或其品牌，型号或颜色，或所有这些，都表示为一个实体：超维向量。
向量只是一个有序的数字数组。例如，3D 矢量由三个数字组成：3D 空间中点的 x、y 和 z 坐标。超维向量或超向量可以是 10，000 个数字的数组，例如，表示 10，000 维空间中的一个点。这些数学对象和操纵它们的代数足够灵活和强大，可以使现代计算超越其当前的一些限制，并培养一种新的人工智能方法。