如果你爬过山，怎会不了解机器学习？(2)

这条规则是：考虑你可以朝哪些方向走，找出其中梯度最大的那个，并朝那个方向走几步；重复上述步骤。
把你前往山顶的路线绘制到地形图上，大致的样子如图1所示。

图1 这又是一个很棒的几何图形。当你利用梯度下降法来指引方向时，你在地形图上的路线必定与等高线垂直。
但它与机器学习又有什么关系呢？
假设我不是一名登山者，而是一台尝试学些东西的计算机，例如阿尔法围棋或GPT-3（能生成一长串看似合理且令人不安的英语文本的人工智能语言模型）。但一开始，先假设我是一台尝试学习猫是什么的计算机。
我该怎么做？答案是：采取类似于婴儿的学习方法。在婴儿生活的世界里，经常有大人指着他们视野中的某个东西说“猫”。你也可以对计算机进行这样的训练：给它提供1000幅猫的图片，这些猫的姿态、亮度和情绪各不相同。你告诉计算机：“所有这些都是猫。”事实上，如果你真想让这种方法行之有效，就要另外输入1000幅非猫的图片，并告诉计算机哪些是猫而哪些不是。
机器的任务是制定一个策略，使它能够自行区分哪些是猫而哪些不是。它在所有可能的策略之间徘徊，试图找到最好的那个，即识别猫的准确度达到最高。它是个准登山者，所以它可以利用梯度下降法确定行进路线。你选择了某个策略，将自己置于对应的环境中，然后在梯度下降规则的指引下前行。想一想你对当前策略可以做出哪些小改变，找出能为你提供最大梯度的那个，并付诸行动；重复上述步骤。
贪婪是相当好的东西
这句话听起来颇有道理，但随后你会发现自己并不明白它的意思。例如，什么是策略？它必须是计算机可以执行的东西，而这意味着它必须用数学语言来表达。对计算机而言，一幅图片就是一长串数字。如果这幅图片是600×600像素的网格，那么每个像素都有一个亮度，它们的值在 0（纯黑）到 1（纯白）之间。只要知道这 36 万（600×600）个数字，就能知道这幅图片是什么内容了。（或者，至少知道它的黑白图像是什么样子。）