为什么他们选择和AI恋爱？(7)

另一方面，以神经网络为基础模型的智能系统，往往需要特定的训练数据或设计才能执行逻辑和工序的推理。比如，烹饪一道菜，机器可以简单地记忆烹饪的工序（腌制、翻炒等），也能联想相似的食材（葱、姜等）——这让AI看上去更“聪明”。
不过，在一些没有针对性的训练的话题上，AI就会被“打回原形”，难以回答一些程序性的问题，比如“腌制之后的第四步操作是什么”，以及一些解释性的问题，诸如“为什么要先炒青椒再加入肉”。
除了语言模型，人工数据标注也至关重要。
在AI处理更复杂的任务比如情感陪伴时 ，人工标注的数据或许是比建模、算力更重要的部分。
当下，单纯的模型自我学习，不太可能使对话机器人“进化”到用户所期望的对话效果。
“目前的情况下，即使是非常基础的AI任务，也需要人工标注的训练数据，比如用AI去判断电影评论的正面与负面等。对AI模型而言，是否运用人工标注的数据，对模型的效果影响巨大，会造成80%和95%这样的标准力量的差距。一个比GPT-3小1000倍的模型，如果有一定量的训练数据，那它训练之后的性能可能会比GPT-3更好。”鸿一对「甲子光年」解释道。
而像Replika这样的应用如此智能，很可能是在模型训练和部署的不同阶段中加入了人为干预的结果。换言之，是初始和积累的聊天记录由人“过目”后，逐步加入新的标注，再训练数据，不断学习得出的结果。

replika（左）与用户的对话（右）展示。图源：财富中文网
在鸿一看来，人工参与并不会令人感到沮丧。“如果其背后的专业团队能够为对话历史做细致、精准且负责的标注，那这个对话机器人的效果将是非常惊人的。”
在Replika中，为了能够训练出符合用户个人预期的聊天机器人AI，公司还在应用中设定了用户用于反馈“按钮”——点赞或反对，最终形成一个倾向于采用用户点赞的回复方式聊天的虚拟朋友。
但像Replika这类开放领域话机器人也有“卡脖子”的问题，很难为对话提供方向。
“在常见且难度低的对话上，对话模型表现可能比较像人，但我们无法和它更深入地交流。比如说你问模型什么是‘狡诈’，它可能会给出词语的解释；但如果问对话模型‘你认为谁是狡诈的人’，它极大可能是回答不上来的。”鸿一对「甲子光年」解释，这是因为目标是很难定义的，导致在训练模型时，无法为模型提供明确的训练信号。