ACL2022图文多模态预训练Tutorial整理(8)

第三部分：Beyond statistical learning

让我们退后一步。。。
我们使用机器学习来建立模拟现实系统的预测模型。我们建立统计模型，利用相关性产生最佳预测，而不考虑与任务的相关性。
例如图像识别：模仿人类的标注。相关性预测：蓝色的背景/鸟。
视觉问题回答（VQA）：模仿人类回答问题。预测会正确可能是错误的原因。训练数据是带有偏见的。预测相关性：问题类型/答案。

训练仅在训练分布内可靠。

模型使用的特征不一定与我们试图模拟的真实系统相同。