万字综述之生成对抗网络（GAN）(6)

IPM 则不受数据维度的影响，且一致收敛于 Pdata}，Pg 两个分布之间的距离。而且即便是在两个分布的支撑集不存在重合时，也不会发散。
辅助的目标函数
在许多 GAN 的应用中，会使用额外的 Loss 用于稳定训练或者达到其他的目的。比如在图像翻译，图像修复，超分辨当中，生成器会加入目标图像作为监督信息。EBGAN 则把 GAN 的判别器作为一个能量函数，在判别器中加入重构误差。CGAN 则使用类别标签信息作为监督信息。
其他常见生成式模型
自回归模型：pixelRNN与pixelCNN
自回归模型通过对图像数据的概率分布 Pdata(x) 进行显式建模，并利用极大似然估计优化模型。具体如下：

上述公式很好理解，给定 x1,x2,...,xi-1 条件下，所有 p(xi) 的概率乘起来就是图像数据的分布。如果使用 RNN 对上述依然关系建模，就是 pixelRNN。如果使用 CNN，则是 pixelCNN。具体如下 [5]：