去噪扩散概率模型

定义

去噪扩散概率模型是一类基于概率扩散过程的深度生成模型,属于潜变量模型的一种,其思想来源于非平衡热力学^[2]。模型把数据的生成过程定义成一条马尔可夫链的终点,链的每一步都对应可解析计算的概率分布,因而整条链也可以被直接评估^[3]。

这种建模方式最初由 Sohl-Dickstein 等人在 2015 年以扩散概率模型的名义提出,当时的实验涵盖二维瑞士卷数据、手写数字与自然图像等小规模任务^[4]。2020 年 Ho 等人沿用同一框架并改进训练与网络结构,正式以去噪扩散概率模型的名称发表,使该模型在图像合成上达到当时的最优水平^[5]。

原理

模型包含前向与逆向两个过程。前向过程是一条固定的马尔可夫链,按预先设定的方差调度 $\beta_t$ 在每一时间步向数据加入少量高斯噪声,经过 $T$ 步之后,数据被破坏为近似标准正态分布的噪声^[6]。借助 $\alpha_t=1-\beta_t$ 与 $\bar{\alpha}_t=\prod_{s=1}^{t}\alpha_s$ 的记号,可以直接从原始样本 $x_0$ 一步采样出任意时刻的加噪结果,写为 $x_t=\sqrt{\bar{\alpha}_t}x_0+\sqrt{1-\bar{\alpha}_t}\epsilon$,其中 $\epsilon$ 为标准高斯噪声。这一性质使训练时无须逐步执行前向过程^[6]。

逆向过程同样是一条马尔可夫链,其转移概率由神经网络参数化,目标是从纯噪声 $x_T$ 逐步恢复数据。Ho 等人的关键做法是把逆向链的均值改写为对噪声的预测:网络 $\epsilon_\theta(x_t,t)$ 只需估计在当前时刻被加入的噪声,再由该预测推出下一步的均值^[6]。相应地,训练目标简化为预测噪声与真实噪声之间的均方误差:

该目标可由变分下界推导而来,但比下界本身更易于优化,训练时每个样本只需随机抽取一个时间步和一份噪声^[6]。

这一损失函数与去噪分数匹配及朗之万动力学之间存在联系,Ho 等人据此设计了加权变分界,取得了最好的实验结果^[2]。网络骨干在原始工作中采用 U-Net 结构,同一网络在不同噪声水平上兼顾整体结构与细节恢复^[1]。

flowchart LR

A["数据 x0"] -->|加噪 q| B["x1"] -->|逐步加噪| C["..."] -->|T 步后| D["xT ≈ 标准高斯噪声"]

D -->|网络预测噪声并去噪| E["..."] -->|逐步去噪 p| F["x1"] --> G["生成样本 x0"]

发展历程

扩散概率模型的思想最早见于 2015 年 3 月公开的论文《使用非平衡热力学进行深度无监督学习》。该工作提出用迭代的前向扩散过程逐步破坏数据分布的结构,再学习一个反向扩散过程把结构恢复,从而得到既灵活又可计算的生成模型,并发布了算法的开源参考实现^[7]。作者在 2015 年国际机器学习会议上报告了该方法在瑞士卷数据、二值序列、手写数字与若干自然图像数据集上的高似然结果^[4]。

2020 年,Jonathan Ho、Ajay Jain 与 Pieter Abbeel 在《神经信息处理系统进展》第 33 卷上发表《Denoising Diffusion Probabilistic Models》,重新组织训练目标并采用 U-Net 骨干,在无条件 CIFAR-10 上取得 9.46 的 Inception 分数和 3.17 的 FID,在 256×256 的 LSUN 上样本质量与 ProgressiveGAN 相近^[2]。该论文同时公开了官方代码实现^[1]。

2021 年,Dhariwal 与 Nichol 通过一系列消融实验改进了网络结构与注意力配置,并引入分类器引导,在 ImageNet 128×128 上取得 2.97 的 FID,在 ImageNet 256×256 与 512×512 上分别为 4.59 和 7.72,表明扩散模型的样本质量可以超过当时的生成对抗网络^[8]。同年提出的去噪扩散隐式模型沿用 DDPM 的训练目标,通过非马尔可夫扩散过程允许更少步数的采样^[9]。

此后的研究多沿三种主流路线展开,即去噪扩散概率模型、基于分数的扩散生成模型和基于随机微分方程的扩散生成模型,并在此基础上发展出针对采样效率的各类衍生模型^[10]。

应用

DDPM 最典型的用途是图像合成。原始论文在 CIFAR-10、LSUN 等数据集上展示了无条件生成能力,并指出模型天然具备一种渐进式有损压缩机制,可视为自回归解码的推广^[2]。

在条件生成与图像编辑方向,扩散模型被用于着色、图像修复、超分辨率和语义编辑等任务,在这些任务中往往比生成对抗网络取得更好的效果^[11]。分类器引导则提供了一种通过分类器梯度在样本保真度与多样性之间权衡的手段,可与上采样扩散模型结合使用^[8]。

扩散模型也被移植到图像之外的领域。有研究将 DDPM 用于电池运行数据与电化学阻抗谱数据的增强:对电流、电压、温度、容量等低维数据直接建模,对高维阻抗谱数据先用自编码器降维再生成,并在公开数据集上验证了合成数据的质量^[12]。此外,该模型还可扩展至音频生成与文本生成等任务^[12]。

在机器人领域,有工作把 DDPM 的噪声预测损失直接用于动作序列生成,把图像换成动作块,骨干网络则由 U-Net 改为 Transformer,多步去噪表达多模态分布的思路得到沿用^[1]。

局限

采样效率低是 DDPM 最主要的缺陷。生成一个样本需要沿马尔可夫链走完数千步,每一步都要对神经网络做一次前向计算;有分析指出,在单块 Nvidia 2080 Ti 上从 DDPM 采样 5 万张 32×32 图像约需 20 小时,而生成对抗网络完成同样数量不到一分钟,尺寸更大的图像耗时更甚^[9]。由于逆向过程在连续极限下近似求解一个扩散常微分方程,一阶求解器通常需要数百次乃至数千次函数评估才能收敛,这成为实际部署的关键瓶颈^[13]。

训练与推理的计算开销同样可观。有研究将 DDPM 的问题归纳为采样效率低、训练时间长和硬件资源开销大三方面,并指出 U-Net 依靠局部感受野扫描图像容易造成信息损失^[14]。在像素空间直接对高分辨率图像做扩散,会使训练时间和显存开销随分辨率快速上升,因此出现了把扩散过程搬入隐空间的方案,但隐空间方法又面临图像信息丢失的问题^[14]。

从似然角度看,DDPM 所用的变分下界存在偏松的问题,会限制模型达到最优的似然表现^[15]。此外,模型内部每一步去噪的具体机制长期缺乏清晰解释,其可解释性不足,制约了在医疗影像、自动驾驶等高可信度场景中的规模化应用^[16]。

参见

• 扩散模型 —— DDPM 所属的生成模型大类,还包括基于分数和基于随机微分方程的变体

• 去噪扩散隐式模型 —— 沿用 DDPM 训练目标、通过非马尔可夫过程加速采样的改进模型

• 生成对抗网络 —— 与 DDPM 并列的另一类主流生成模型,采样只需一次前向计算

• U-Net —— DDPM 原始工作中用于预测噪声的卷积网络骨干

• 变分自编码器 —— 同样采用变分下界训练的生成模型,常与扩散模型结合用于隐空间扩散