DDIM

基于DDPM[1],DDIM（Denoising Diffusion Implicit Models）[2]的采样过程是通过一个确定性的更新规则逐步去噪,将DDPM数千步的采样减少到数十步.

DDIM的采样公式可以表示为：

\mathbf{z}_{s} = \alpha_{s} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t}) + \sigma_{s} \frac{\mathbf{z}_{t} - \alpha_{t} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})}{\sigma_{t}}

其中：

接下来,我们详细解释公式中的每个部分.
注意DDIM在采样中不再引入随机噪声,且正向无累加公式,需要逐步生成对应时间步的噪声

含义： $\hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 是模型对干净数据 $\mathbf{x}$ 的预测.模型的目标是从噪声数据 $\mathbf{z}_{t}$ 中恢复出原始数据 $\mathbf{x}$ .
作用： $\hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 是去噪过程的核心,它提供了从噪声数据到干净数据的映射.模型通过训练学习如何从 $\mathbf{z}_{t}$ 预测 $\mathbf{x}$ .

含义：
- $\alpha_{t}$ 和 $\sigma_{t}$ 是与时间步 $t$ 相关的参数,控制噪声的强度.
- $\alpha_{t}$ 通常表示信号的强度, $\sigma_{t}$ 表示噪声的强度.
- 在扩散模型中, $\alpha_{t}$ 和 $\sigma_{t}$ 通常被设计为随着时间 $t$ 的变化而变化,使得前向过程逐渐增加噪声.
作用：
- $\alpha_{t}$ 和 $\sigma_{t}$ 控制了噪声数据的生成过程.在反向采样过程中,它们用于调整噪声的去除速度.
- 在DDIM的更新规则中, $\alpha_{t}$ 和 $\sigma_{t}$ 用于加权模型预测 $\hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 和当前噪声数据 $\mathbf{z}_{t}$ .

含义：
- $\alpha_{s}$ 和 $\sigma_{s}$ 是与下一步时间步 $s$ 相关的参数,控制下一步噪声的强度.
- 通常, $s < t$ ,表示下一步的噪声强度比当前步骤更低.
作用：
- $\alpha_{s}$ 和 $\sigma_{s}$ 用于调整下一步的噪声数据 $\mathbf{z}_{s}$ 的生成.
- 在DDIM的更新规则中, $\alpha_{s}$ 和 $\sigma_{s}$ 用于加权模型预测 $\hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 和当前噪声数据 $\mathbf{z}_{t}$ ,以生成下一步的噪声数据 $\mathbf{z}_{s}$ .

含义：
- 这部分表示当前噪声数据 $\mathbf{z}_{t}$ 与模型预测 $\hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 之间的残差,经过归一化处理.
- $\mathbf{z}_{t} - \alpha_{t} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 表示当前噪声数据与模型预测的干净数据之间的差异.
- 除以 $\sigma_{t}$ 是为了将残差归一化,使其与噪声强度无关.
作用：
- 这部分用于调整下一步的噪声数据 $\mathbf{z}_{s}$ ,使其逐渐接近干净数据.
- 它反映了当前步骤的噪声残差,用于指导下一步的去噪过程.

DDIM的更新规则可以理解为：

第一部分： $\alpha_{s} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})$ 是基于模型预测的干净数据,加权后用于生成下一步的噪声数据.
第二部分： $\sigma_{s} \frac{\mathbf{z}_{t} - \alpha_{t} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})}{\sigma_{t}}$ 是基于当前噪声残差,加权后用于调整下一步的噪声数据.

通过这两部分的加权组合,DDIM能够逐步从噪声数据 $\mathbf{z}_{t}$ 生成下一步的噪声数据 $\mathbf{z}_{s}$ ,最终生成干净的样本.

DIM的采样过程可以被解释为对一个特定的ODE（概率流ODE）的数值积分[3].具体来说,DDIM的更新规则可以被视为对概率流ODE的一阶近似.