In this paper, we show that DDPMs can achieve loglikelihoods competitive with other likelihood-based models, even on high-diversity datasets like ImageNet.

Improving the Log-likelihood

虽然发现DDPMs可以根据FID和Inception Score生成高保真度的样本，但是这些模型无法实现具有竞争力的对数似然。

对数似然是生成式建模中广泛使用的度量，一般认为优化对数似然迫使生成式模型捕获数据分布的所有模式。

0 提高T

作者发现将T加到4000可以提升对数似然，本节中剩余部分都是使用$T=4000$

1 Learning ${\Sigma }_{\theta }(x_t,t)$

起初${\tilde{\beta }}_t$非常小，随着扩散步数的增加，${\beta }_t$和${\tilde{\beta }}_t$几乎相等。

表明，随着扩散步骤增加${\sigma }_t$的选择对样本质量可能根本无关紧要。也就是说，随着我们增加更多的扩散步长，模型均值${\mu }_{\theta }(x_t,t)$比${\Sigma }_{\theta }(x_t,t)$更能决定分布。

图2表明扩散过程的前几步对变分下界的贡献最大。因此，似乎可以通过更好地选择${\Sigma }_{\theta }(x_t,t)$来提高对数似然值。

对数域内将方差参数化为${\beta }_t$和${\tilde{\beta }}_t$之间的插值更好。

模型输出一个每维包含一个分量的向量$v$，我们将这个输出转化为方差如下：

${\Sigma }_{\theta }\left(x_t,t\right)=\exp \left(v\log {\beta }_t+(1-v)\log {\tilde{\beta }}_t\right)$

Since $L_{\text{simple }}$ doesn’t depend on ${\Sigma }_{\theta }\left(x_t,t\right)$, we define a new hybrid objective:

$L_{\text{hybrid }}=L_{\text{simple }}+\lambda L_{\mathrm{vlb}}$

2 Improving the Noise Schedule

线性噪声调度对高分辨率图像效果较好，但对于分辨率为64 × 64和32 × 32的图像效果欠佳。并且在这些分辨率下，前向加噪过程的末尾噪声太大，因此对样本质量的贡献不大。

图四：反向过程跳步达到20%的时候对FID也不会有什么明显影响。

综上，本文${\alpha }_t$构造了一个不同的噪声调度：

${\bar{\alpha }}_t=\frac{f(t)}{f(0)},f(t)=\cos {\left(\frac{t/T+s}{1+s}\cdot \frac{\pi }{2}\right)}^2$

${\beta }_t=1-\frac{{\bar{\alpha }}_t}{{\bar{\alpha }}_{t-1}}$

限制${\beta }_t\le 0.999$，以防止在扩散过程接近$t=T$时出现奇怪现象。

图5可以看出，线性方差表更快地将图片破坏为噪声，但是cos方差表在$t=0$ 和 $t=T$ 附近变化很小，以防止噪声水平的突然变化。

开始时噪声太小会让网络难以准确地预测$ϵ$，因此使用一个小的偏移量$s=0.008$，以防止在 $t=0$ 附近${\beta }_t$太小。

用$co{s}^2$纯属巧合，作者想要一个两端平滑中间线性下降的函数，换成别的能work也可以。

3 Reducing Gradient Noise

理论上直接优化 $L_{vlb}$ 可以获得更好地对数似然。但是下图可以看到，实际中$L_{vlb}$很难优化，甚至$L_{hyvrid}$获得更好的对数似然。但是他们俩噪声都很大。

直接优化 $L_{vlb}$，但是要寻找一种降低其方差的方法。因为图2中不同项差的量级很大，作者猜测是因为时间步 均匀采样导致的梯度噪声大，所以提出了重要性采样的方法：
$L_{\mathrm{vlb}}=E_{t\sim p_t}\left[\frac{L_t}{p_t}\right]\text{, where }{p}_t\propto \sqrt{E\left[L_t^2\right]}\text{ and }\sum p_t=1$

由于 $E[L_t^2]$ 无法获取准确值, 所以保存每个时间步前 10 次的损失求平均来估计, 这样损失越大的时间步采样频率越低, 从而整体上可以保证损失的稳定性。

使用重要性采样单独训练 $L_{vlb}$ 确实有效，损失也更稳定了。 直接训练 $L_{hybrid}$ 的损失也可以降到和使用重要性采样的 $L_{vlb}$ 差不多, 损失曲线稍微不稳定一点，所以可以自由选择。

个人觉得第二句话有问题。重要性采样对于 $L_{vlb}$ 确实有效，但是对于 $L_{hybrid}$原文只提到：

We found that the importance sampling technique was not helpful when optimizing the less-noisy Lhybrid objective directly.

就是对噪声较小的混合目标进行优化时候没有用。

但是对噪声大的地方应该也是有用的，所以重要性采样对$L_{hybrid}$也是有效的。

所以训练的时候可以使用 $L_{hybrid}$或者 $L_{vlb}$。

Improving Sampling Speed

we evaluate FIDs for an $L_{hybrid}$ model and an $L_{simple}$ model that were trained with 4000 steps, using 25, 50, 100, 200, 400, 1000, and 4000 sampling steps.

$L_{hybrid}$ model with learnt sigmas maintains high sample quality. With this model, 100 sampling steps is sufficient to achieve near-optimal FIDs for our fully trained models.

本文正在参加「金石计划」