第 3 讲 · 得分函数、得分匹配与随机采样 · Score Functions, Score Matching & Stochastic Sampling

对应 Maps to：MIT 6.S184 Generative AI with Stochastic Differential Equations（IAP 2026），Lecture 3-A · 23-Jan-2026 · Score Functions and Score Matching；Lab 2（Flow Matching and Score Matching）的得分匹配部分（2.4、3.2、3.3）。 阅读材料：原课讲义 Holderrieth & Erives, An Introduction to Flow Matching and Diffusion Models（2026 版，arXiv:2506.02070）第 4 章、附录 B（Fokker–Planck 方程的证明）、附录 E（扩散模型文献导读）；Lecture 3 slides；原始论文 Song et al. (2021) Score-Based Generative Modeling through SDEs、Ho et al. (2020) DDPM、Song, Meng & Ermon (2021) DDIM、Vincent (2011)。 依据说明：本讲以原课讲义第 4 章为主线：条件与边缘得分、换算公式、SDE 扩展技巧、Fokker–Planck 方程、朗之万动力学、去噪得分匹配；§7 依据原课讲义附录 E 的文献导读，把 DDPM、时间反演、概率流 ODE、DDIM 翻译成本课的语言。“Tweedie 公式""得分匹配损失的期望发散""四种参数化 = 四种加权""SDE 采样能否纠正训练误差（多批噪声重复）""DDPM 祖先采样的方差偏小""CondOT 上 DDIM 就是欧拉法”等实验和讨论是本讲义补充的；其中有几处结果与常见说法不一致（§6、§7.5），如实报告。 配套代码 Code：code/lecture03/（7 个脚本 + 1 个模块；PyTorch + matplotlib；每个脚本 1–26 秒，都完整运行过） 预计阅读时间：5 小时（含运行代码）

0. 本讲导航 · How to read this lecture

0.1 学习目标 Learning goals

学完这一讲，你应该能够：

1. 写出高斯路径的条件得分 $\nabla\log p_t(x\mid z) = -\epsilon/\beta_t$，证明边缘得分是条件得分的后验平均，并用 Tweedie 公式把得分和”最优去噪器”联系起来。
2. 推导换算公式：对高斯路径，边缘向量场和边缘得分可以互相换算；说清四种参数化（速度、噪声、数据、得分）各自在哪一端会把误差放大。
3. 陈述 SDE 扩展技巧，并用 Fokker–Planck 方程证明它；知道修正项的系数为什么必须是 $\frac12$，朗之万动力学为什么是它的特例。
4. 推导去噪得分匹配损失，解释朴素的版本为什么在 $t\to1$ 时失效、“预测噪声”为什么是正确的加权；理解”四种参数化 = 同一个回归目标的四种加权”。
5. 判断什么时候值得用 SDE 采样，并能用实验（而不是一次采样）说明它有没有帮助。
6. 读懂扩散模型文献：把 DDPM 的前向链、时间反演 SDE、概率流 ODE、DDIM、VP / VE 调度翻译成本课的概率路径和向量场。

0.2 先修与本讲范围

本讲只讲无条件生成；按提示生成（引导）是第 4 讲。

0.3 本讲地图 Map

§1  得分函数：条件得分、边缘得分、Tweedie 公式、为什么沿路径学         ← 代码 01
§2  换算公式：学向量场 = 学得分；四种参数化与误差放大                    ← 代码 02
§3  SDE 扩展技巧：同一条概率路径，无穷多个 SDE                          ← 代码 03
§4  Fokker–Planck 方程：连续性方程 + 热方程；扩展技巧的证明；朗之万      ← 代码 04
§5  去噪得分匹配：损失、方差爆炸、预测噪声、四种加权                     ← 代码 05
§6  为什么还要 SDE？——网络有误差时的实验                                 ← 代码 06
§7  文献导读：DDPM、时间反演、概率流 ODE、DDIM、VP / VE                   ← 代码 07
§8  小结   §9  常见误区   §10 练习   §11 延伸阅读   §12 下一讲预告

0.4 记号 Notation（新增的部分）

0.5 一张总图：在流匹配矩阵上加一行

第 2 讲的流匹配矩阵有”概率路径 / 向量场 / 损失”三列。本讲给它加上得分这一行：

结构和第 2 讲完全一样：边缘得分是条件得分的后验平均，对条件得分做回归就等于对边缘得分做回归。本讲的新东西在于得分有什么用（让我们能用 SDE 采样）、得分和向量场是什么关系（对高斯路径可以互相换算），以及扩散模型的文献怎样对应到这张表。

1. 得分函数 · Score functions

1.1 为什么需要得分

第 1 讲 §5.4 做过一个实验：给理想的流模型直接加噪声，样本被吹散（峰内散度 2.11，17% 落在峰之间）；在漂移里加上 $\frac{\sigma_t^2}{2}\nabla\log p_t$ 之后，$\sigma = 0.5, 1, 2$ 都重新得到正确的分布。那里的 $\nabla\log p_t$ 是我们提前算好的。要在真实数据上做同样的事，就得学出 $\nabla\log p_t$。

$\nabla\log p_t(x)$ 叫做 $p_t$ 的得分函数（score function，P1 §2.5）。它是一个向量场，指向”对数密度上升最快的方向”。对一个高斯 $\mathcal{N}(\mu, \sigma^2 I)$，得分是 $-(x - \mu)/\sigma^2$：一个指向均值、长度与距离成正比的箭头。

问题和第 2 讲一模一样：$p_t$ 是边缘概率路径，它的得分算不出来（$p_t$ 本身都算不出来）。解法也一模一样：先看条件版本。

1.2 条件得分：指向条件均值的箭头

高斯条件路径 $p_t(\cdot\mid z) = \mathcal{N}(\alpha_t z, \beta_t^2 I)$ 的得分是

在训练用的点 $x = \alpha_t z + \beta_t\epsilon$ 处，它化简成

知道了条件得分，就知道了加进去的噪声（差一个因子 $-\beta_t$）。“去噪”扩散模型这个名字就是这么来的：学得分，本质上是在学”这张带噪的图里加了什么噪声”。

01 号脚本第 1 部分固定 $z = (2, 1)$，用 20 万个样本核对这个公式（与 autograd 对 $\log\mathcal{N}$ 求导的差在 $3\times10^{-14}$ 以内，与 $-\epsilon/\beta_t$ 的差在 $3\times10^{-12}$ 以内），并测量它的大小：

$t\to 1$ 时条件路径收缩成 $\delta_z$，它的得分按 $1/\beta_t^2$ 爆炸。§1.5 和 §5 会看到，这是”朴素的得分匹配”失败的根源。

1.3 边缘得分 = 条件得分的后验平均

命题（原课讲义第 4 章）：

证明只有一行。$p_t(x) = \int p_t(x\mid z)p_{\text{data}}(z)dz$，对 $x$ 求梯度可以和积分交换：

和第 2 讲的边缘化技巧对照：那里是”边缘向量场 = 条件向量场的后验平均”，这里是”边缘得分 = 条件得分的后验平均”，后验是同一个 $p(z\mid x_t = x)$。

01 号脚本第 2 部分用 $m$ 个数据样本做后验加权平均（权重 $\propto \mathcal{N}(x;\alpha_t z_i,\beta_t^2 I)$，和第 2 讲 03 号脚本一样），与闭式的边缘得分比较（“有效样本量”衡量后验有多集中）：

$t$ 越接近 1，后验越尖（只有一两个数据点”像”是 $x$ 的来源），而且每个条件得分本身按 $1/\beta_t^2$ 放大：$t = 0.95$ 时即使用一百万个样本，误差（10.4）仍然大于得分本身的长度（8.6）。直接用数据平均行不通，要靠网络去学，这一点和边缘向量场一样。

1.4 Tweedie 公式：得分指向去噪结果

把条件得分 $-(x - \alpha_t z)/\beta_t^2$ 对后验取平均，$z$ 换成 $\mathbb{E}[z\mid x_t = x]$：

这就是统计学里的 Tweedie 公式（Robbins 1956；Efron 2011 的综述）。它说：

• 得分指向去噪结果：从 $x$ 出发，沿得分走 $\beta_t^2$ 倍的长度，就到了 $\alpha_t\hat z$（“把噪声去掉后，这张图应该在的位置”，再按 $\alpha_t$ 缩放）。
• 学会得分 = 学会最优去噪器。P1 §4.5 讲过，均方误差意义下的最优去噪器就是后验均值 $\mathbb{E}[z\mid x_t]$。

01 号脚本第 2 部分用闭式的后验均值核对：$t = 0, 0.3, 0.7, 0.95$ 时 Tweedie 公式与闭式得分的最大差都在 $4\times10^{-13}$ 以内。两端：$t = 0$ 时 $p_0 = \mathcal{N}(0, I)$，得分就是 $-x$；$t = 1$ 时 $p_1 = p_{\text{data}}$，得分就是数据分布的得分（此时 $\beta = 0$，公式不适用，但极限成立）。

（前三张：$t = 0.3, 0.7, 1$ 时的边缘得分，箭头长度已压缩、只看方向；$t = 0.3$ 时五个峰还连成一团，得分几乎处处指向中心。最后一张：$t = 0.5$ 时，每个样本 $x$ 指向 $\alpha_t\mathbb{E}[z\mid x]$ 的箭头，也就是 $\beta_t^2$ 倍的得分。）

1.5 大小：条件得分的不可约方差

01 号脚本第 3 部分比较条件得分和边缘得分的均方大小：

（$t = 0$ 处 $C'$ 理论上为 0，表里的 $-0.0016$ 是蒙特卡洛误差。）

边缘得分始终有限：$t\to1$ 时约为 $d/0.4^2 = 12.5$，由数据峰的宽度决定。条件得分却按 $d/\beta_t^2$ 爆炸。两者之差

就是第 2 讲定理 12 里那个常数的得分版：对条件得分做回归时，损失降不下去的那部分（P1 §4.3 的均方误差分解）。

麻烦在于：如果 $t$ 在 $[0, 1]$ 上均匀采样，$\int_0^1 C'(t)\,dt$ 发散（$\int 2/(1-t)^2\,dt = \infty$）。就算像代码那样把 $t$ 限制在 $[0, 1 - 10^{-4}]$，期望也有 $\int_0^{1-10^{-4}} 2/(1-t)^2dt \approx 2\times10^4$，而且几乎全部来自 $t$ 最接近 1 的那一小段。表的最后一列给出了出路：乘上权重 $\beta_t^2$ 之后，地板 $\beta_t^2 C'(t)$ 始终不超过 $d = 2$。§5 会把这一点变成训练算法。

1.6 为什么要沿着一条加噪的路径学得分

能不能只学数据分布本身的得分 $\nabla\log p_{\text{data}}$，然后用第 1 讲的朗之万动力学采样？第 1 讲已经看到这样会分错峰的权重。01 号脚本第 4 部分给出另一个原因：采样时粒子待在哪里。

生成过程的前半段，绝大部分粒子都在 $p_{\text{data}}$ 几乎为 0 的地方：那里没有一个训练样本，$\nabla\log p_{\text{data}}$ 在那里学得再差也不会在损失里体现出来。而 $p_t$ 在粒子所在之处从来不小：训练时 $x_t \sim p_t$ 的样本恰好覆盖了采样时粒子会去的地方。

Song & Ermon（2019，NCSN）正是因为这个原因提出”在多个噪声水平上学得分”，再用”退火的朗之万动力学”从大噪声走到小噪声。本课的概率路径把”多个噪声水平”连成了一条连续的路径，“退火”变成了”沿着路径走”。

📌 代码 01：python3 01_score_functions.py（约 1 秒）。

2. 换算公式：学向量场 = 学得分 · The conversion formula

2.1 推导

对高斯路径，边缘向量场和边缘得分都是同一个后验下的期望（第 2 讲 §3.2；本讲 §1.3）：

其中 $\hat z = \mathbb{E}[z\mid x_t = x]$，$\hat\epsilon = \mathbb{E}[\epsilon\mid x_t = x]$。再对 $x = \alpha_t z + \beta_t\epsilon$ 两边取条件期望，得到 $x = \alpha_t\hat z + \beta_t\hat\epsilon$。三个线性关系、两个未知数 $(\hat z, \hat\epsilon)$，消去它们就得到换算公式（原课讲义第 4 章）：

对 CondOT（$\alpha_t = t$，$\beta_t = 1 - t$）：

同一个公式对条件版本也成立（把 $u_t(x)$、$\nabla\log p_t(x)$ 换成 $u_t(x\mid z)$、$\nabla\log p_t(x\mid z)$，对照第 2 讲的式 (20) 即可验证）。

含义：对高斯路径，学会了向量场就学会了得分，反之亦然。原课讲义因此说，流匹配模型可以直接当扩散模型的得分来用，训练其中一个就够了。02 号脚本第 1 部分用闭式的 $u_t$ 和 $\nabla\log p_t$ 核对，四种调度在 5 个时刻 × 4000 个点上的最大相对差：CondOT $7.6\times10^{-15}$，SqrtBeta $1.9\times10^{-14}$，Cosine $6.6\times10^{-15}$，VP（DDPM 的连续版，§7）$1.1\times10^{-13}$。

2.2 四种参数化

既然 $u$、$\hat z$、$\hat\epsilon$、$\nabla\log p_t$ 在给定 $(x, t)$ 时可以互相换算，网络输出哪一个都行。文献里四种都有人用：

代码里的 score_lib.convert 实现了全部换算。理论上四者等价；实践中它们有两个重要区别：换算会在某一端放大误差（本节），以及损失在不同时刻的权重不同（§5.3）。

2.3 换算会放大误差，而且在不同的一端

假设网络的输出有一个小误差 $\delta$。换算成速度后，误差变成多大？02 号脚本第 2 部分算出放大倍数 $|\partial\hat u/\partial(\text{输出})|$：

CondOT 路径

VP 路径（DDPM 的连续版）

读法：

• 预测噪声，在噪声那一端出问题（CondOT：放大 $1/t$）。直觉：$t = 0$ 时 $x_0 = \epsilon$，“加了什么噪声”一眼就能看出，网络只需输出 $\hat\epsilon\approx x$；但这个输出几乎不含任何关于数据的信息，要从中解出 $\hat z = (x - \beta_t\hat\epsilon)/\alpha_t$ 就得除以 $\alpha_t\approx 0$。
• 预测数据，在数据那一端出问题（放大 $1/(1-t)$）：要解出噪声得除以 $\beta_t\approx 0$。
• 预测速度处处是 1，没有奇点。
• VP 路径几乎没有”噪声端”的问题：预测噪声的放大倍数最多约 10。原因是 VP 在噪声端 $\dot\alpha_t/\alpha_t = g/2 \le 10$ 有界——路径在那里几乎不动（$\dot\alpha$ 和 $\alpha$ 一起趋于 0），抵消了除以 $\alpha$ 的放大。CondOT 的 $\alpha_t$ 从 0 线性起步（$\dot\alpha = 1$），才会发散。这解释了为什么 DDPM 时代用”预测噪声”没有出大问题。

不过 VP 的去噪结果 $\hat z$ 本身仍然要除以 $\alpha_0\approx 0.0066$。Lin et al.（2024）指出，如果把 VP 调度的终点改成真正的纯噪声（$\alpha_0 = 0$，“零终点信噪比”），$t = 0$ 处预测噪声就毫无信息，$\hat z$ 无从解出，于是改用速度类的参数化（v-prediction，Salimans & Ho 2022）。今天的大模型（SD3、FLUX、Movie Gen）几乎都用 CondOT + 速度预测。选择它的理由不止一个（SD3 论文做了大规模的比较），但”没有噪声端的奇点”是速度参数化的好处之一。

2.4 把流匹配模型换算成得分

原课 Lab 2 有一个练习：把训练好的流匹配模型（预测速度）包装成得分模型（ScoreFromVectorField），再拿去做 SDE 采样。02 号脚本第 3 部分训练一个速度模型（3000 步，约 3 秒），按 $\hat s = (t\hat u - x)/(1-t)$ 换算：

速度的误差在各时刻都差不多（0.05–0.25），换算成得分后却天差地别：$t = 0.99$ 时速度误差被放大近一万倍，得分的相对误差是 190 倍。$t = 0$ 处换算出的得分恰好是 $-x$，与网络无关。换算在理论上精确，在实践中有代价：用流模型换算出的得分做 SDE 采样时，$\sigma_t$ 在 $t\to1$ 附近必须变小（§6 会看到不这样做的后果）。

📌 代码 02：python3 02_conversion_formula.py（约 4 秒）。

3. SDE 扩展技巧 · The SDE extension trick

3.1 定理

SDE 扩展技巧（原课讲义第 4 章）。设 $u_t$ 是边缘向量场（它的 ODE 沿概率路径 $p_t$ 走），$\sigma_t \ge 0$ 是任意的扩散系数。那么 SDE

对所有 $t\in[0, 1]$ 都满足 $X_t \sim p_t$。特别地，$X_1 \sim p_{\text{data}}$。

直觉上可以这样理解三个部分：

• $u_t$ 负责搬运：它让粒子云的形状按 $p_t$ 变化（第 2 讲）；
• 噪声 $\sigma_t dW_t$ 负责摊开：它让粒子云扩散，像墨水在水里化开；
• 修正项 $\frac{\sigma_t^2}{2}\nabla\log p_t$ 负责收拢：它沿得分方向把粒子往高密度处推，推的力度恰好抵消噪声的摊开。

修正项和第 1 讲朗之万动力学的漂移 $\frac{\sigma^2}{2}\nabla\log p$ 形式完全相同，只是把固定的 $p$ 换成了随时间变化的 $p_t$。§4 会用 Fokker–Planck 方程把”恰好抵消”变成一行等式。

这意味着同一条概率路径可以由一个 ODE 和无穷多个 SDE 实现。训练只需要学 $u_t$（或 $\nabla\log p_t$，两者可以换算），采样时 $\sigma_t$ 可以随意选。

3.2 每个时刻都在 $p_t$ 上

03 号脚本用理想场（闭式的 $u_t$ 和 $\nabla\log p_t$）验证定理，以排除训练误差。第 1 部分让 $\sigma$ 从 0 到 4，欧拉–丸山 1000 步，在中途各时刻比较粒子与 $p_t$（能量距离；噪声地板是两批真样本之间的距离）：

全部在噪声地板内。扩展技巧保证的是整条路径，不只是终点。

3.3 系数必须恰好是 1/2

如果把修正项写成 $c\,\sigma_t^2\nabla\log p_t$，$c$ 取别的值会怎样？03 号脚本第 2 部分（$\sigma = 1$，1000 步）：

$c < \frac12$ 修正不足，噪声把峰”吹胖”；$c > \frac12$ 修正过头，峰被”压瘦”。（注意 $c = 0.75$ 时能量距离很小，但散度只有 0.83：能量距离对”峰的宽度”不太敏感，又一次说明评估要看多个指标。）§4 的 Fokker–Planck 方程会精确地解释这张表：净效果是 $(\frac{\sigma^2}{2} - c\,\sigma^2)\Delta p$。

3.4 步数与 $\sigma$：离散化误差

定理说的是连续时间。实际用欧拉–丸山法模拟时步数有限，$\sigma$ 的选择就有影响了。03 号脚本第 3 部分（$t = 1$ 时的能量距离 / 峰内散度）：

两个现象：

1. 适中的噪声在步数少时反而比 ODE 好。$n = 10$ 时 ODE 的峰内散度是 1.07（欧拉法的离散化误差让峰变模糊），$\sigma = 1$ 和 $\sigma_t = 2(1-t)$ 的能量距离只有 0.001。修正项像朗之万动力学一样把粒子往 $p_t$ 的高密度处拉，顺带纠正了一部分离散化误差。Song et al.（2021）的”预测–校正”（predictor–corrector）采样器就是把这个想法做成显式的两步：先用 ODE / SDE 走一步（预测），再在固定的 $t$ 上做几步朗之万动力学（校正）。
2. 噪声太大就失稳。$\sigma = 4$、$n = 10$ 时完全失败（能量距离 45）。修正项 $\frac{\sigma^2}{2}\nabla\log p_t$ 在 $t\to1$ 时很大：峰的标准差只有 0.4，得分的尺度约 $1/0.16$，乘上 $\sigma^2/2 = 8$ 后每单位时间要把粒子拉动几十个单位，步长 $h = 0.1$ 时一步就”冲过头”。这在数值分析里叫刚性（stiffness）。让噪声在终点附近关掉就没有这个问题：把 $\sigma = 4$ 改成 $\sigma_t = 4(1-t)$，$n = 10$ 时能量距离是 0.010（练习 6）。

扩散模型的实际采样器几乎都让噪声随时间变化，而不是用常数 $\sigma$。

3.5 SDE 会”忘掉”起点

ODE 是确定性的：起点决定终点。SDE 呢？03 号脚本第 4 部分从同一批起点出发，统计 SDE 的终点和 ODE 的终点落在同一个峰的比例：

如果终点和起点完全无关，同峰的比例是 $\sum_k w_k^2 = 24.6\%$；$\sigma = 4$ 时已经接近这个水平。

分布一样，但”哪个起点去哪里”的配对完全不同。这带来两个后果：

• ODE 的确定性很有用：同一个噪声永远生成同一个样本，所以可以做”在噪声空间里插值""把一张真实图片反演回噪声再编辑”等操作。
• SDE 的遗忘也很有用：早期走错的粒子还有机会被纠正（§6）；SDEdit（Meng et al. 2022）这类图像编辑方法正是利用这一点，给一张草图加噪声到中间时刻，再用 SDE 去噪，让模型”忘掉”草图的细节、只保留大致布局。

3.6 朗之万动力学是特例

取一条不随时间变化的概率路径 $p_t \equiv p$。此时 $u_t \equiv 0$ 就满足连续性方程（粒子云不需要变化），扩展技巧给出

这正是第 1 讲的朗之万动力学，$p$ 是它的平稳分布。原课讲义提到，朗之万动力学在分子动力学模拟、贝叶斯推断里广泛使用，它在一定条件下会从任意起点收敛到 $p$，但收敛可能很慢（第 1 讲五峰的例子分错了权重）。扩散模型沿着一条从简单到复杂的路径 $p_t$ 走，避开了”在多个分得很开的峰之间重新分配质量”的难题。

📌 代码 03：python3 03_sde_extension_trick.py（约 20 秒）。

4. Fokker–Planck 方程 · The Fokker–Planck equation

4.1 从连续性方程到 Fokker–Planck 方程

第 2 讲用连续性方程刻画 ODE：粒子沿 $v_t$ 走，密度 $q_t$ 满足

右边是”单位体积的净流入”：漂移把质量从一处搬到另一处，总量守恒（P1 §5.2 的散度）。

SDE 多了一个噪声项。先看最简单的情形：没有漂移，$dX_t = \sigma\,dW_t$。一群粒子各自做布朗运动，它们的密度怎样变化？从一个点出发，$t$ 时刻的分布是 $\mathcal{N}(0, \sigma^2 t I)$，密度 $q_t$ 满足热方程

P1 §5.3 讲过拉普拉斯算子的直觉：$\Delta q(x)$ 衡量”$x$ 周围的平均值比 $x$ 处高多少”。峰顶的 $\Delta q < 0$（周围比中心低），所以峰顶的密度下降；峰的边缘 $\Delta q > 0$，密度上升。噪声把尖的东西摊平，就像热量从热处流向冷处。

把两者加起来，就是 Fokker–Planck 方程。

定理（Fokker–Planck 方程，原课讲义第 4 章，证明见附录 B）。设 $X_0\sim q_0$，$dX_t = v_t(X_t)dt + \sigma_t dW_t$，那么 $X_t$ 的密度 $q_t$ 满足

反过来，如果某条概率路径 $q_t$ 满足这个方程且 $q_0$ 匹配，那么 SDE 的分布就是 $q_t$。第一项是连续性方程（漂移搬运），第二项是热方程（噪声摊开）。$\sigma_t = 0$ 时就退化成第 2 讲的连续性方程。

证明的思路（附录 B，只写直觉）：取一个光滑的”测试函数” $f$，看 $\mathbb{E}[f(X_t)]$ 怎样随时间变化。泰勒展开到二阶，漂移贡献 $\nabla f\cdot v_t\,h$，噪声的一阶项期望为 0、二阶项贡献 $\frac{\sigma_t^2}{2}\Delta f\,h$（因为 $\mathbb{E}[(\Delta W)^2] = h$，布朗运动的增量是 $\sqrt h$ 量级，平方后才是 $h$ 量级——这就是第 1 讲 §4 的”二次变差”）。于是

左边写成 $\int f\,\partial_t q_t$，右边对 $q_t$ 做分部积分（P1 §5.4），把导数从 $f$ 挪到 $q_t$ 上，就得到 $\int f\,[-\nabla\cdot(q_t v_t) + \frac{\sigma_t^2}{2}\Delta q_t]$。对所有 $f$ 都成立，两个被积式就相等。严格的版本要用伊藤公式（Itô’s formula），参考 Øksendal 的 Stochastic Differential Equations 第 7–8 章。

4.2 扩展技巧的证明

把扩展 SDE 的漂移 $v_t = u_t + \frac{\sigma_t^2}{2}\nabla\log p_t$ 代入 Fokker–Planck 方程的右边，并用 $q_t = p_t$：

关键是一个恒等式：$p\nabla\log p = p\cdot\frac{\nabla p}{p} = \nabla p$，所以

后两项恰好抵消，只剩 $-\nabla\cdot(p_t u_t)$，而它等于 $\partial_t p_t$（$u_t$ 满足连续性方程，第 2 讲）。所以 $p_t$ 满足扩展 SDE 的 Fokker–Planck 方程，扩展 SDE 的分布就是 $p_t$。证毕。

“沿得分方向的漂移”等于”反向的扩散”：修正项把质量往高密度处搬，搬运的净效果 $-\frac{\sigma^2}{2}\Delta p$ 恰好是噪声 $+\frac{\sigma^2}{2}\Delta p$ 的相反数。如果系数是 $c$ 而不是 $\frac12$，净效果就是 $(\frac12 - c)\sigma^2\Delta p$：$c < \frac12$ 相当于多扩散，$c > \frac12$ 相当于”反扩散”（把峰压尖），正是 §3.3 那张表。

4.3 数值核对

04 号脚本在一维网格上（$dx = 0.005$）用有限差分逐项计算。数据是三个宽窄、权重都不同的峰，路径是 CondOT。残差是相对于 $\lVert\partial_t p\rVert$ 的大小：

前三列都在 $10^{-4}$ 量级以下，是有限差分本身的误差；最后一列是 $O(1)$ 的：只加噪声时多出来的 $\frac{\sigma^2}{2}\partial^2 p$ 没有东西抵消。

粒子层面（第 3 部分）：10 万个一维粒子，欧拉–丸山 1000 步，$\sigma = 1.5$。加修正项时，$t = 1$ 的直方图与 $p_1$ 的总变差距离是 0.010；不修正时是 0.410，三个峰都被摊宽、峰之间被填满，还有 6.3% 的粒子跑出了 $[-4.5, 4.5]$。Fokker–Planck 方程说的正是”无穷多个粒子的直方图怎样随时间演化”，方程层面和粒子层面是同一件事的两种写法。

4.4 朗之万动力学的平稳性

04 号脚本第 2 部分：对 $p$ 自己，朗之万动力学 $dX = \frac{\sigma^2}{2}\partial\log p\,dt + \sigma\,dW$ 的 Fokker–Planck 右边是

数值上 $\sigma = 0.5, 1, 2$ 时的相对大小都是 $6\times10^{-5}$（有限差分误差）：$\partial_t p = 0$，$p$ 是平稳分布。换一个分布（比如 $\mathcal{N}(0, 1)$）、漂移仍用 $p$ 的得分，右边的相对大小是 12.1：分布还会继续变化。

📌 代码 04：python3 04_fokker_planck.py（约 14 秒）。

5. 去噪得分匹配 · Denoising score matching

5.1 得分匹配损失与条件得分匹配损失

和第 2 讲完全平行。我们想让网络 $s_t^\theta(x)$ 逼近边缘得分：

命题：$\mathcal{L}_{\text{CSM}}(\theta) = \mathcal{L}_{\text{SM}}(\theta) + C'$，$C' = \mathbb{E}_t[C'(t)]$ 与 $\theta$ 无关，所以两者的梯度相同。证明和第 2 讲定理 12 一字不差：条件得分在 $x_t$ 给定时的条件期望是边缘得分（§1.3），再用 P1 §4.3 的均方误差分解。

这个想法叫去噪得分匹配（denoising score matching，Vincent 2011）。更早的 Hyvärinen（2005）的”得分匹配”用分部积分把 $\mathcal{L}_{\text{SM}}$ 化成只含 $s^\theta$ 及其散度的形式，但散度在高维里很贵（P2 §2.4）；去噪版本只需要条件得分，后者有公式。

5.2 朴素的版本为什么不行

代入高斯路径的条件得分 $-\epsilon/\beta_t$：

§1.5 已经算过：回归目标 $-\epsilon/\beta_t$ 的方差 $d/\beta_t^2$ 在 $t\to1$ 时爆炸，常数 $C'$ 是无穷大。实践中会怎样？05 号脚本第 1 部分训练了五个模型（同样的 MLP、数据、路径、5000 步），再在一批固定的 20 万个 $(z, t, \epsilon)$ 上，按时间段统计训练好的模型的损失份额：

时间段 $[0.99, 1)$ 只占全部样本的 1%，朴素得分匹配的损失却有 98.5% 来自这里，批与批之间的损失相差上百倍（取决于一个批里有没有抽到 $t$ 极接近 1 的样本）。它的梯度几乎只在学”最后一刻”。更糟的是，§5.4 会看到它连”最后一刻”也没学好。

5.3 解决办法：加权，也就是”预测噪声”

给损失乘上权重 $\lambda(t) = \beta_t^2$：

这就是 DDPM 的损失（Ho et al. 2020 的 $L_{\text{simple}}$）：网络预测加进去的噪声。加权不改变最优解（每个 $t$ 上的最优 $s_t^\theta$ 仍是边缘得分，因为加权只是给不同 $t$ 的子问题乘了一个正数），只改变”不同时刻在损失里有多重要”，以及梯度的方差。表里”得分 $s$（权重 $\beta^2$）“和”噪声 $\epsilon$“两行几乎一模一样（0.922 vs 0.925），它们是同一个损失。

原课讲义的 Algorithm 4（高斯路径的得分匹配训练）就是这个：

Algorithm 4  得分匹配训练（高斯路径，预测噪声）
for 每个小批量：
    抽 z ~ p_data，t ~ Unif[0, 1]，ε ~ N(0, I)
    x ← α_t z + β_t ε
    L(θ) ← ‖ε^θ_t(x) − ε‖²          （等价地：β_t² ‖s^θ_t(x) + ε/β_t‖²）
    θ ← 梯度更新(L(θ))
采样时：s^θ_t(x) = −ε^θ_t(x)/β_t，再按换算公式得到 u，用 ODE 或扩展 SDE 生成

更一般地：四种参数化 = 四种加权。在给定 $(x, t)$ 时，四种输出都由”隐含的噪声估计” $\hat\epsilon$ 决定（§2.2）。对 CondOT，把每种损失都写成 $\lVert\hat\epsilon - \epsilon\rVert^2$ 的倍数：

（推导：CondOT 下 $\hat u = (x - \hat\epsilon)/t$，而目标 $z - \epsilon = (x - \epsilon)/t$，相减得 $(\epsilon - \hat\epsilon)/t$；其余同理，练习 4。）这张表正好解释了上一张表的损失份额：速度和数据的权重在 $t\to0$ 时变大，它们的损失集中在 $t < 0.5$；朴素得分的权重在 $t\to1$ 时爆炸。Kingma & Gao（2023）系统地论证了：扩散模型的各种训练目标，都可以看成同一个目标在不同 $\lambda(t)$ 下的加权。网络容量无限时它们的最优解相同；容量有限时，权重决定了网络把”精力”花在哪里。

5.4 训练出来的模型：哪里准、哪里差

05 号脚本第 2 部分把五个模型都换算成速度和得分，按时刻与理想场比较（相对误差 = 均方误差 / 理想值的均方大小）：

换算成速度

换算成得分

规律和 §2.3 的放大倍数表一致：每种参数化在自己放大倍数小的地方准，在放大倍数大的地方差。噪声和加权得分模型换算成速度后，$t = 0.01$ 处误差是理想值的 25–46 倍；数据模型在 $t = 0.99$ 处差；速度模型的速度误差处处在 2% 以内，但换算成得分后在 $t = 0.99$ 处是 71 倍。$t\ge 0.9$ 时得分最准的是加权得分模型。

朴素得分模型在所有时刻都失败：前段和中段几乎没有得到训练（误差 50–100%）；它全力以赴的 $t\approx1$ 处，条件目标的噪声（量级 $d/\beta_t^2 \ge 2\times10^4$）完全淹没了信号（边缘得分的均方大小约 12.5），误差仍有 150%。§1.5 说的”损失的期望发散”，在训练中就是这个样子。

第 3 部分把五个模型都换算成速度、用欧拉法 100 步采样（同一批噪声）：

速度模型最好。噪声模型和加权得分模型明显更差：欧拉法的第一步正好在 $t = 0$，换算要除以一个很小的 $t$（代码把它夹到 $\ge 0.001$），网络在那里的一点点误差被放大成一大步。值得注意的是，这两个模型的损失相同，样本质量却差了五倍：它们输出的量不同、学到的函数也不同，$t\approx0$ 处那一点差别被换算放大了。数据模型的峰偏胖（散度 1.24），因为最后几步要除以 $1 - t$。

这个实验的教训：在 CondOT 路径上用欧拉法采样时，速度参数化是最自然的选择。DDPM 时代用噪声参数化没有出大问题，一是因为 VP 路径在噪声端的放大有界（§2.3），二是因为它用专门的采样器（§7 的 DDIM / DDPM），而不是”换算成速度再用欧拉法”。

📌 代码 05：python3 05_denoising_score_matching.py（约 25 秒；--quick 是几秒钟的冒烟测试）。

6. 为什么还要 SDE？ · Why bother with SDEs?

6.1 网络有误差时的实验

§3 说明：理想场下所有 $\sigma$ 都对，差别只在离散化误差。原课 slides 给出用 SDE 采样的理由：真实的网络有训练误差，适量的噪声有时能纠正这些误差；但 slides 同时强调，ODE 采样往往就能得到最好的结果。06 号脚本用训练 500 / 1500 / 5000 步的速度模型检验这一点（欧拉–丸山 100 步；单元格 = 能量距离 / 落在峰之间 / 峰内散度）。

第 1 部分：得分由速度模型换算而来

第 2 部分：修正项改用单独训练的得分模型（§5 的加权版本，5000 步）

看起来 SDE 采样大多更好。但能量距离的噪声地板约 $\pm0.002$，很多差别只有地板的几倍。第 3 部分换 3 批噪声重复（速度模型 5000 步；能量距离 / 落在峰之间）：

结论比第一眼保守得多：

1. 同一个模型，换一批噪声，能量距离就能从 0.001 变到 0.010。单次采样里 0.005 以内的差别都不可靠。（这是写这一节时踩过的坑：第一版只用了一批噪声，得出”SDE 明显更好”的结论。）
2. 得分从速度模型换算而来时，SDE 采样没有可靠的改进（平均 0.0047 vs 0.0043）。换算得分没有带来新的信息，它的误差和速度的误差是同一个来源。
3. 单独训练的得分模型略有帮助（平均 0.0016），训练不充分时”落在峰之间”的比例也明显下降（500 步：2.4% → 1.2%）。但这个比较不完全公平：得分模型训练了 5000 步，SDE 的改进有一部分是”借用”了一个更好的网络。
4. 常数 $\sigma$ 配换算得分会出错，而且错得很有特点：峰被”压瘦”到散度 0.41–0.72。换算得分在 $t\to1$ 时误差被放大 $t/(1-t)$ 倍（§2.4），终点附近噪声不关，这个放大了的误差就直接进入漂移。$\sigma_t$ 在终点附近趋于 0，是用流模型做 SDE 采样的前提。

6.2 文献怎么说

大规模图像模型上的结论也不统一。Karras et al.（2022，EDM）系统地研究了采样器，发现随机性对一些模型有帮助、对另一些没有，而且噪声的量需要仔细调；Ma et al.（2024，SiT）在同一个网络上比较 ODE 和 SDE 采样，报告合适的 SDE 采样能略好一些。原课 slides 的总结是：

• 理论上所有 $\sigma_t$ 等价；
• 实践中有训练误差和离散化误差，适量的随机性有时能纠正它们；
• 另有一些下游应用需要随机的演化，例如用奖励函数微调扩散模型、推理时搜索（需要在中途”分叉”出多条轨迹）；
• 但ODE 采样往往就能得到最好的结果，而且是确定性的（可以反演、编辑、插值，§3.5）。

本讲的实验与此一致。原课讲义还提到一个较新的方向（GLASS flows）：设法用 ODE 实现 SDE 那样的随机转移，兼顾两者的长处，有兴趣可以读原课讲义的相应部分。

📌 代码 06：python3 06_sde_vs_ode_with_errors.py（约 19 秒；--quick 是冒烟测试）。

7. 文献导读 · A guide to the diffusion literature

原课讲义附录 E 专门写了一份”扩散模型文献导读”，因为论文里的记号五花八门，初学者很容易迷路。这一节把主要的写法翻译成本课的语言，并用 07 号脚本做数值核对。

7.1 时间方向

换算只需 $s = 1 - t$。读论文时第一件事就是弄清楚它用的是哪个方向。