扩散模型变体很多，最稳妥的分类方式是什么？

没有唯一的标准分类法。实用做法是把系统拆成状态/表示空间、概率路径或训练目标、网络主干、采样与蒸馏四个设计轴，再看一篇论文具体改了哪些轴。

Flow Matching 是扩散模型的替代品吗？

Flow Matching 是训练连续归一化流的一般方法，可以使用扩散概率路径，也可以使用其他路径。Rectified Flow 是相关但更具体的路线；把它概括成“把弯曲扩散路径拉直”只适合作为很粗的直觉。

离散扩散适合哪些数据？

当状态本身是类别、序列或图上的离散变量时，可以使用离散转移核或 masking/categorical corruption，而不是直接加入高斯噪声。是否优于自回归模型需要按任务验证。

3D 蛋白和分子生成必须使用等变网络吗？

不应写成绝对规则。SE(3)/E(3) 等变或不变表示是非常有价值的几何归纳偏置，但也可以通过局部坐标系、距离/角度表示或其他几何构造满足所需对称性。

扩散模型第5章：设计轴与现代变体

本章的任务不是再造一个“扩散模型家族树”，而是提供一套拆论文的方法。离散扩散、Flow Matching、DiT、latent diffusion、几何等变网络和少步蒸馏并不处在同一分类层级；它们分别修改数据空间、训练目标、网络或采样过程。

1. 四个设计轴

flowchart TB
M["一个生成模型"] --> A["状态/表示空间"]
M --> B["概率路径与训练目标"]
M --> C["网络主干与对称性"]
M --> D["采样器、步数与蒸馏"]

现代生成系统的四个设计轴

设计轴	需要回答的问题	常见选择
状态 / 表示空间	在哪里加扰动、生成什么变量？	像素、latent、连续坐标、SE(3) frame、类别、序列、图
概率路径 / 训练目标	怎样把数据分布与简单基分布连接起来？	DDPM/score、SDE/ODE、Flow Matching、Rectified Flow
网络主干	用什么函数逼近器，并如何编码对称性？	U-Net、DiT、图网络、E(3)/SE(3) 等变网络
采样 / 蒸馏	推理时怎样沿路径积分或直接映射？	ancestral、DDIM、ODE/SDE solver、consistency/distillation

这是一种阅读框架，不是领域官方 taxonomy。它的价值在于让组合模型可拆解。

2. 轴一：状态空间与扰动过程

连续高斯状态

DDPM 最熟悉的形式是在连续变量上加入高斯噪声。像素、连续 latent 和某些坐标表示都可以落入这类框架，但不同空间的数据尺度和对称性不同，不能简单共用同一噪声调度。

离散状态

氨基酸类别、token、原子类型或图边不是连续坐标。离散扩散因此使用 categorical transition、masking 或 absorbing state 等离散扰动过程。典型工作如 D3PM 把离散状态的前向转移写成可控的马尔可夫核。

离散数据并不意味着必须用离散扩散。ProteinMPNN 是处理离散氨基酸输出的自回归/图消息传递模型；许多 DNA、RNA 和分子生成任务也可以用自回归模型。应该比较约束满足、并行性、编辑能力和样本效率，而不是按数据类型自动选方法。

latent 与几何状态

Latent Diffusion 改的是表示空间：高维观测先由自编码器压缩，再在 latent 中生成。3D 分子与蛋白则需要表示旋转、平移和局部几何；可以直接扩散坐标，也可以扩散 frame、距离或其他几何变量。

3. 轴二：概率路径与训练目标

经典扩散可以从离散 DDPM 或连续 score-SDE/概率流 ODE 等视角理解。Flow Matching 则直接回归一个使给定概率路径成立的速度场：

\mathcal{L}_{FM}=\mathbb{E}_{t,x_t}\|v_\theta(x_t,t)-u_t(x_t)\|^2.

重要的是，Flow Matching 不等于“所有路径都变成直线”。原始 Flow Matching 框架允许一族条件概率路径，并明确包含 diffusion paths；Optimal Transport 条件路径是其中一个重要选择。Rectified Flow 与“让轨迹更直、便于少步积分”的直觉关系更直接。

因此读到 flow、velocity、rectified 这些词时，应先查论文到底定义了什么路径、什么向量场和什么采样 ODE，而不是把它们统一翻译成“新版扩散”。

4. 轴三：网络主干与几何对称性

U-Net 与 DiT

U-Net 长期是图像扩散的主干；DiT 把去噪网络换成 Transformer 风格的 token/patch 处理。主干变化不会自动改变前向噪声过程或概率路径，因此“用了 Transformer”与“用了 Flow Matching”是两个独立决定。

3D 几何模型

如果任务直接生成三维坐标，模型应尊重旋转和平移的物理对称性。E(3)/SE(3) 等变网络是常见方案，但不是唯一方案：局部参考系、距离/角度特征和不变表示也能编码部分或全部对称性。

对于 2D 分子图、SMILES 或蛋白序列生成，则不存在“必须使用 3D 等变网络”的要求。是否需要等变性取决于模型真正生成的状态变量。

5. 轴四：采样器、步数与蒸馏

训练目标和推理算法应分开看。同一个训练好的模型往往可以配不同 sampler；另一方面，一致性模型、progressive distillation、LCM 等方法会改变训练或蒸馏过程，以换取更少的 NFE。

少步不是免费的：当 NFE 减少时，误差来源可能从数值积分转移到蒸馏误差、教师偏差或多样性损失。评价时应同时报告 NFE、延迟和质量，而不是只报“几步生成”。

6. 三个拆解例子

系统	状态空间	路径/目标	主干	采样
Latent Diffusion	自编码器 latent	扩散/score 类目标	常见 U-Net，也可换 Transformer	多种 diffusion sampler
RFdiffusion	蛋白残基 frame/结构变量	结构上的扩散式去噪	几何感知的 RoseTTAFold 派生网络	逐步结构去噪
离散序列扩散	token / 类别	离散 corruption 与反向恢复	Transformer 等	迭代离散去噪

这张表说明同一个模型名称通常同时包含多个设计决定。真正可迁移的知识是“哪个轴被改变、为什么改变”。

7. 读新论文时的最小问题集

看到新模型时先回答：它生成的随机变量是什么；训练目标定义了什么路径或 score；主干是否编码了任务需要的对称性；采样需要多少 NFE；与最接近的基线相比，收益来自哪个轴。只要这五个问题能答清，模型名称本身就不再重要。