Flow-Matching-Formula

1 推导图

graph LR;
    A[Flow Matching] --> B("条件概率\边际概率")
    A[Flow Matching] --> C("条件速度场\边际速度场")
    A[Flow Matching] --> D("速度调度器变换")
    A[Flow Matching] --> E("高斯路径下边际速度场的参数化(速度\x_0\x_1\score之间的转换)")
    A[Flow Matching] --> F("边际概率的计算(微分同胚\推前映射\变量替换)")
    A[Flow Matching] --> G("条件引导")

2 关键公式推导

2.1 联合概率密度与边际概率密度

• 随机向量 $X, Y$，联合PDF $p_{X,Y}(x,y)$ 满足边际化性质：
  • $p_X(x) = \int p_{X,Y}(x,y) dy$
  • $p_Y(y) = \int p_{X,Y}(x,y) dx$

2.2 条件概率密度与贝叶斯法则

• 条件 PDF 定义：$p_{X \mid Y}(x \mid y) = \frac{p_{X,Y}(x,y)}{p_Y(y)}$（要求 $p_Y(y) > 0$）

2.3 条件概率密度和边际概率密度

• z：样本数据，x：采样数据
• 条件概率路径：$p_{t|Z}(x|z)$（生成 $Z=z$ 时的条件路径）；
• 边际概率路径：$p_t(x) = \int p_{t|Z}(x|z) p_Z(z) dz$；

2.4 条件期望与全期望性质

• 条件期望 $\mathbb{E}[X \mid Y = y] = \int x p_{X \mid Y}(x \mid y) dx$，是“给定 $Y = y$ 时，最小二乘意义下最接近 $X$ 的函数”；
• 全期望性质（Tower Property）：$\mathbb{E}[\mathbb{E}[X \mid Y]] = \mathbb{E}[X]$——多层期望可简化为单层期望，是后续边际速度场推导的关键工具。

全期望性质： 记 $\mu(Y) = \mathbb{E}[X \mid Y]$（给定 $Y$ 时 $X$ 的条件期望），它是 $Y$ 的函数（随机变量）。

• 内层 $\mathbb{E}[X \mid Y]$：对 $X$ 取平均。在 $Y$ 固定为某值 $y$ 时，用条件分布 $p_{X|Y}(x|y)$ 算期望，即 $\mathbb{E}[X \mid Y=y] = \int x\, p_{X|Y}(x|y)\, dx$。因此内层的结果是 $Y$ 的函数 $\mu(Y)$。
• 外层 $\mathbb{E}[\mathbb{E}[X \mid Y]] = \mathbb{E}[\mu(Y)]$：对 $Y$ 取平均。用 $Y$ 的边际分布 $p_Y(y)$ 对 $\mu(y)$ 求期望，即 $\int \mu(y)\, p_Y(y)\, dy$。
• 右边 $\mathbb{E}[X]$：对 $(X,Y)$ 的联合（或等价地对 $X$ 的边际）取平均，即 $\int x\, p_X(x)\, dx = \iint x\, p_{X,Y}(x,y)\, dx\, dy$。

因此：先对 $X$ 在“给定 $Y$”下求期望，再对 $Y$ 求期望，等于直接对 $X$ 求期望；全期望性质说的是“先条件后边际”与“直接边际”一致。

2.5 条件速度场和边际速度场

• 条件速度场：$u_t(x|z)$ 由条件路径 $p_{t|Z}(x|z)$ 唯一确定（满足连续性方程，生成该路径）；线性条件流时为 $u_t(x|z) = \frac{z-x}{1-t}$（从当前 $x$ 指向目标 $z$）；
• 边际速度场：$u_t(x) = \int u_t(x|z)\, p_{Z|t}(z|x)\, dz = \int u_t(x|z)\, \frac{p_{t|Z}(x|z)\, p_Z(z)}{p_t(x)}\, dz = \mathbb{E_z}[u_t(x|Z) \mid X_t=x]$（第二式将后验 $p_{Z|t}(z|x)$ 用贝叶斯展开；末式为条件期望形式，便于理解和计算）。
• 边际速度场具体计算公式: $$u_t(x) \approx \frac{ \sum_{k=1}^K u_t(x\mid z^{(k)}) \cdot \underbrace{p_{t\mid Z}(x\mid z^{(k)})}_{\text{权重}w_k} }{ \sum_{k=1}^K w_k }$$ 其中 $z^{(k)} \sim p_Z(z)$

2.6 微分同胚&推前映射

todo

2.7 条件引导

通过预测score计算速度场：

2.7.1 分类器引导

2.7.2 无分类器引导

$\nabla \log p_{t|Y}(x|y) = \frac{u_t^\theta(x|y) - a_t x}{b_t}$，$\nabla \log p_t(x) = \frac{u_t^\theta(x|\emptyset) - a_t x}{b_t}$。代入上式：