ODE

ODE 是什么

ODE 是 Ordinary Differential Equation，中文通常叫 常微分方程。

它研究的是：

一个未知函数怎样随着某个变量变化，并且这种变化率满足某个方程。

最常见的形式是：

$$\frac{dx}{dt}=f(t,x).$$

这里，$x=x(t)$ 是未知函数，$t$ 是自变量，$\frac{dx}{dt}$ 表示 $x$ 对 $t$ 的导数，也就是“变化率”。

这条式子可以读成：

在每个时刻 $t$，变量 $x$ 变化得多快，由当前的 $t$ 和当前的 $x$ 一起决定。

比如：

$$\frac{dx}{dt}=3x$$

表示“当前值越大，增长越快”；

而

$$\frac{dx}{dt}=-2x$$

表示“当前值越大，下降也越快”。

TIP

ODE 不是直接告诉你“$x$ 是多少”，而是告诉你“$x$ 该怎么变”。

“常微分”

关键在“常”这个字。

常微分方程里，未知函数只依赖 一个自变量。例如 $x(t)$ 只依赖时间 $t$，所以导数是普通导数：

$$\frac{dx}{dt}.$$

如果未知函数依赖多个自变量，比如 $u(x,t)$ 同时依赖空间和时间，那么研究的就是偏微分方程 PDE，会出现偏导数：

$$\frac{\partial u}{\partial t},\frac{\partial u}{\partial x}.$$

ODE 在描述什么

很多现实问题，本来就是“变化率决定下一步”的形式。

比如人口增长，如果当前人口越多，增长越快，那么会写成：

$$\frac{dP}{dt}=rP.$$

比如牛顿第二定律，如果物体的位置是 $x(t)$，速度是 $v(t)$，加速度是 $x^{″}(t)$，那么：

$$m\frac{d^{2}x}{d{t}^2}=F.$$

比如在 Flow Matching 和 Neural ODE 里，样本 $x_t$ 的运动由一个速度场给出：

$$\frac{d{x}_t}{dt}=v_{\theta }(x_t,t).$$

所以 ODE 的核心思想其实非常统一：

先写出局部变化规则，再由这个局部规则推出整条轨迹。

一个 ODE 问题通常长什么样

最典型的是 初值问题（Initial Value Problem, IVP）：

$$\frac{dx}{dt}=f(t,x),x(t_0)=x_0.$$

这表示两件事同时给定了：

第一，变化规律是 $x^{\prime }(t)=f(t,x)$；

第二，在初始时刻 $t_0$，变量的起点是 $x_0$。

只有把这两件事放在一起，问题才算完整。因为同一个微分方程通常会有很多条不同的解曲线，而初值决定了到底选哪一条。

例如：

$$\frac{dx}{dt}=x$$

它的通解是：

$$x(t)=C{e}^t.$$

这里的 $C$ 可以取很多值，所以有无穷多条解。只有再给一个初值，比如 $x(0)=2$，才能确定：

$$2=C{e}^0=C,$$

于是唯一解是：

$$x(t)=2e^t.$$

斜率场与向量场

把一阶 ODE

$$\frac{dx}{dt}=f(t,x)$$

画在平面上时，$f(t,x)$ 可以理解成：

• 在点 $(t,x)$ 处，解曲线应该有多大的斜率。

这就形成了一个 斜率场。每个点上都放一小段线，它的倾斜程度由 $f(t,x)$ 决定。真正的解曲线，就是始终顺着这些局部斜率往前走的曲线。

如果把变量推广成向量 $x(t)\in {\mathbb{R}}^d$，ODE 就变成：

$$\frac{dx}{dt}=f(t,x),x\in {\mathbb{R}}^d.$$

这时 $f(t,x)$ 是一个向量，表示“当前位置此刻应该朝哪个方向移动、多快移动”。

这就是 向量场 的视角，也是 Neural ODE、Continuous Normalizing Flow、Flow Matching 里最重要的视角。

从导数形式到积分形式

一阶初值问题

$$\frac{dx}{dt}=f(t,x),x(t_0)=x_0$$

还可以改写成积分形式：

$$x(t)=x_0+{\int }_{t_0}^{t}f(s,x(s))ds.$$

这个式子特别重要，因为它把“局部变化率”变成了“累计变化量”。

为什么这个式子成立

从

$$\frac{dx}{dt}=f(t,x)$$

两边对时间积分：

$${\int }_{t_0}^t\frac{dx(s)}{ds}ds={\int }_{t_0}^{t}f(s,x(s))ds.$$

左边根据微积分基本定理就是：

$$x(t)-x(t_0).$$

再用初值 $x(t_0)=x_0$，得到：

$$x(t)=x_0+{\int }_{t_0}^{t}f(s,x(s))ds.$$

这条积分形式很值得记住，因为：

• 它是存在唯一性定理的自然起点；
• 它也是数值方法的直觉来源；
• 它说明 ODE 的解本质上是“把局部速度积起来”。

最简单的例子：指数增长与衰减

考虑：

$$\frac{dx}{dt}=ax,x(0)=x_0.$$

这是最经典的一阶 ODE。

为什么它能分离变量

把所有和 $x$ 有关的项放到一边，和 $t$ 有关的项放到另一边：

$$\frac{1}{x}dx=adt.$$

两边积分：

$$\int \frac{1}{x}dx=\int adt.$$

得到：

$$\ln |x|=at+C.$$

两边取指数：

$$|x|=e^C{e}^{at}.$$

把常数重新记成 $C^{\prime }$，就有：

$$x(t)=C^{\prime }{e}^{at}.$$

再代入初值 $x(0)=x_0$：

$$x_0=C^{\prime }{e}^0=C^{\prime },$$

所以：

$$x(t)=x_0{e}^{at}.$$

这个解怎么理解

如果 $a>0$，那就是指数增长；

如果 $a<0$，那就是指数衰减；

如果 $a=0$，那就是常数不变。

它之所以重要，是因为很多更复杂系统在局部线性化以后，都会长得像这个样子。

一阶线性 ODE：积分因子法

一个非常重要的类型是：

$$\frac{dx}{dt}+a(t)x=b(t).$$

它叫 一阶线性微分方程。

这类方程最经典的解法是 积分因子法。

想法从哪里来

我们希望把左边写成某个乘积的导数，也就是写成：

$$\frac{d}{dt}(\mu (t)x(t)).$$

因为根据乘法求导法则：

$$\frac{d}{dt}(\mu x)=\mu x^{\prime }+{\mu }^{\prime }x.$$

而原方程左边是：

$$x^{\prime }+a(t)x.$$

如果我们先把方程两边都乘上一个函数 $\mu (t)$，得到：

$$\mu x^{\prime }+\mu a(t)x=\mu b(t),$$

那么只要希望

$${\mu }^{\prime }=\mu a(t),$$

就能让左边正好变成：

$$\mu x^{\prime }+{\mu }^{\prime }x=\frac{d}{dt}(\mu x).$$

于是只需要解：

$$\frac{{\mu }^{\prime }}{\mu }=a(t).$$

两边积分：

$$\ln \mu (t)=\int a(t)dt,$$

所以可以取：

$$\mu (t)=\exp (\int a(t)dt).$$

这就是 积分因子。

代回去以后怎么解

方程变成：

$$\frac{d}{dt}(\mu x)=\mu b(t).$$

两边积分：

$$\mu (t)x(t)=\int \mu (t)b(t)dt+C.$$

于是：

$$x(t)=\frac{1}{\mu (t)}(\int \mu (t)b(t)dt+C).$$

也就是：

$$x(t)=e^{-\int a(t)dt}(\int e^{\int a(t)dt}b(t)dt+C).$$

这就是一阶线性 ODE 的标准解法。

二阶 ODE：为什么会出现二阶导数

如果一阶导数表示“速度”，二阶导数就表示“加速度”。

所以二阶 ODE 经常来自力学系统。例如：

$$m\frac{d^{2}x}{d{t}^2}=F(x,\dot{x},t).$$

最典型的例子是简谐振子：

$$\frac{d^{2}x}{d{t}^2}+{\omega }^{2}x=0.$$

它描述的是“位置偏离平衡点越远，拉回去的力越大”。

为什么可以猜指数解

对常系数线性方程，常用试探解：

$$x(t)=e^{rt}.$$

因为导数之后仍然是指数函数本身，代进去很方便。

对上式有：

$$x^{\prime }(t)=r{e}^{rt},x^{″}(t)=r^2{e}^{rt}.$$

代回：

$$r^2{e}^{rt}+{\omega }^2{e}^{rt}=0.$$

因为 $e^{rt}\ne 0$，所以必须有：

$$r^2+{\omega }^2=0.$$

这就是特征方程。

解得：

$$r=\pm i\omega .$$

于是实数解可以写成：

$$x(t)=A\cos (\omega t)+B\sin (\omega t).$$

这说明简谐振子不会指数发散，而会周期振荡。

为什么高阶 ODE 常常先改写成一阶系统

在机器学习和动力系统里，大家更喜欢写成一阶向量形式：

$$\frac{dz}{dt}=f(t,z).$$

因为高阶 ODE 都可以改写成一阶系统。

例如简谐振子：

$$x^{″}+{\omega }^{2}x=0$$

设：

$$z_1=x,z_2=x^{\prime }.$$

那么：

$$z_1^{\prime }=z_2,$$$$z_2^{\prime }=-{\omega }^2{z}_1.$$

于是就变成：

$$\frac{d}{dt}\left(\begin{array}{c}{z}_1\\ z_2\end{array}\right)=\left(\begin{array}{c}{z}_2\\ -{\omega }^2{z}_1\end{array}\right).$$

这就是一个一阶系统。

这一步非常重要，因为 Neural ODE、CNF、Flow Matching 的标准形式都是这种一阶向量 ODE。

什么叫 autonomous ODE

如果方程里不显式出现时间 $t$，只依赖状态本身：

$$\frac{dx}{dt}=f(x),$$

它就叫 自治系统（autonomous ODE）。

这类系统的直觉尤其清楚：

• 当前状态 $x$ 决定下一刻怎么动；
• 运动规则本身不会随着“绝对时间”变化。

很多动力系统理论，比如平衡点、相图、稳定性分析，都是围绕自治系统展开的。

Neural ODE 里常见的是 $f_{\theta }(x,t)$，也就是非自治系统；但如果网络不显式输入时间，也可以看成自治系统。

解一定存在且唯一吗

不是所有 ODE 都会“自动有唯一解”。

对于初值问题

$$\frac{dx}{dt}=f(t,x),x(t_0)=x_0,$$

一个很重要的基本结论是：

• 如果 $f$ 连续，通常可以保证 局部存在解；
• 如果 $f$ 对 $x$ 还满足局部 Lipschitz 条件，通常可以进一步保证 局部唯一解。

你可以把 “Lipschitz” 粗略理解成：

右边函数不能对 $x$ 太尖、太爆、太不稳定。

一个非唯一的经典例子

看方程：

$$\frac{dx}{dt}=\sqrt{|x|},x(0)=0.$$

至少有一个解是：

$$x(t)=0.$$

因为代回去两边都为 0。

但还有别的解。比如对任意 $c\ge 0$，定义：

$$x(t)=\{\begin{array}{ll}0,& t\le c,\\ {\displaystyle \frac{(t-c{)}^2}{4}},& t>c.\end{array}$$

你可以验证它也满足同一个初值问题。

这说明：

如果右边对 $x$ 不够“规整”，同一个起点可能长出不止一条轨迹。

这件事在动力系统和数值分析里都很重要，因为它告诉我们：不是写下 ODE 就自然有一个稳定、明确的未来。

为什么很多 ODE 解不出闭式公式

虽然教科书里常见的例子能手算，但大多数真实 ODE 并没有漂亮的解析解。

这时就要用 数值方法。

最基本的是 Euler 方法。设：

$$\frac{dx}{dt}=f(t,x),x(t_0)=x_0.$$

取步长 $h$，令 $t_{n+1}=t_n+h$。用泰勒展开：

$$x(t_n+h)=x(t_n)+h{x}^{\prime }(t_n)+O(h^2).$$

因为 $x^{\prime }(t_n)=f(t_n,x(t_n))$，所以：

$$x(t_n+h)=x(t_n)+hf(t_n,x(t_n))+O(h^2).$$

把高阶误差先忽略，就得到 Euler 更新：

$$x_{n+1}=x_n+hf(t_n,x_n).$$

这个式子怎么理解

它的含义就是：

当前先看一下瞬时速度，再假装这段很短的时间里速度几乎不变，于是往前走一步。

这正是“导数 = 局部线性近似”的直接体现。

更高级的数值方法，比如 Runge-Kutta，会在一步里多看几次斜率，从而更准确。

ODE、轨迹与“流”

一旦有了向量场

$$\frac{d{x}_t}{dt}=v(x_t,t),$$

从不同初值出发，你就会得到很多条轨迹。把所有这些轨迹一起看，就形成了一个 flow。

也就是说，ODE 不只是给出一条曲线，而是在说：

空间中每个点如果放一个粒子，它以后会怎么运动。

如果初始点本身来自某个概率分布 $p_0$，那么这些粒子整体形成的密度也会随时间流动。它满足连续性方程：

$${\partial }_t{p}_t(x)+\mathrm{\nabla }\cdot (p_t(x)v_t(x))=0.$$

这条式子在 Flow Matching 里非常关键，因为：

• 单个粒子的轨迹由 ODE 决定；
• 一整群粒子的概率密度由连续性方程决定。

所以 ODE 解决的是“一个点怎么走”，而 continuity equation 解决的是“整团分布怎么流”。

---

ODE 和 Neural ODE / Flow Matching 的关系

在 Neural ODE 里，神经网络直接参数化速度场：

$$\frac{d{x}_t}{dt}=f_{\theta }(x_t,t).$$

这时模型不再是一层一层离散叠加，而是被看成一个连续深度系统。

在 Flow Matching 里，模型同样学习一个速度场：

$$\frac{d{x}_t}{dt}=v_{\theta }(x_t,t).$$

只不过训练目标不是普通监督学习，而是让模型输出的速度去匹配某条目标概率路径对应的“正确速度”。

所以如果把 Flow Matching 看懂，背后其实已经默认你接受了 ODE 这套语言：

• 状态是连续时间变化的；
• 每个时刻都由一个速度场决定下一瞬间怎么走；
• 生成样本时，本质上是在解一条 ODE。

总结

ODE 研究的是“变化率决定轨迹”的方程。

初值问题：

$$\frac{dx}{dt}=f(t,x),x(t_0)=x_0.$$

积分形式：

$$x(t)=x_0+{\int }_{t_0}^{t}f(s,x(s))ds.$$

前者说明“局部怎么变”，后者说明“整体怎么积出来”。