线性代数视角下的微分方程

在微分方程的研究中，视函数为向量空间中的元素，可以更深刻地理解线性微分方程解的结构

函数空间 \(\displaystyle\mathbb{R}^{I}\)

给定一个定义域 \(\displaystyle I\)（通常是一个区间），所有定义在 \(\displaystyle I\) 上的实值函数 \(\displaystyle f: I \rightarrow \mathbb{R}\) 的集合，记作 \(\displaystyle\mathbb{R}^{I}\)

对于任意函数 \(\displaystyle f, g \in \mathbb{R}^{I}\) 和任意实数 \(\displaystyle c \in \mathbb{R}\)，我们定义“逐点”（point-wise）的加法和标量乘法：

• 函数加法： \(\displaystyle (f+g)(t) = f(t) + g(t)\)

• 标量乘法： \(\displaystyle (cf)(t) = c \cdot f(t)\)

在这些运算下，\(\displaystyle\mathbb{R}^{I}\) 构成一个实数域 \(\displaystyle\mathbb{R}\) 上的向量空间（vector space），该向量空间中的零向量是零函数，即对所有 \(\displaystyle t \in I\)，满足 \(\displaystyle t \mapsto 0\) 的函数

子空间

\(\displaystyle\mathbb{R}^{I}\) 的一个子集 \(\displaystyle S \subseteq \mathbb{R}^{I}\) 如果满足以下条件，则称其为一个子空间（subspace）：

• \(\displaystyle S\) 非空 (\(\displaystyle S \neq \emptyset\))

• \(\displaystyle S\) 对向量加法封闭：若 \(\displaystyle f, g \in S\)，则 \(\displaystyle f+g \in S\)

• \(\displaystyle S\) 对标量乘法封闭：若 \(\displaystyle f \in S\) 且 \(\displaystyle c \in \mathbb{R}\)，则 \(\displaystyle cf \in S\) for all \(\displaystyle c \in \mathbb{R}\)

函数空间 \(\displaystyle\mathbb{R}^{I}\) （其中 \(\displaystyle I\) 是一个包含正长度区间的无限集）与我们熟悉的 \(\displaystyle\mathbb{R}^{n}\) 的一个主要区别在于 \(\displaystyle\mathbb{R}^{I}\) 是无限维的

例如，对于 \(\displaystyle s \in I\)，定义函数 \(\displaystyle \delta_s(t)\) 如下： \[ \displaystyle\delta_s(t) = \begin{cases} 1 & \text{if } t=s \\ 0 & \text{if } t \neq s \end{cases}\\ \] 集合 \(\displaystyle \{\delta_s : s \in I\}\) 是线性无关的，但它并不能张成整个 \(\displaystyle\mathbb{R}^{I}\)

在微分方程中，我们更常关注 \(\displaystyle\mathbb{R}^{I}\) 的某些特定子空间，例如 \(\displaystyle C^{\infty}(I)\)，它由所有在 \(\displaystyle I\) 上具有任意阶导数的函数构成

线性无关性、基与维度

这些概念与在 \(\displaystyle\mathbb{R}^{n}\) 中的定义类似

• 线性无关： 函数集 \(\displaystyle \{f_1, f_2, \dots, f_k\} \subseteq \mathbb{R}^{I}\) 是线性无关的，如果方程 \(\displaystyle c_1 f_1 + c_2 f_2 + \dots + c_k f_k = \mathbf{0}\) (其中 \(\displaystyle\mathbf{0}\) 是零函数) 仅当 \(\displaystyle c_1 = c_2 = \dots = c_k = 0\) 时成立

• 生成集（张成集）： 一个函数集可以张成一个子空间

• 基： 一个子空间的线性无关的生成集

• 维度： 一个子空间的基中元素的个数

一个重要的例子是函数族 \[ \displaystyle \{f_{\lambda}(t) = e^{\lambda t} : \lambda \in \mathbb{R}\} \] 这个集合在 \(\displaystyle\mathbb{R}^{I}\) 中是线性无关的，这意味着即使是 \(\displaystyle C^{\infty}(I)\) 这样的子空间也是无限维的

尽管 \(\displaystyle\mathbb{R}^{I}\) 及其许多子空间是无限维的，但线性常微分方程的解集通常会形成有限维的子空间，这使得线性代数的许多结论能够得以应用

线性微分方程解集的代数结构

齐次线性一阶微分方程

考虑齐次线性一阶微分方程 \[ \displaystyle y' = a(t)y \] 其中 \(\displaystyle a(t)\) 在区间 \(\displaystyle I\)上连续

那么，该方程的解集 \(\displaystyle S\) 构成 \(\displaystyle\mathbb{R}^{I}\) 的一个一维子空间

并且对于任意选定的 \(\displaystyle t_0 \in I\)，函数 \(\displaystyle y_h(t) = \exp\left(\int_{t_0}^{t} a(s)ds\right)\) 是这个子空间的一个基

这意味着所有解都可以表示为 \(\displaystyle c \cdot y_h(t)\) 的形式，其中 \(\displaystyle c\) 是一个常数

解集 \(\displaystyle S\) 是一维的这一事实可能有些令人惊讶，因为在 \(\displaystyle\mathbb{R}^n\) 中，一个（非平凡的）线性方程的解空间维度是 \(\displaystyle n-1\)

非齐次线性一阶微分方程

考虑非齐次线性一阶微分方程 \[ \displaystyle y' = a(t)y + b(t) \] 其中 \(\displaystyle a(t)\) 和 \(\displaystyle b(t)\) 在区间 \(\displaystyle I\) 上连续

那么，该方程的解集 \(\displaystyle S\) 构成 \(\displaystyle\mathbb{R}^{I}\) 中的一条线（即一维仿射子空间 affine subspace）

这条线可以表示为 \(\displaystyle y_p(t) + \text{span}\{y_h(t)\}\)，其中 \(\displaystyle y_p(t)\) 是非齐次方程的一个特解，而 \(\displaystyle y_h(t)\) 是对应的齐次方程 \(\displaystyle y' = a(t)y\) 的一个非零解 具体而言，我们可以取 \[ \displaystyle A(t) = \int_{t_0}^{t} a(s)ds \] 则方向向量为 \[ \displaystyle y_h(t) = e^{A(t)} \] “起点”可以取为特解 \[ \displaystyle y_p(t) = e^{A(t)}\int_{t_0}^{t} b(s)e^{-A(s)}ds \] 解集 \(\displaystyle S\) 也可以看作是对应的齐次方程解空间 \(\displaystyle D = \{y_1 - y_2 : y_1, y_2 \in S\}\) 的一个陪集(translate/coset)

例：\(\displaystyle y'' + y = 0\)

方程 \(\displaystyle y'' + y = 0\) 在 \(\displaystyle\mathbb{R}\) 上的解集 \(\displaystyle S\) 构成 \(\displaystyle\mathbb{R}^{\mathbb{R}}\) 的一个二维子空间，且函数集合 \(\displaystyle \{\cos t, \sin t\}\) 是这个子空间的一个基

求值映射 (evaluation map) \(\displaystyle E: S \rightarrow \mathbb{R}^2\) 定义为 \(\displaystyle E(y) = (y(0), y'(0))\)，它将一个解映射到其在 \(\displaystyle t=0\) 处的初始值 (函数值和导数值)

这个映射是一个线性双射 (linear bijection)，其逆映射为 \(\displaystyle (A,B) \mapsto A \cos t + B \sin t\)

函数线性无关性的判定

要判断一组函数 \(\displaystyle f_1, f_2, \dots, f_n \in \mathbb{R}^{I}\) 是否线性无关，可以使用以下定理：

定理： 函数 \(\displaystyle f_1, \dots, f_n \in \mathbb{R}^{I}\) 线性无关当且仅当存在点 \(\displaystyle t_1, \dots, t_n \in I\) 使得如下行列式非零：

\[ \displaystyle \begin{vmatrix} f_1(t_1) & f_1(t_2) & \cdots & f_1(t_n) \\ f_2(t_1) & f_2(t_2) & \cdots & f_2(t_n) \\ \vdots & \vdots & \ddots & \vdots \\ f_n(t_1) & f_n(t_2) & \cdots & f_n(t_n) \end{vmatrix} \neq 0 \\ \] 证明思路：

• 充分性： 如果存在这样的 \(\displaystyle t_1, \dots, t_n\) 使得行列式非零假设 \(\displaystyle \sum_{i=1}^{n} \lambda_i f_i(t) = 0\) 对所有 \(\displaystyle t \in I\) 成立，那么它对 \(\displaystyle t_1, \dots, t_n\) 也成立，这导出一个关于 \(\displaystyle \lambda_i\) 的齐次线性方程组，其系数矩阵就是上述行列式不为零的矩阵。因此，该方程组只有零解 \(\displaystyle \lambda_1 = \dots = \lambda_n = 0\)
• 必要性： 可以用数学归纳法证明。对于 \(\displaystyle n=1\)，条件简化为存在 \(\displaystyle t_1\) 使得 \(\displaystyle f_1(t_1) \neq 0\)，这等价于 \(\displaystyle f_1\) 不是零函数，即 \(\displaystyle f_1\) 线性无关 归纳步骤中，可以构造一个函数 \(\displaystyle g(t)\)，它是将某个选定矩阵的最后一列替换为 \(\displaystyle (f_1(t), \dots, f_n(t))^T\) 后得到的行列式。通过拉普拉斯展开，\(\displaystyle g(t)\) 可以表示为 \(\displaystyle f_i(t)\) 的线性组合，其中 \(\displaystyle f_n(t)\) 的系数非零。由于 \(\displaystyle f_1, \dots, f_n\) 线性无关，所以 \(\displaystyle g(t)\) 不是零函数，因此存在 \(\displaystyle t_n\) 使得 \(\displaystyle g(t_n) \neq 0\)

示例：判断 \(\displaystyle \langle 1, \cos t, \sin t \rangle\) 的维度

我们要证明 \(\displaystyle f_1(t)=1, f_2(t)=\cos t, f_3(t)=\sin t\) 是线性无关的

假设 \(\displaystyle \lambda_1 \cdot 1 + \lambda_2 \cos t + \lambda_3 \sin t = 0\) 对所有 \(\displaystyle t \in \mathbb{R}\) 成立

取 \(\displaystyle t_1=0, t_2=\pi/2, t_3=\pi\)：

• \(\displaystyle t=0 \implies \lambda_1 + \lambda_2 = 0\)

• \(\displaystyle t=\pi/2 \implies \lambda_1 + \lambda_3 = 0\)

• \(\displaystyle t=\pi \implies \lambda_1 - \lambda_2 = 0\)

这个线性方程组只有唯一解 \(\displaystyle \lambda_1 = \lambda_2 = \lambda_3 = 0\) 因此，这三个函数线性无关，它们张成的子空间的维度是 3

或者，我们可以计算行列式：

\[ \displaystyle \begin{vmatrix} f_1(0) & f_1(\pi/2) & f_1(\pi) \\ f_2(0) & f_2(\pi/2) & f_2(\pi) \\ f_3(0) & f_3(\pi/2) & f_3(\pi) \end{vmatrix} = \begin{vmatrix} 1 & 1 & 1 \\ \cos 0 & \cos (\pi/2) & \cos \pi \\ \sin 0 & \sin (\pi/2) & \sin \pi \end{vmatrix} = 2 \neq 0 \\ \] 这表明这些函数是线性无关的