内积空间
好,我们开始讲解“内积空间”。这是一个在分析学和函数论中极为核心的结构,它将几何直观(如长度、角度、垂直)引入了更一般的向量空间。
第一步:从向量空间到几何的渴望
我们先回顾最熟悉的空间:二维或三维欧几里得空间。在这个空间里,向量不仅有加法和数乘运算(构成向量空间),我们还能计算:
- 长度(模):一个向量 x 的长度,记作 ||x||。
- 角度:两个向量 x 和 y 之间的夹角 θ。
- 垂直(正交):当夹角为90度时,两向量垂直。
在经典几何中,这些概念通过坐标运算(点积)联系起来。对于向量 x = (x₁, x₂, x₃) 和 y = (y₁, y₂, y₃),它们的点积(内积)定义为:
⟨x, y⟩ = x₁y₁ + x₂y₂ + x₃y₃
这个简单的式子蕴含了所有几何信息:
- 长度:||x|| = √(⟨x, x⟩) = √(x₁² + x₂² + x₃²)
- 角度:cosθ = ⟨x, y⟩ / (||x|| ||y||)
- 垂直:⟨x, y⟩ = 0 当且仅当 x 与 y 垂直。
一个自然的问题是:对于更一般的、可能是无限维的函数空间,我们能否也定义类似“点积”的运算,从而引入几何概念?这就是内积空间要解决的问题。
第二步:内积的公理化定义
我们将点积最核心的代数性质抽象出来,作为定义。设 V 是一个定义在实数域 ℝ 或复数域 ℂ 上的向量空间。
定义:一个内积是一个函数 ⟨·, ·⟩: V × V → 𝔽 (𝔽 是 ℝ 或 ℂ),它满足对任意的 x, y, z ∈ V 和任意标量 α ∈ 𝔽:
- 正定性:⟨x, x⟩ ≥ 0,且 ⟨x, x⟩ = 0 当且仅当 x = 0。
- 共轭对称性(Hermitian性):⟨x, y⟩ = ⟨y, x⟩̅ (横线表示复共轭)。在实空间里,这就是对称性:⟨x, y⟩ = ⟨y, x⟩。
- 对第一个变量的线性性:⟨αx + βy, z⟩ = α⟨x, z⟩ + β⟨y, z⟩。
(注意:由性质2和3,可推出对第二个变量的共轭线性性:⟨z, αx+βy⟩ = α̅⟨z, x⟩ + β̅⟨z, y⟩)
配备了这样一个内积的向量空间 V,就称为一个内积空间。
关键点:
- 在实空间(𝔽=ℝ)中,内积是双线性的(对两个变量都线性)。
- 在复空间(𝔽=ℂ)中,内积是共轭双线性的:对第一个变量线性,对第二个变量共轭线性。这确保了 ⟨x, x⟩ 总是实数(从而正定性有意义)。
例子:
- ℝⁿ 是实内积空间,内积为 ⟨x, y⟩ = Σᵢ xᵢyᵢ。
- ℂⁿ 是复内积空间,内积为 ⟨x, y⟩ = Σᵢ xᵢ * (yᵢ的共轭)。
- L²空间:考虑定义在区间 [a, b] 上所有平方可积函数的空间 L²([a, b]),即满足 ∫ₐᵇ |f(x)|² dx < ∞ 的函数 f。其内积定义为 ⟨f, g⟩ = ∫ₐᵇ f(x) g(x)̅ dx。这是无限维内积空间最重要的例子,是傅里叶分析的基础。
第三步:由内积诱导的范数和度量
一旦有了内积,我们可以模仿欧几里得空间,自然地定义“长度”。
定义:对于 x ∈ V,其范数(或长度)定义为 ||x|| = √⟨x, x⟩。
由内积的三条公理,可以证明这个 ||·|| 满足范数的所有要求(正定性、齐次性、三角不等式)。因此,每一个内积空间自动成为一个赋范空间。这个范数被称为“由内积诱导的范数”。
进一步,我们还可以定义距离:d(x, y) = ||x - y||。所以,内积空间也是一个度量空间,可以讨论收敛性、连续性等拓扑概念。
第四步:内积的核心几何性质:柯西-施瓦茨不等式
这是内积空间理论中最重要的不等式,它将内积和范数深刻地联系起来。
定理(柯西-施瓦茨不等式):对任意 x, y ∈ V,有
|⟨x, y⟩| ≤ ||x|| · ||y||。
等号成立当且仅当 x 与 y 线性相关。
几何解释:这个不等式在实空间中就是 |cosθ| ≤ 1,因为 cosθ = ⟨x, y⟩/(||x|| ||y||)。在一般内积空间中,它保证了“夹角余弦”的绝对值不超过1,从而我们可以定义两个非零向量的夹角为:θ = arccos[ ⟨x, y⟩ / (||x|| ||y||) ]。这赋予了空间真实的几何结构。
柯西-施瓦茨不等式是证明三角不等式 ||x+y|| ≤ ||x||+||y|| 的关键,也是许多其他分析的基石。
第五步:正交性
有了内积,我们可以精确地定义“垂直”。
定义:如果 ⟨x, y⟩ = 0,则称向量 x 与 y 是正交的,记作 x ⟂ y。
正交性带来了许多强大而简洁的几何结论:
- 勾股定理:若 x ⟂ y,则 ||x + y||² = ||x||² + ||y||²。
- 正交分解:这是内积空间理论的核心思想。给定一个向量 x 和一个子空间 M,我们希望找到 M 中“最好”的近似(投影)。如果存在 y ∈ M 使得 (x - y) ⟂ M(即与 M 中所有向量正交),那么这个 y 就是 x 在 M 上的正交投影,并且它是在 M 中离 x 最近的点(在范数意义下)。
- 正交补:一个子集 S 的正交补定义为 S^⟂ = {x ∈ V : x ⟂ s, ∀ s ∈ S}。S^⟂ 总是 V 的闭子空间。
第六步:希尔伯特空间——完备的内积空间
并非所有内积空间在分析上都是“好”的。就像从有理数到实数,我们需要完备性来保证极限运算不会跑到空间外面去。
定义:一个内积空间,如果它关于其诱导的范数是完备的(即其中的每个柯西序列都收敛于空间内的一点),则称之为希尔伯特空间。
关键区别:
- 内积空间:有几何结构(内积)。
- 巴拿赫空间:有拓扑结构(完备的范数)。
- 希尔伯特空间:两者兼备(有几何结构的、完备的内积空间)。
例子:
- ℝⁿ 和 ℂⁿ 是有限维希尔伯特空间。
- L²空间 是无限维希尔伯特空间最重要的代表。
- 由平方可和数列组成的空间 l²,其内积为 ⟨{aₙ}, {bₙ}⟩ = Σₙ aₙ bₙ̅,也是一个希尔伯特空间。
希尔伯特空间是傅里叶级数理论的天然舞台。给定一个希尔伯特空间中的标准正交基 {eₙ}(即满足 ⟨eᵢ, eⱼ⟩ = δᵢⱼ),任何一个向量 x 都可以展开为 x = Σₙ ⟨x, eₙ⟩ eₙ,这正是一般函数傅里叶展开的抽象形式。
总结一下概念阶梯:
向量空间 (只有代数结构)
⬇ 增加“内积”运算
内积空间 (引入了长度、角度、正交性等几何结构)
⬇ 增加“完备性”
希尔伯特空间 (几何结构完整且分析性质良好的“完美”空间)
内积空间,特别是希尔伯特空间,为研究函数空间、微分方程、量子力学、信号处理等提供了强大而优美的框架,因为它将我们熟知的欧几里得几何直觉成功地推广到了无限维的世界。