第24讲 线性空间(一) Jul 13, 2017 Shawn Linear Algebra No comments yet 第25讲 线性空间(二) Jul 13, 2017 Shawn Linear Algebra No comments yet 第26讲 线性变换 Jul 14, 2017 Shawn Linear Algebra No comments yet 第28讲 线性代数的应用举例 Jul 14, 2017 Shawn Linear Algebra No comments yet 第27讲 欧几里得空间 Jul 14, 2017 Shawn Linear Algebra No comments yet 1 … 58 59 60
![24.1 线性空间的定义 • 线性空间最一般的定义 ○ 非空集合 V 和 数域 P (一般为R ○ 可定义加法（对加法封闭） § α, β∈V⇒α+β∈V ○ 可定义数乘（对数乘封闭） § α∈V,k∈P⇒kα∈V ○ 八条性质 1. α+β=β+α 2. (α+β)+γ=α+(β+γ) 3. α+(−α)=0 4. α+0=α 5. (kl)α=k(lα) 6. (k+l)α=kα+lα 7. k(α+β)=kα+kβ 8. 1α=α • 进一步的性质 ○ 消去律：α+β=α+γ⇒β=γ § α+β=α+γ § −α+α+β=−α+α+γ § β=γ ○ 零向量唯一 § 假设由两个零向量 0_1 和 0_2 § 则 0_1+0_2=0_1=0_2 § 故零向量唯一 ○ 负向量唯一 § 假设 α+β=0, α+γ=0 § 法一：消去率 § 法二：β=β+0=β+α+γ=0+γ=γ ○ 0α=0 ⃗ § α+0α=(1+0)α=α+0 ⃗ § 根据消去率有 0α=0 ⃗ ○ k0 ⃗=0 ⃗ § k0 ⃗+kα=k(0 ⃗+α)=kα+0 ⃗ § 根据消去率有 k0 ⃗=0 ⃗ ○ (−1)α=−α § (−1)α+α=(−1+1)α=0α=0 ⃗ § 又因为负向量唯一，故 (−1)α=−α ○ kα=0⇒k=0 or a=0 ⃗ § 若 k≠0，则 k^(−1) (kα)=1α=α=0 24.2 维数、基与坐标 • 维数 (dimension) ○ 若 V 中最多有 n 个线性无关的向量 ○ 则称线性空间 V 的维数为 n ○ 记作 dim(V)=n ○ 注 § dim(Rn )=n § 所有 deg≤n 的多项式 R_n [x] 的维数为 n+1 § 所有多项式 R[x] 不在线性空间的讨论范围 • 基 (basis) ○ n 维线性空间内 n 个线性无关的向量（不唯一） • 坐标 (coordinate) ○ 若 (e_1 ) ⃗…(e_n ) ⃗ 为一组基 ○ 则 α ⃗, (e_1 ) ⃗…(e_n ) ⃗ 一定线性相关 ○ 即 α ⃗=k_1 (e_1 ) ⃗+…k_n (e_n ) ⃗ ○ 且 k_1…k_n 唯一 ○ 我们将 (k_1…k_n) 称作坐标 • 例子 ○ ℂ 可以看作是 R 上的线性空间 § 基为 1 和 i § α ⃗=1a+bi∈ℂ (a,b∈R) ○ ℂ 可以看作是 ℂ 上的线性空间 § 基为 1 § α ⃗=1α ⃗∈ℂ (α ⃗∈ℂ) ○ Rn 最常用的一组基为 § (e_1 ) ⃗=(1,0,0…0)^T § (e_2 ) ⃗=(0,1,0…0)^T § ⋮ § (e_n ) ⃗=(0,0,0…1)^T ○ R_n [x] 最常用的一组基为 § 1,x, x^2, x^3…x^n 24.3 线性子空间 • 定义 ○ V 是线性空间，W⊂V ○ 若 W 对于加法、数乘也构成线性空间， • 定理 ○ 若 W⊂V 且 W 对加法、数乘封闭，则 W 为子空间 • 平凡子空间 ○ V ○ {0 ⃗ } • 常用子空间的例子 ○ R_n [x] 是 R[x] 的子空间 ○ Ax ⃗=0 的解集 § 记为 N(A) ，又称零空间 (null space) § 基为基础解系 § 维数为 n−r(A) ○ 生成空间 § 由 (α_1 ) ⃗…(α_s ) ⃗ 生成的空间 § {k_1 (α_1 ) ⃗+…+k_s (α_s ) ⃗ ┤| k_1…k_s∈R} § 记为 L((α_1 ) ⃗…(α_s ) ⃗)](https://shawnzhong.com/wp-content/uploads/2017/08/img_598740cd1cb23.png)
![25.1 基变换与坐标变换 • 引入 ○ 假设 n 维线性空间 V 有两组基 § (e_1 ) ⃗…(e_n ) ⃗ 和 (e_1 ) ⃗^′…(e_n ) ⃗^′ ○ 两组基之间有以下关系 § (e_1 ) ⃗^′=a_11 (e_1 ) ⃗+a_21 (e_2 ) ⃗+…a_n1 (e_n ) ⃗ § (e_2 ) ⃗^′=a_12 (e_1 ) ⃗+a_22 (e_2 ) ⃗+…a_n2 (e_n ) ⃗ § ⋮ § (e_n ) ⃗^′=a_1n (e_1 ) ⃗+a_2n (e_2 ) ⃗+…a_nn (e_n ) ⃗ ○ 可讲上式形式上记为 ((e_1 ) ⃗^′…(e_n ) ⃗^′ )=((e_1 ) ⃗…(e_n ) ⃗ )A ○ 其中 A=(■8(a_11&a_12&…&a_1n@a_21&a_22&…&a_2n@⋮&⋮&⋮&⋮@a_n1&a_n2&…&a_nn )) • 基变换 ○ ((e_1 ) ⃗^′…(e_n ) ⃗^′ )=((e_1 ) ⃗…(e_n ) ⃗ )A ○ 可逆矩阵 A=(■8(a_11&a_12&…&a_1n@a_21&a_22&…&a_2n@⋮&⋮&⋮&⋮@a_n1&a_n2&…&a_nn )) ○ A 被称为转移矩阵或过渡矩阵 (transition matrix) • 性质 ○ [((e_1 ) ⃗…(e_n ) ⃗ )A]B=((e_1 ) ⃗…(e_n ) ⃗ )(AB) ○ ((e_1 ) ⃗…(e_n ) ⃗ )A+((e_1 ) ⃗…(e_n ) ⃗ )B=((e_1 ) ⃗…(e_n ) ⃗ )(A+B) ○ ((e_1 ) ⃗…(e_n ) ⃗ )A+((e_1 ) ⃗^′…(e_n ) ⃗^′ )A=((e_1 ) ⃗+(e_1 ) ⃗^′,…,(e_n ) ⃗+(e_n ) ⃗^′ )A • 坐标变换 ○ 对于 α ⃗∈V，可以分别用两组基来表示 § α ⃗=a_1 (e_1 ) ⃗+…+a_n (e_n ) ⃗=((e_1 ) ⃗…(e_n ) ⃗ )(■8(a_1@⋮@a_n )) § α ⃗=b_1 (e_1 ) ⃗′+…+b_n (e_n ) ⃗′=((e_1 ) ⃗′…(e_n ) ⃗′)(■8(b_1@⋮@b_n )) ○ 将 ((e_1 ) ⃗^′…(e_n ) ⃗^′ )=((e_1 ) ⃗…(e_n ) ⃗ )A 代入得 § α ⃗=((e_1 ) ⃗…(e_n ) ⃗ )A(■8(b_1@⋮@b_n ))=((e_1 ) ⃗…(e_n ) ⃗ )(A(■8(b_1@⋮@b_n ))) ○ 因为同一组基下的坐标表示唯一，有 § (■8(a_1@⋮@a_n ))=A(■8(b_1@⋮@b_n ))⇔(■8(b_1@⋮@b_n ))=A^(−1) (■8(a_1@⋮@a_n )) • 例题 ○ 假设 V=Rn 有两组基 § (e_1 ) ⃗=(■8(1@0@⋮@0)),(e_2 ) ⃗=(■8(0@1@⋮@0)),…,(e_n ) ⃗=(■8(0@0@⋮@1)) § (e_1 ) ⃗^′=(■8(1@1@⋮@1)),(e_2 ) ⃗^′=(■8(0@1@⋮@1)),…,(e_n ) ⃗′=(■8(0@0@⋮@1)) ○ 若 α ⃗ 在两组基下的坐标分别为 (x_1…x_n )^T, (y_1…y_n )^T § 则{█(y_1=x_1@y_1+y_2=x_2@⋮@y_1+…y_n=x_n )⇔{█(y_1=x_1@y_2=x_2−x_1@⋮@y_n=x_n−x_(n−1) )┤┤ ○ 两组基之间的关系为 § ((e_1 ) ⃗^′…(e_n ) ⃗^′ )=((e_1 ) ⃗…(e_n ) ⃗ )A § 其中转移矩阵 A=(■(1&&&@1&1&&@⋮&⋮&⋱&@1&1&…&1)) ○ 故坐标变换为 § (■8(x_1@⋮@x_n ))=A(■8(y_1@⋮@y_n ))=(■(1&&&@1&1&&@⋮&⋮&⋱&@1&1&…&1))(■8(y_1@⋮@y_n )) § (■8(y_1@⋮@y_n ))=A^(−1) (■8(x_1@⋮@x_n ))=(■(1&&&@−1&1&&@&⋱&⋱&@&&−1&1))(■8(x_1@⋮@x_n )) 25.2 线性空间的同构 • 向量和坐标之间的映射 ○ n 维线性空间 V 有一组基 (e_1 ) ⃗…(e_n ) ⃗ ○ 对于任意 α ⃗∈V 都存在 § α ⃗=a_1 (e_1 ) ⃗+…+a_n (e_n ) ⃗∈V § α ⃗ 的坐标为 (a_1,…,a_n )^T∈Rn ○ 即存在映射 § V→┴σ Rn § α ⃗↦┴σ (a_1,…,a_n )^T ○ 即 σ(α ⃗ )=(a_1,…,a_n )^T ○ 故此映射是一一映上的（一一对应） ○ 且此映射还需满足 ○ 对加法封闭 § α ⃗: (a_1,…,a_n )^T § β ⃗:(b_1…b_n )^T § α ⃗+β ⃗=a_1 (e_1 ) ⃗+…+a_n (e_n ) ⃗+b_1 (e_1 ) ⃗+…+b_n (e_n ) ⃗ § =(a_1+b_1 ) (e_1 ) ⃗+…+(a_n+b_n ) (e_n ) ⃗ § σ(α ⃗+β ⃗ )=(a_1+b_1,…,a_n+b_n )^T § =(a_1,…,a_n )^T+(b_1…b_n )^T=σ(α ⃗ )+σ(β ⃗ ) ○ 对数乘封闭 § σ(kα ⃗ )=kσ(α ⃗ ) § 证明略 • 同构 ○ 数域 P 上的两个线性空间 V,V^′ ○ 若存在一个由 V 到 V′ 的一一对应 σ ○ 使得 σ(α ⃗+β ⃗ )=σ(α ⃗ )+σ(β ⃗ ) 且 (kα ⃗ )=kσ(α ⃗ ) ○ 则称 V 与 V′ 同构 (Isomorphic) ○ σ 被称为同构映射 (Isomorphism) • 注：任意一个 n 维线性空间 V 都与 Rn 同构 • 同构的性质 ○ σ(0)=0 § σ(kα ⃗ )=kσ(α ⃗ ) 令 k=0 ○ σ(−α ⃗ )=−σ(α ⃗ ) § σ(kα ⃗ )=kσ(α ⃗ ) 令 k=−1 ○ 保持线性组合 § σ(k_1 (α_1 ) ⃗+…k_s (α_s ) ⃗ )=k_1 σ((α_1 ) ⃗ )+…+k_s σ((α_s ) ⃗ ) ○ 保持线性相关性 § (α_1 ) ⃗…(α_s ) ⃗ 线性相关⇔σ((α_1 ) ⃗ )…σ((α_s ) ⃗ ) 线性相关 § (α_1 ) ⃗…(α_s ) ⃗ 线性无关⇔σ((α_1 ) ⃗ )…σ((α_s ) ⃗ ) 线性无关 ○ V 与 V′ 同构 ⇔dim(V)=dim(V^′ ) § 证明暂略 ○ 同构映射的逆映射还是同构映射 § 同构映射 σ: V→V^′ § 先证逆映射对加法封闭 § 即要证 σ^(−1) (σ(α ⃗ )+σ(β ⃗))=α ⃗+β ⃗ § σ[σ^(−1) (σ\(α ⃗ )+σ(β ⃗))]=σ\(α ⃗)+σ(β ⃗)=σ(α ⃗+β ⃗) § 又因为 σ 一一对应 § 故 σ^(−1) (σ\(α ⃗ )+σ(β ⃗))=α ⃗+β ⃗ § 再证逆映射对数乘封闭 § σ[σ^(−1) (kσ\(α ⃗))]=kσ\(α ⃗)=σ(kα ⃗) § 又因为 σ 一一对应 § 故 σ^(−1) (kσ\(α ⃗))=kα ⃗ ○ 两个同构映射的乘积(复合)还是同构映射 § 同构映射 σ: V→V^′ 和 τ: V^′→〖V^′〗^′ § τ(σ(α ⃗+β ⃗ ))=τ(σ(α ⃗ )+σ(β ⃗ ))=τ(σ(α ⃗ ))+τ(σ(α ⃗ )) § 证明数乘略 • 定理1：同构是一种等价关系 ○ 反身性：V 与 V 同构 § σ(α ⃗ )=α ⃗ ○ 对称性：若 V 与 V′ 同构，则 V′ 与 V 同构 § 同构映射的逆映射还是同构映射 ○ 传递性：若 V 与 V′ 同构，V′ 与 V′′ 同构，则 V 与 V′′ 同构 § 两个同构映射的乘积(复合)还是同构映射 • 定理2：dim(V)=dim(V^′ )⇒ V 与 V′ 同构 ○ n 维线性空间 V 与 Rn 同构 ○ n 维线性空间 V′ 与 Rn 同构 ○ 根据同构的传递性得 V 与 V′ 同构](https://shawnzhong.com/wp-content/uploads/2017/08/img_598740f88f618.png)
![26.1 定义与性质 • 变换 ○ 线性空间 V 到自身的映射 • 定义：线性变换 ○ 存在线性空间 V 和线性变换 A ，满足以下性质 ○ 保持向量的加法 § ∀α ⃗,β ⃗∈V § A(α ⃗+β ⃗ )=A(α ⃗ )+A(β ⃗ ) ○ 保持向量的数乘 § A(kα ⃗ )=kA(α ⃗) • 例子 ○ 零变换 § 0(α ⃗ )=0 ⃗ ○ 恒等变换（恒同变换） § I(α ⃗ )=α ⃗ ○ 缩放变换 § K(α ⃗ )=kα ⃗ ○ R2 上的旋转变换 § R2→R2 § (■8(x′@y′))=(■8(cosθ&−sinθ@sinθ&cosθ ))(■8(x@y)) ○ 矩阵变换 § Rn→Rn § α ⃗↦Aα ⃗ ○ 求导运算 § D(f(x))=f^′ (x) ○ 投影 § Π_α ⃗ (β ⃗ )=‖■8(β ⃗ )‖⋅cosθ⋅■8(α ⃗ )/‖■8(α ⃗ )‖ § ∵α ⃗⋅β ⃗=‖■8(α ⃗ )‖‖■8(β ⃗ )‖ cosθ § ∴Π_α ⃗ (β ⃗ )=(α ⃗⋅β ⃗)/(α ⃗⋅α ⃗ )⋅α ⃗ • 性质 ○ 作用在特殊的向量 § A(0 ⃗ )=0 ⃗ § A(−α ⃗ )=−A(α ⃗ ) ○ 保持线性组合（关系） § α ⃗=k_1 (ϵ_1 ) ⃗+…+k_s (ϵ_s ) ⃗ § ⇒A(α ⃗ )=k_1 A((ϵ_1 ) ⃗ )+…+k_s A((ϵ_s ) ⃗ ) ○ 保持线性相关性 § (α_1 ) ⃗…(α_s ) ⃗ 线性相关⇒A((α_1 ) ⃗ )…A((α_s ) ⃗ ) 线性相关 § 但不保持线性无关性，如零变换 26.2 线性变换的运算 • 线性变换的运算 ○ 加法 § (A+B)(α ⃗ )=A(α ⃗ )+B(α ⃗ ) ○ 数乘 § (kA)(α ⃗ )=kA(α ⃗ ) ○ 乘法（复合） § AB(α ⃗ )=A(B(α ⃗ )) ○ 逆变换 § 若 AB=BA=I § 则 B 叫做 A 的逆变换，记作 A^(−1) • 线性变换乘法的性质 ○ 满足结合律 § (AB)C=A(BC) § 证明略 ○ 不满足交换律 § 由于矩阵乘法不满足交换律 ○ 恒同变换的单位元 I § IA=A=AI • 线性变换的乘积 AB 是线性变换 ○ 证明：线性变换的乘积对加法封闭 § AB(α ⃗+β ⃗ ) § =A(B(α ⃗ )+B(β ⃗ )) § =A(B(α ⃗ ))+A(B(β ⃗ )) § =AB(α ⃗ )+AB(α ⃗β ⃗ ) ○ 证明：线性变换的乘积对数乘封闭 § AB(kα ⃗ )=A(kB(α ⃗ ))=kAB(α ⃗ ) • 线性变换 A 的逆变换 A^(−1) 是线性变换 ○ 证明：线性变换的逆变换对加法封闭 § A^(−1) (α ⃗+β ⃗ ) § =A^(−1) (I(α ⃗)+I(β ⃗)) § =A^(−1) (AA^(−1) (α ⃗)+AA^(−1) (β ⃗)) § =A^(−1) [A(A^(−1) (α ⃗ )+A^(−1) (β ⃗))] § =A^(−1) A(A^(−1) (α ⃗ )+A^(−1) (β ⃗ )) § =I(A^(−1) (α ⃗ )+A^(−1) (β ⃗ )) § =A^(−1) (α ⃗ )+A^(−1) (β ⃗ ) ○ 证明：线性变换的逆变换对数乘封闭 § A^(−1) (kα ⃗ )=A^(−1) (kAA^(−1) (α ⃗ ))=kA^(−1) (α ⃗ ) • 线性变换的加法是线性变换 ○ 证明：线性变换的加法对加法封闭 § (A+B)(α ⃗+β ⃗ ) § =A(α ⃗+β ⃗ )+B(α ⃗+β ⃗ ) § =A(α ⃗ )+A(β ⃗ )+B(α ⃗ )+B(β ⃗ ) § =A(α ⃗ )+B(α ⃗ )+A(β ⃗ )+B(β ⃗ ) § =(A+B)(α ⃗ )+(A+B)(β ⃗) ○ 证明：线性变换的加法对数乘封闭 § (A+B)(kα ⃗ ) § =A(kα ⃗ )+B(kβ ⃗ ) § =kA(α ⃗ )+kB(α ⃗ ) § =k(A+B)(α ⃗) • 线性变换的数乘是线性变换 ○ 证明：线性变换的数乘对加法封闭 § (kA)(α ⃗+β ⃗ ) § =k(A(α ⃗+β ⃗ )) § =k(A(α ⃗ )+A(β ⃗ )) § =(kA)(α ⃗ )+(kA)(β ⃗) ○ 证明：线性变换的数乘对数乘封闭 § 证明略 • 定理 ○ 线性空间 V 上的所有线性变换 LT(V) 是线性空间 • 例子 26.3 线性变换的矩阵表示 • 引例 ○ 假设线性空间 V 和线性变换 A ○ 线性空间 V 内的任意向量都可以用一组基来表示 ○ 即 ∀α ⃗∈V, α ⃗=a_1 (ϵ_1 ) ⃗+…a_n (ϵ_n ) ⃗ ○ 将线性变换 A 作用在 α ⃗ 上，可以得到 ○ A(α ⃗ )=a_1 A((ϵ_1 ) ⃗ )+…+a_n A((ϵ_n ) ⃗ ) ○ 发现 A 在 α ⃗ 上的作用完全由 A 在基上的作用决定 • 性质1：线性变换由其在基上的作用决定 ○ A=B⇔A((ϵ_i ) ⃗ )=B((ϵ_i ) ⃗ ), i=1,2…n • 性质2： ∀(α_1 ) ⃗…(α_n ) ⃗ ,∃A s.t. A((ϵ_1 ) ⃗ )=(α_1 ) ⃗…A((ϵ_n ) ⃗ )=(α_n ) ⃗ ○ 构造 A(α ⃗ )=a_1 (α_1 ) ⃗+…a_n (α_n ) ⃗ 即满足条件 ○ 证明满足A((ϵ_i ) ⃗ )=(α_i ) ⃗ § A((ϵ_i ) ⃗ ) § =A(0(ϵ_1 ) ⃗+…+1(ϵ_i ) ⃗+…+0(ϵ_n ) ⃗ ) § =0(α_1 ) ⃗+…+1(α_i ) ⃗+…+0(α_n ) ⃗ § =(α_i ) ⃗ ○ 证明 A 对加法封闭 § A(α ⃗+β ⃗ ) § =A((a_1 (ϵ_1 ) ⃗+…+a_n (ϵ_n ) ⃗ )+(b_1 (ϵ_1 ) ⃗+…+b_n (ϵ_n ) ⃗ )) § =A((a_1+b_1 ) (ϵ_1 ) ⃗+…+(a_n+b_n ) (ϵ_n ) ⃗ ) § =(a_1+b_1 ) (α_1 ) ⃗+…+(a_n+b_n ) (α_n ) ⃗ § =A(α ⃗ )+A(β ⃗ ) ○ 证明 A 对数乘封闭 § A(kα ⃗ ) § =A(ka_1 (ϵ_1 ) ⃗+…+ka_n (ϵ_n ) ⃗ ) § =ka_1 (α_1 ) ⃗+…+ka_n (α_n ) ⃗ § =k(a_1 (α_1 ) ⃗+…+a_n (α_n ) ⃗ ) § =kA(α ⃗ ) ○ 证毕 • 定理1 ○ 线性空间 V 内取定一组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ ○ 任取 n 个向量 (α_1 ) ⃗…(α_n ) ⃗ ○ 存在唯一的 A，使得 A((ϵ_i ) ⃗ )=(α_i ) ⃗ (i=1,2…n) • 线性变换的矩阵 ○ 线性空间 V 内有一组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ ○ 将线性变换 A 作用在每一个基上，得到 § A((ϵ_1 ) ⃗ )=(α_1 ) ⃗=a_11 (ϵ_1 ) ⃗+a_21 (ϵ_2 ) ⃗+…a_n1 (ϵ_n ) ⃗ § A((ϵ_2 ) ⃗ )=(α_2 ) ⃗=a_12 (ϵ_1 ) ⃗+a_22 (ϵ_2 ) ⃗+…a_n2 (ϵ_n ) ⃗ § ⋮ § A((ϵ_n ) ⃗ )=(α_n ) ⃗=a_1n (ϵ_1 ) ⃗+a_2n (ϵ_2 ) ⃗+…a_nn (ϵ_n ) ⃗ ○ 即 (A((ϵ_1 ) ⃗ ),A((ϵ_2 ) ⃗ )…A((ϵ_n ) ⃗ ))=((ϵ_1 ) ⃗,(ϵ_2 ) ⃗…(ϵ_n ) ⃗ )A ○ 其中 A=(■8(a_11&a_12&…&a_1n@a_21&a_22&…&a_2n@⋮&⋮&⋮&⋮@a_n1&a_n2&…&a_nn )) 被称为 A 的矩阵 ○ 上式又可以写作 ○ A((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )=(A(ϵ_1 ) ⃗,…,A(ϵ_n ) ⃗)=((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )A • 定理2 ○ 内容 § 线性空间 V 内取定一组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ § 任意线性变换 A 都与其矩阵 A 一一对应 § 并且保持加法、数乘、乘法和逆 ○ 证明线性变换保持乘法 § AB((ϵ_1 ) ⃗…(ϵ_n ) ⃗ ) § =A(B((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )) § =A(((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )B § =(A(ϵ_1 ) ⃗…A(ϵ_n ) ⃗ )B § =(((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )A)B § =((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )(AB • 线性变换与矩阵之间的关系 ○ 线性空间 V 内有一组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ ○ 线性变换 A 对应的矩阵为 A ○ 向量 α ⃗ 的坐标为 (x_1…x_n ) ○ 经过线性变换后 A(α ⃗) 的坐标为 (y_1…y_n ) ○ 将 α ⃗ 用基底表示为 § α ⃗=((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )(■8(x_1@⋮@x_n )) ○ 故 A(α ⃗ ) 可以表示为 § A(α ⃗ )=A(((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )(■8(x_1@⋮@x_n ))) § =(A(ϵ_1 ) ⃗,…,A(ϵ_n ) ⃗ )(■8(x_1@⋮@x_n )) § =(((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )A)(■8(x_1@⋮@x_n )) § =((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )(A(■8(x_1@⋮@x_n ))) ○ 又因为 A(α ⃗ ) 用基底表示为 § A(α ⃗ )=((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )(■8(y_1@⋮@y_n )) ○ 故 (■8(y_1@⋮@y_n ))=A(■8(x_1@⋮@x_n )) • 定理3：线性变换在两组基下的矩阵相似，反之亦然 ○ 线性空间 V 内有两组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ 和 (η_1 ) ⃗…(η_2 ) ⃗ 满足 § ((η_1 ) ⃗,…,(η_2 ) ⃗ )=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )C ① § 其中 C 为过渡矩阵 ○ 线性变换 A 在 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ 下对应的矩阵为 A § 即 A((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )A ② ○ 线性变换 A 在 (η_1 ) ⃗…(η_2 ) ⃗ 下对应的矩阵为 B § 即 A((η_1 ) ⃗,…,(η_2 ) ⃗ )=((η_1 ) ⃗,…,(η_2 ) ⃗ )B ③ ○ 将 ① 代入 ③ 得 § A((η_1 ) ⃗,…,(η_2 ) ⃗ )=((η_1 ) ⃗,…,(η_2 ) ⃗ )B=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )CB ○ 将 ② 代入 ③ 得 § A((η_1 ) ⃗,…,(η_2 ) ⃗ )=A((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )C=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )AB ○ 故 CB=AB⇒B=C^(−1) AC ○ 即得证](https://shawnzhong.com/wp-content/uploads/2017/08/img_59874139bea41.png)
![28.1 不相容方程组的最小二乘解 • 不相容线性方程组 ○ 一般的线性方程组 Ax ⃗=b ⃗ 无解 • 最小二乘解 ○ 使得 Ax ⃗−b 最小的 x ⃗^∗ ○ 即求 min|Ax ⃗−b| ○ 其中 Ax ⃗−b 称为残差向量 • R3 中的例子 • 更高维下的例子 ○ Ax ⃗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1@⋮@x_s ))=x_1 (α_1 ) ⃗+…+x_s (α_s ) ⃗∈L((α_1 ) ⃗,…,(α_s ) ⃗ ) ○ 是否当 (Ax ⃗−b)⊥(α_i ) ⃗ (i=1,2…s) 时，|Ax ⃗−b| 最小？ ○ 将取最小值时的 Ax ⃗^∗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1^∗@⋮@x_s^∗ )) 记为 α ⃗，显然有 α ⃗∈W ○ 即 (α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) ○ 要证：|α ⃗−b ⃗ |≤|β ⃗−b ⃗ |，其中 β ⃗ 为 W 内的其他向量 ○ |β ⃗−b ⃗ |^2=|β ⃗−α ⃗+α ⃗−b ⃗ |^2 ○ =(β ⃗−α ⃗ )^2+(α ⃗−b ⃗ )^2+2(β ⃗−α ⃗ )⋅(α ⃗−b ⃗ ) ○ 当 (α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) 时，(β ⃗−α ⃗ )⋅(α ⃗−b ⃗ )=0 最小 ○ 即 |β ⃗−b ⃗ |^2=(β ⃗−α ⃗ )^2+(α ⃗−b ⃗ )^2 取得最小值 • 解法 ○ 令 α ⃗=Ax ⃗^∗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1^∗@⋮@x_s^∗ ))=x_1^∗ (α_1 ) ⃗+…+x_s^∗ (α_s ) ⃗ ○ min|Ax ⃗−b| ○ ⇒(α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) ○ ⇒{█((Ax ⃗^∗−b ⃗ )⋅(α_1 ) ⃗=0@(Ax ⃗^∗−b ⃗ )⋅(α_2 ) ⃗=0@⋮@(Ax ⃗^∗−b ⃗ )⋅(α_s ) ⃗=0)┤ ○ ⇒{█((α_1 ) ⃗^T (Ax ⃗^∗−b ⃗ )=0@(α_2 ) ⃗^T (Ax ⃗^∗−b ⃗ )=0@⋮@(α_s ) ⃗^T (Ax ⃗^∗−b ⃗ )=0)┤ ○ ⇒A^T (Ax ⃗^∗−b ⃗ )=0 ○ ⇒A^T Ax ⃗=A^T b ⃗ ○ 注：上式被称为原方程的正规方程 • 例：求不相容线性方程组 {█(x_1+4x_2=−2@x_1+2x_2=6@2x_1+3x_2=1)┤ 的最小二乘解 ○ A=(■8(1&4@1&2@2&3)), b ⃗=(■8(−2@6@1)) ○ 由正规方程 A^T Ax ⃗=A^T b ⃗ ○ 解得 x ⃗=(■8(3@−1)) 28.2 多项式插值 • 引例 ○ 已知点 (x_0,y_0 )…(x_n,y_n ) ○ 求插值多项式 y=f(x)=a_0+a_1 x+…+a_n x^n ○ 将所有点代入得 ○ {█(a_0+a_1 x_0+…+a_n x_0^n=y_1@⋮@a_0+a_1 x_n+…+a_n x_n^n=y_n )┤ ○ A=(■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n )) 为范德蒙矩阵非奇异 ○ 故一定有解 • 例子：求过 (1,2),(2,3),(3,6) 的插值多项式 ○ y=a_0+a_1 x+a_2 x^2 ○ (■8(1&1&1@1&2&4@1&3&9))(■8(a_1@a_2@a_3 ))=(■8(2@3@6)) ○ ⇒{█(a_0=3@a_1=−2@a_2=1)┤ ○ ⇒y=3−2x+x^2 28.3 数值积分 • 思路 ○ 要算 I(f)=∫_a^b▒f(x)dx 的数值积分 ○ 若找到多项式 p(x)~f(x)，则 I(f)~I(p) • 法一 ○ 取点 § (x_0,f(x_0 )),(x_1,f(x_1 ))…(x_n,f(x_n )) ○ 插值 § p(x)=a_0+a_1 x+…+a_n x^n § (■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n )) (■8(a_0@a_1@a_2@⋮@a_n ))=(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) ○ 积分 § ∫_a^b▒p(x)dx § =a_0 ∫_a^b▒dx+a_1 ∫_a^b▒xdx+…+a_n ∫_a^b▒〖x^n dx〗 § =(∫_a^b▒dx,∫_a^b▒xdx…∫_a^b▒〖x^n dx〗)(■8(a_0@a_1@a_2@⋮@a_n )) § =(∫_a^b▒dx,∫_a^b▒xdx…∫_a^b▒〖x^n dx〗) (■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n ))^(−1) (■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) • 法二 ○ 在 f 上取点 (x_0,f(x_0 )),(x_1,f(x_1 ))…(x_n,f(x_n )) ○ 插值函数 p(x)=a_0+a_1 x+…+a_n x^n ○ (■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n )) (■8(a_0@a_1@a_2@⋮@a_n ))=(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) ○ 若能找到 (A_0,…,A_n ) 使得 ○ (A_0,…,A_n )(■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n ))=(∫_a^b▒dx,∫_a^b▒xdx…∫_a^b▒〖x^n dx〗) ○ 则 ∫_a^b▒p(x)dx=(∫_a^b▒dx,∫_a^b▒xdx…∫_a^b▒〖x^n dx〗)(■8(a_0@a_1@a_2@⋮@a_n )) ○ =(A_0,…,A_n )(■8(1&x_0&x_0^2&…&x_1^n@1&x_1&x_1^2&…&x_2^n@1&x_2&x_2^2&…&x_3^n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_n^n ))(■8(a_0@a_1@a_2@⋮@a_n ))=(A_0,…,A_n )(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) • 例子：取三个点 ○ 得到 f(a),f((a+b)/2),f(b) ○ V_3=(■8(1&1&1@a&(a+b)/2&b@a^2&((a+b)/2)^2&b^2 )), b ⃗=(■8(∫_a^b▒dx@∫_a^b▒xdx@∫_a^b▒〖x^2 dx〗))=(■8(b−a@(b^2−a^2)/2@(b^3−a^3)/3)) ○ V_3 (■8(A_0@A_1@A_2 ))=b ⃗ ○ (■8(1&1&1&b−a@a&(a+b)/2&b&(b^2−a^2)/2@a^2&((a+b)/2)^2&b^2&(b^3−a^3)/3))→(■8(1&1&1&b−a@0&1&2&b−a@0&0&1&(b−a)/6)) ○ ⇒A_0=A_2=(b−a)/6, A_1=2/3 (b−a) ○ ∫_a^b▒f(x)dx~∫_a^b▒p(x)dx=(b−a)/6 [f(a)+4f((a+b)/2)+f(b)] ○ 上式被称为 Simpson 公式 • 注：取两个点可得梯形公式 ○ (b−a)/2[f(a)+f(b)]](https://shawnzhong.com/wp-content/uploads/2017/08/img_59874167d91ea.png)
![27.1 广义内积 • Rn 中的内积、长度和角度 ○ α ⃗⋅β ⃗=a_1 b_1+…a_n b_n ○ ‖■8(α ⃗ )‖=√(α ⃗⋅α ⃗ ) ○ ∠(α ⃗,β ⃗ )=arccos〖(α ⃗⋅β ⃗)/‖■8(α ⃗ )‖‖■8(β ⃗ )‖ 〗 • 广义内积 ○ V 是 R 上的线性空间 ○ 二元实函数 (α ⃗,β ⃗) 被称为内积，若满足 ○ 对称性 § (α ⃗,β ⃗ )=(β ⃗,α ⃗) ○ 双线性 § (kα ⃗,β ⃗ )=k(α ⃗,β ⃗ ) § (α ⃗+β ⃗,γ ⃗ )=(α ⃗,γ ⃗ )+(β ⃗,γ ⃗ ) ○ 非负性（正定性） § (α ⃗,α ⃗ )≥0 § (α ⃗,α ⃗ )=0⇔α ⃗=0 ⃗ ○ 此时称 V 为欧氏空间或内积空间 ○ 记作 E^n (Euclidean) • n×n 方阵 R(n×n) 中的内积 ○ (A,B)=tr(〖AB〗^T ) ○ 证明对称性 § (A,B)=tr(〖AB〗^T )=tr((〖AB〗^T )^T )=tr(〖BA〗^T )=(B,A) ○ 证明双线性 § (kA,B)=tr(〖kAB〗^T )=k⋅tr(〖AB〗^T )=k(A,B) § (A+B,C)=tr((A+B) C^T )=tr(AC^T+BC^T ) § =tr(AC^T )+tr(BC^T )=(A,C)+(B,C) ○ 证明非负性 § (A,A)=tr(〖AA〗^T )=a_11^2+a_12^2+…+a_nn^2≥0 § (A,A)=0⇔A=0 • [a,b]上所有实连续函数 C[a,b] 的内积 ○ (f,g)=∫_a^b▒f(x)g(x)dx ○ 证明略 • 由广义内积自然诱导的长度（范数） ○ |α ⃗ |=√((α ⃗,α ⃗)) ○ 正定性 § |α ⃗ |≥0 § |α ⃗ |=0⇔α ⃗=0 ⃗ ○ 绝对齐次 § |kα ⃗ |=|k||α ⃗ | ○ 三角不等式 § |α ⃗+β ⃗ |≤|α ⃗ |+|β ⃗ | § 证明见柯西-布尼亚科夫斯基-施瓦茨不等式 § {█((α ⃗+β ⃗,α ⃗+β ⃗ )≤(α ⃗,α ⃗ )+(β ⃗,β ⃗ )+2|α ⃗ ||β ⃗ |@(α ⃗+β ⃗,α ⃗+β ⃗ )=(α ⃗,α ⃗ )+2(α ⃗,β ⃗ )+(β ⃗,β ⃗))┤ § ⇒(α ⃗,β ⃗ )≤|α ⃗ ||β ⃗ | ○ 将三角不等式应用于 Rn § (α ⃗,β ⃗ )=a_1 b_1…a_n b_n § ⇒|a_1 b_1…a_n b_n |≤√(∑_(i=1)^n▒a_i^2 ) √(∑_(i=1)^n▒b_i^2 ) ○ 将三角不等式应用于 c[a,b] § (f,g)=∫_a^b▒f(x)g(x)dx § ⇒|∫_a^b▒f(x)g(x)dx|≤√(∫_a^b▒〖f(x)^2 dx〗) √(∫_a^b▒〖g(x)^2 dx〗) • 由广义内积自然诱导的距离 ○ d=|α ⃗−β ⃗ | • 由广义内积自然诱导的角度 ○ θ=arccos〖((α ⃗,β ⃗ ))/|α ⃗ ||β ⃗ | 〗, 0<θ<π ○ 正交（垂直） § α ⃗⊥β ⃗⇔(α ⃗,β ⃗ )=0⇔θ=π/2 ○ 零向量 § 零向量垂直任何向量 § 只有零向量和自身垂直 ○ 勾股定理 (Pythagorean theorem) § α ⃗⊥β ⃗⇔|α ⃗+β ⃗ |^2=|α ⃗ |^2+|β ⃗ |^2 § |α ⃗+β ⃗ |^2=(α ⃗+β ⃗,α ⃗+β ⃗ ) § =(α ⃗,α ⃗ )+2(α ⃗,β ⃗ )+(β ⃗,β ⃗ ) § =(α ⃗,α ⃗ )+(β ⃗,β ⃗ ) § =|α ⃗ |^2+|β ⃗ |^2 ○ 广义勾股定理 § (α_1 ) ⃗,(α_2 ) ⃗,…,(α_n ) ⃗ 两两正交，则 § |(α_1 ) ⃗+…+(α_n ) ⃗ |=|(α_1 ) ⃗ |^2+…+|(α_n ) ⃗| 27.2 标准正交基 • 度量矩阵 ○ 欧几里得空间 E^n 中有一组基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ ○ α ⃗=x_1 (ϵ_1 ) ⃗+…+x_n (ϵ_n ) ⃗ ○ β ⃗=y_1 (ϵ_1 ) ⃗+…+y_n (ϵ_n ) ⃗ ○ (α ⃗,β ⃗ )=∑_(i=1)^n▒∑_(j=1)^n▒〖x_i y_j ((ϵ_i ) ⃗,(ϵ_j ) ⃗)〗 ○ =(x_1,…,x_n)(■8(a_11&a_12&…&a_1n@a_21&a_22&…&a_2n@⋮&⋮&⋮&⋮@a_n1&a_n2&…&a_nn ))(■8(y_1@⋮@y_n )) ○ 其中 a_ij=((ϵ_i ) ⃗,(ϵ_j ) ⃗ ) ○ A=(a_ij )_(n×n) 叫做内积的度量矩阵 • 标准正交基 ○ ((ϵ_i ) ⃗,(ϵ_j ) ⃗ )={█(1, i=j@0, i≠j)┤⇔A_(n×n)=I_n ○ 此时 (α ⃗,β ⃗ )=(x_1,…,x_n )I(■8(y_1@⋮@y_n ))=x_1 y_1+…+x_n y_n • 定理：两个标准正交基之间的过渡矩阵为正交矩阵，反之亦然 ○ 欧氏空间 E^n 内的两组标准正交基 (ϵ_1 ) ⃗…(ϵ_n ) ⃗ 和 (η_1 ) ⃗…(η_2 ) ⃗ ○ 且满足 ((η_1 ) ⃗,…,(η_2 ) ⃗ )=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )C ○ 要证：C^T C=I ○ ((η_1 ) ⃗,…,(η_2 ) ⃗ )=((ϵ_1 ) ⃗,…,(ϵ_n ) ⃗ )(■8(c_11&c_12&…&c_1n@c_21&c_22&…&c_2n@⋮&⋮&⋮&⋮@c_n1&c_n2&…&c_nn )) ○ 又因为 ((η_i ) ⃗,(η_j ) ⃗ )={█(1, i=j@0, i≠j)┤ ○ 故 c_1i c_1j+c_2i c_2j+…+c_1n c_1n={█(1, i=j@0, i≠j)┤ ○ 即 C 是正交矩阵 27.3 正交变换 • 定义 ○ 欧氏空间 E^n 中，保持内积不变的线性变换称为正交变换 ○ ∀α ⃗,β ⃗∈E^n, (Aα ⃗,Aβ ⃗ )=(α ⃗,β ⃗ ) ○ 几何中定义为保持距离不变的变换 • 例子：旋转 ○ R2 中的两个向量 (α_1 ) ⃗=(■8(x_1@y_1 )), (α_2 ) ⃗=(■8(x_2@y_2 )) ○ 经过旋转 θ 后得到 (β_1 ) ⃗=(■8(x_1′@y_1′)),(β_2 ) ⃗=(■8(x_2′@y_2′)) ○ ((α_1 ) ⃗,(α_2 ) ⃗ )=(α_1 ) ⃗^T (α_2 ) ⃗=x_1 x_2+y_1 y_2 ○ 令 A=(■8(cosθ&−sinθ@sinθ&cosθ))，则有 A^T A=I ○ ((β_1 ) ⃗,(β_2 ) ⃗ )=(β_1 ) ⃗^T (β_2 ) ⃗=(A(α_1 ) ⃗ )^T (A(α_2 ) ⃗ )=(α_1 ) ⃗^T A^T A(α_2 ) ⃗=(α_1 ) ⃗^T (α_2 ) ⃗ ○ 故 ((α_1 ) ⃗,(α_2 ) ⃗ )=((β_1 ) ⃗,(β_2 ) ⃗ ) • 定理 ○ A 是欧氏空间 E^n 中的线性变换，以下命题等价 1. A 是正交变换 (Aα ⃗,Aβ ⃗ )=(α ⃗,β ⃗ ) 2. A 保持长度不变 |Aα ⃗ |=|α ⃗ | 3. (ϵ_1 ) ⃗…(ϵ_n ) ⃗ 是标准正交基 ⇒A(ϵ_1 ) ⃗…A(ϵ_n ) ⃗ 也是标准正交基 4. A 在任意标准正交基下的矩阵都是正交矩阵 ○ 证明 1⇒2 § (Aα ⃗,Aα ⃗ )=(α ⃗,α ⃗ ) § ⇒|Aα ⃗ |^2=|α ⃗ |^2 § ⇒|Aα ⃗ |=|α ⃗ | ○ 证明 2⇒1 § (Aα ⃗,Aα ⃗ )=(α ⃗,α ⃗ ) § (Aβ ⃗,Aβ ⃗ )=(β ⃗,β ⃗ ) § (A(α ⃗+β ⃗),A(α ⃗+β ⃗))=(α ⃗+β ⃗,α ⃗+β ⃗ ) § 对于上式 {█(左=(Aα ⃗,Aα ⃗ )+(Aβ ⃗,Aβ ⃗ )+2(Aα ⃗,Aβ ⃗ )@右=2(α ⃗,β ⃗ )+(α ⃗,α ⃗ )+(β ⃗,β ⃗ ) )┤ § 故 (Aα ⃗,Aβ ⃗ )=(α ⃗,β ⃗ ) ○ 证明 1⇒3 § (A(ϵ_i ) ⃗,A(ϵ_j ) ⃗ )=((ϵ_i ) ⃗,(ϵ_j ) ⃗ )={█(1, i=j@0, i≠j)┤ ○ 证明 3⇒1 § {█(α ⃗=x_1 (ϵ_1 ) ⃗+…+x_n (ϵ_n ) ⃗@β ⃗=y_1 (ϵ_1 ) ⃗+…+y_n (ϵ_n ) ⃗ )┤⇒(α ⃗,β ⃗ )=∑_(i=1)^n▒∑_(j=1)^n▒〖x_i y_j 〗 § {█(Aα ⃗=x_1 A(ϵ_1 ) ⃗+…+x_n A(ϵ_n ) ⃗@Aβ ⃗=y_1 A(ϵ_1 ) ⃗+…+y_n A(ϵ_n ) ⃗ )┤ § ∵A(ϵ_1 ) ⃗…A(ϵ_n ) ⃗ 是标准正交基 § ∴(Aα ⃗,Aβ ⃗ )=∑_(i=1)^n▒∑_(j=1)^n▒〖x_i y_j 〗 ○ 证明 4⇔3 § A((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )=((ϵ_1 ) ⃗…(ϵ_n ) ⃗ )A § 由 27.2 的定理简单可得](https://shawnzhong.com/wp-content/uploads/2017/08/img_5987414f6b6d1.png)