第28讲 线性代数的应用举例

28.1 不相容方程组的最小二乘解 • 不相容线性方程组 ○ 一般的线性方程组 Ax ⃗=b ⃗ 无解 • 最小二乘解 ○ 使得 Ax ⃗−b 最小的 x ⃗^∗ ○ 即求 min⁡|Ax ⃗−b| ○ 其中 Ax ⃗−b 称为残差向量 • R3 中的例子 • 更高维下的例子 ○ Ax ⃗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1@⋮@x_s ))=x_1 (α_1 ) ⃗+…+x_s (α_s ) ⃗∈L((α_1 ) ⃗,…,(α_s ) ⃗ ) ○ 是否当 (Ax ⃗−b)⊥(α_i ) ⃗ (i=1,2…s) 时，|Ax ⃗−b| 最小？ ○ 将取最小值时的 Ax ⃗^∗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1^∗@⋮@x_s∗ )) 记为 α ⃗，显然有 α ⃗∈W ○ 即 (α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) ○ 要证：|α ⃗−b ⃗ |≤|β ⃗−b ⃗ |，其中 β ⃗ 为 W 内的其他向量 ○ |β ⃗−b ⃗ |^2=|β ⃗−α ⃗+α ⃗−b ⃗ |^2 ○ =(β ⃗−α ⃗ )^2+(α ⃗−b ⃗ )^2+2(β ⃗−α ⃗ )⋅(α ⃗−b ⃗ ) ○ 当 (α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) 时，(β ⃗−α ⃗ )⋅(α ⃗−b ⃗ )=0 最小 ○ 即 |β ⃗−b ⃗ |^2=(β ⃗−α ⃗ )^2+(α ⃗−b ⃗ )^2 取得最小值 • 解法 ○ 令 α ⃗=Ax ⃗^∗=((α_1 ) ⃗,…,(α_s ) ⃗ )(■8(x_1^∗@⋮@x_s∗ ))=x_1^∗ (α_1 ) ⃗+…+x_s^∗ (α_s ) ⃗ ○ min⁡|Ax ⃗−b| ○ ⇒(α ⃗−b ⃗ )⊥(α_i ) ⃗ (i=1,2…s) ○ ⇒{█((Ax ⃗^∗−b ⃗ )⋅(α_1 ) ⃗=0@(Ax ⃗^∗−b ⃗ )⋅(α_2 ) ⃗=0@⋮@(Ax ⃗^∗−b ⃗ )⋅(α_s ) ⃗=0)┤ ○ ⇒{█((α_1 ) ⃗^T (Ax ⃗^∗−b ⃗ )=0@(α_2 ) ⃗^T (Ax ⃗^∗−b ⃗ )=0@⋮@(α_s ) ⃗^T (Ax ⃗^∗−b ⃗ )=0)┤ ○ ⇒A^T (Ax ⃗^∗−b ⃗ )=0 ○ ⇒A^T Ax ⃗=A^T b ⃗ ○ 注：上式被称为原方程的正规方程 • 例：求不相容线性方程组 {█(x_1+4x_2=−2@x_1+2x_2=6@2x_1+3x_2=1)┤ 的最小二乘解 ○ A=(■8(1&4@1&2@2&3)), b ⃗=(■8(−2@6@1)) ○ 由正规方程 A^T Ax ⃗=A^T b ⃗ ○ 解得 x ⃗=(■8(3@−1)) 28.2 多项式插值 • 引例 ○ 已知点 (x_0,y_0 )…(x_n,y_n ) ○ 求插值多项式 y=f(x)=a_0+a_1 x+…+a_n x^n ○ 将所有点代入得 ○ {█(a_0+a_1 x_0+…+a_n x_0^n=y_1@⋮@a_0+a_1 x_n+…+a_n x_n^n=y_n )┤ ○ A=(■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn )) 为范德蒙矩阵非奇异 ○ 故一定有解 • 例子：求过 (1,2),(2,3),(3,6) 的插值多项式 ○ y=a_0+a_1 x+a_2 x^2 ○ (■8(1&1&1@1&2&4@1&3&9))(■8(a_1@a_2@a_3 ))=(■8(2@3@6)) ○ ⇒{█(a_0=3@a_1=−2@a_2=1)┤ ○ ⇒y=3−2x+x^2 28.3 数值积分 • 思路 ○ 要算 I(f)=∫_a^b▒f(x)dx 的数值积分 ○ 若找到多项式 p(x)~f(x)，则 I(f)~I(p) • 法一 ○ 取点 § (x_0,f(x_0 )),(x_1,f(x_1 ))…(x_n,f(x_n )) ○ 插值 § p(x)=a_0+a_1 x+…+a_n x^n § (■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn )) (■8(a_0@a_1@a_2@⋮@a_n ))=(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) ○ 积分 § ∫_a^b▒p(x)dx § =a_0 ∫_a^b▒dx+a_1 ∫_a^b▒xdx+…+a_n ∫_a^b▒〖xn dx〗 § =(∫_a^b▒dx,∫_ab▒xdx…∫_a^b▒〖xn dx〗)(■8(a_0@a_1@a_2@⋮@a_n )) § =(∫_a^b▒dx,∫_ab▒xdx…∫_a^b▒〖xn dx〗) (■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn ))^(−1) (■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) • 法二 ○ 在 f 上取点 (x_0,f(x_0 )),(x_1,f(x_1 ))…(x_n,f(x_n )) ○ 插值函数 p(x)=a_0+a_1 x+…+a_n x^n ○ (■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn )) (■8(a_0@a_1@a_2@⋮@a_n ))=(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) ○ 若能找到 (A_0,…,A_n ) 使得 ○ (A_0,…,A_n )(■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn ))=(∫_a^b▒dx,∫_ab▒xdx…∫_a^b▒〖xn dx〗) ○ 则 ∫_a^{b▒p(x)dx=(∫_a}b▒dx,∫_a^{b▒xdx…∫_a}b▒〖x^n dx〗)(■8(a_0@a_1@a_2@⋮@a_n )) ○ =(A_0,…,A_n )(■8(1&x_0&x_0^2&…&x_1n@1&x_1&x_1^2&…&x_2n@1&x_2&x_2^2&…&x_3n@⋮&⋮&⋮&⋮&⋮@1&x_n&x_n^2&…&x_nn ))(■8(a_0@a_1@a_2@⋮@a_n ))=(A_0,…,A_n )(■8(f(x_0)@f(x_1)@f(x_2)@⋮@f(x_n))) • 例子：取三个点 ○ 得到 f(a),f((a+b)/2),f(b) ○ V_3=(■8(1&1&1@a&(a+b)/2&b@a^2&((a+b)/2)2&b^2 )), b ⃗=(■8(∫_a^b▒dx@∫_ab▒xdx@∫_a^b▒〖x2 dx〗))=(■8(b−a@(b^2−a2)/2@(b^3−a3)/3)) ○ V_3 (■8(A_0@A_1@A_2 ))=b ⃗ ○ (■8(1&1&1&b−a@a&(a+b)/2&b&(b^2−a2)/2@a^2&((a+b)/2)2&b^2&(b3−a^3)/3))→(■8(1&1&1&b−a@0&1&2&b−a@0&0&1&(b−a)/6)) ○ ⇒A_0=A_2=(b−a)/6, A_1=2/3 (b−a) ○ ∫_a^{b▒f(x)dx~∫_a}b▒p(x)dx=(b−a)/6 [f(a)+4f((a+b)/2)+f(b)] ○ 上式被称为 Simpson 公式 • 注：取两个点可得梯形公式 ○ (b−a)/2[f(a)+f(b)]