《线性代数与方程求解》课件

线性代数与方程求解线性代数基础知识与方程求解方法课程概述课程目标掌握线性代数核心概念主要内容向量空间、矩阵运算、方程求解学习方法第一章线性代数基础矩阵数的矩形阵列向量具有大小和方向的量行列式向量的定义与表示几何向量代数向量n维向量有大小和方向的几何量有序数组表示向量运算向量加法数乘点积对应分量相加每个分量乘以常数对应分量乘积之和a₁,a₂+b₁,b₂=a₁+b₁,a₂+b₂k·a₁,a₂=k·a₁,k·a₂向量的线性相关性线性相关的定义判断方法实例分析存在不全为零的系数使向量线性组解向量方程或检查秩合为零向量矩阵的定义与表示矩阵的概念1按行列排列的数表特殊矩阵类型2单位矩阵、对角矩阵、对称矩阵矩阵的维度3m×n表示m行n列矩阵运算

（一）矩阵加法同型矩阵对应元素相加矩阵数乘每个元素乘以常数矩阵乘法行乘列得到新矩阵矩阵运算

（二）矩阵转置行列互换逆矩阵乘积为单位矩阵矩阵的秩线性无关行/列的最大数目行列式的定义行列式是方阵的一个标量值反映矩阵的可逆性质行列式的性质1转置不变性2行列式展开可按任一行或列展开|A|=|Aᵀ|3代数余子式去掉某行某列后的子行列式行列式的计算方法三角化法行变换化为上三角形式拉普拉斯展开按行或列展开计算克拉默法则求解线性方程组的特殊方法第二章线性方程组求解方法概述消元法、矩阵法线性方程组的表示解的结构系数矩阵与增广矩阵唯一解、无穷多解或无解线性方程组的矩阵表示系数矩阵增广矩阵向量形式方程组中变量系数组成的矩阵系数矩阵添加常数列Ax=b线性方程组的解的类型唯一解无穷多解无解当且仅当系数矩阵满秩系数矩阵秩小于变量数且等于增广系数矩阵秩小于增广矩阵秩矩阵秩高斯消元法

（一）消元过程逐步消去未知数回代过程从下往上求解每个未知数实例演示具体步骤解析高斯消元法

（二）12主元选择部分主元消去法选择最大元素作为主元提高计算稳定每一列选最大元素作主元性3全主元消去法在整个矩阵中选最大元素矩阵的初等变换行变换列变换等价矩阵交换两行、行乘常数、行加上另一行的交换两列、列乘常数、列加上另一列的通过初等变换互相转化的矩阵倍数倍数线性方程组的矩阵解法逆矩阵法克拉默法则x=A⁻¹b利用行列式求解适用于系数矩阵可逆情况仅适用于方程数等于未知数且有唯一解适用条件分析不同方法的效率与局限性齐次线性方程组定义与特点Ax=0，总有零解基础解系通解的一组基通解的表示基础解系的线性组合非齐次线性方程组与齐次方程组的关系1通解=齐次通解+特解特解与通解2方程Ax=b的一个解+对应齐次方程的通解求解步骤3先求特解，再求齐次通解，最后求完全通解第三章向量空间向量空间的定义满足加法和数乘运算的集合子空间向量空间的子集基与维数表示空间的最小向量组向量空间的定义与性质加法封闭性对任意向量u,v∈V，有u+v∈V加法交换律对任意向量u,v∈V，有u+v=v+u加法结合律对任意向量u,v,w∈V，有u+v+w=u+v+w加法零元存在0∈V，使得对任意v∈V，有v+0=v加法逆元对任意v∈V，存在-v∈V，使得v+-v=0子空间子空间的定义生成子空间子空间的交与和满足向量空间运算的子由向量组张成的空间两个子空间的交集与和集空间线性无关与线性相关定义回顾判断方法几何解释线性组合为零向量仅有零系数解向量组成矩阵的秩等于向量个数二维空间中两向量不共线，三维空间中三向量不共面基与维数1基的定义2维数的概念线性无关且张成整个空间的向基中向量的个数量组3基变换从一组基到另一组基的转换坐标与坐标变换不同基下的坐标2同一向量在不同基下的不同表示向量的坐标表示向量在基下的系数坐标变换矩阵基之间的变换关系第四章线性变换线性变换的定义保持线性结构的映射矩阵表示每个线性变换对应唯一矩阵特征值与特征向量变换的不变方向与缩放因子线性变换的定义与性质定义线性性质保持加法和数乘运算Tαu+βv=αTu+βTv常见线性变换旋转、反射、投影、伸缩线性变换的矩阵表示标准矩阵坐标变换与矩阵乘法实例分析线性变换对基向量作用结果旋转、反射等变换的矩阵Tv=Av线性变换的核与像核空间的定义像空间的定义维数定理被映射为零向量的所有向量集合变换后得到的向量集合dim kerT+dim ImT=dim V特征值与特征向量

（一）定义Av=λv，v≠0特征方程detA-λI=0求解方法解特征方程得特征值，再求对应特征向量特征值与特征向量

（二）特征空间对角化条件对应特征值的所有特征向量及n阶矩阵有n个线性无关特征零向量向量应用实例求矩阵幂、解微分方程第五章正交性与最小二乘法正交投影向量在子空间上的投影内积空间定义了内积的向量空间最小二乘问题最佳近似解的求解内积与正交性内积的定义正交向量u,v=u₁v₁+u₂v₂+...+uₙvₙu,v=0⟨⟩⟨⟩施密特正交化构造正交基的方法正交基与标准正交基正交基的性质任意两个向量正交构造方法施密特正交化过程应用优势计算简便，数值稳定正交投影定义与性质向量到子空间的最短距离投影矩阵P=QQᵀQ⁻¹Qᵀ几何解释正交分解为子空间内分量与正交分量最小二乘问题

（一）求解方程Ax=b的近似解，使得||Ax-b||最小最小二乘问题

（二）正规方程QR分解法应用实例AᵀAx=Aᵀb A=QR，x=R⁻¹Qᵀb数据拟合、信号处理第六章特殊矩阵与分解对称矩阵正定矩阵矩阵分解方法A=AᵀxᵀAx0，对所有x≠0LU、QR、SVD等对称矩阵的性质定义特征值和特征向量A=Aᵀ，aᵢⱼ=aⱼᵢ所有特征值为实数，特征向量可正交对角化可被正交矩阵对角化正定矩阵定义与判别性质xᵀAx0，所有特征值为正可逆、主对角线元素为正应用二次型优化、稳定性分析分解LU定义1A=LU，L为下三角，U为上三角计算方法2高斯消元过程不交换行应用于求解线性方程组3分解一次，可多次求解不同右端向量分解QR定义A=QR，Q为正交矩阵，R为上三角2Gram-Schmidt正交化构造Q和R的基本方法应用于最小二乘问题求解Ax=b的最小二乘解奇异值分解（）SVD定义计算方法应用领域A=UΣVᵀ通过AAᵀ和AᵀA的特征值和特征向量压缩、降维、噪声过滤第七章迭代法求解线性方程组雅可比迭代法同时更新所有分量迭代法概述从初始估计逐步改进高斯-赛德尔迭代法逐个更新分量迭代法的基本思想1迭代公式2收敛性分析x⁽ᵏ⁺¹⁾=Mx⁽ᵏ⁾+c谱半径ρM1时收敛3误差估计误差界与收敛速度雅可比迭代法高斯赛德尔迭代法-算法改进使用已更新的分量收敛性比较通常比雅可比法收敛更快应用场景大型稀疏方程组方法SOR超松弛因子最优松弛因子的选择收敛性分析0ω2的参数取决于系数矩阵的特征适当选择ω可加速收敛共轭梯度法算法原理基于共轭方向的迭代法实现步骤计算残差和共轭方向优势与局限性对称正定系统快速收敛第八章特征值问题反幂法求最小模特征值幂法求最大模特征值QR算法求所有特征值幂法迭代公式x⁽ᵏ⁺¹⁾=Ax⁽ᵏ⁾/||Ax⁽ᵏ⁾||收敛到最大模特征值对应的特征向量反幂法与幂法的关系求最小特征值对A⁻¹应用幂法收敛到A⁻¹的最大特征值的倒数求特定特征值对A-μI⁻¹应用幂法求接近μ的特征值算法QR基本思想收敛性与复杂度QR分解与相似变换结合收敛到上三角形式，显示特征值123算法步骤A=QR，A←RQ迭代算法Lanczos算法原理实现步骤基于Krylov子空间构造三对角矩阵近似原矩阵特征值适用于大型稀疏矩阵仅需矩阵-向量乘法操作第九章数值稳定性与条件数舍入误差计算机浮点表示的固有限制病态问题输入小扰动引起输出大变化条件数问题敏感性的度量浮点数与舍入误差⁻

1.5×10¹⁶32机器精度单精度位数双精度浮点数的相对精度限制IEEE754单精度浮点表示位数64双精度位数IEEE754双精度浮点表示位数病态问题与条件数良态问题病态问题条件数输入扰动引起输出小变化输入扰动引起输出大变化condA=||A||·||A⁻¹||课程总结与展望主要内容回顾线性代数基础理论与方程求解方法实际应用领域计算机图形学、数据分析、机器学习进一步学习建议数值分析、优化理论、函数分析。