还剩58页未读,继续阅读
本资源只提供10页预览,全部文档请下载后查看!喜欢就下载吧,查找使用更方便
文本内容:
线性代数之美探索数学世界最优美的分支之一引言为什么学习线性代数?培养抽象思维能力提供强大数学工具箱现代科技的核心基础训练逻辑推理和空间想象解决复杂问题的基础框架线性代数的应用领域前沿科技人工智能、量子计算数据科学统计分析、机器学习工程与设计计算机图形、电路分析自然科学物理、化学、生物学第一章向量空间向量线性组合空间中的基本元素构建复杂结构基和维数张成空间空间的骨架结构可达到的全部范围向量的定义代数定义几何定义物理定义有序数组x₁,x₂,...,x有向线段具有大小和方向的物理量ₙ包含大小和方向信息从原点指向空间中某点如速度、力、加速度向量的几何表示二维向量三维向量高维向量平面上的箭头,有x和y分量空间中的箭头,有x、y和z分量无法直观可视化,但数学性质相同向量运算加法和数乘向量加法平行四边形法则或头尾相连法数乘运算改变向量的长度,可能改变方向代数运算各分量分别计算线性组合定义v=c₁v₁+c₂v₂+...+c vₙₙ几何意义向量的缩放和相加应用构建新向量,表达空间中的点重要性连接代数运算与几何直观张成空间定义几何解释所有可能的线性组合构成的集合原始向量能到达的所有点例子一个向量直线两个非平行向量平面三个线性无关向量三维空间线性相关与线性无关线性相关线性无关一个向量可表示为其他向量的线性组合没有向量可表示为其他向量的线性组合基和维数基的定义基的唯一性维数线性无关向量组,能张表示方式不唯一,但维基中向量的数量成整个空间数固定基变换同一向量在不同基下的坐标转换第二章矩阵与线性变换矩阵线性变换数据的矩形排列保持线性结构的映射几何解释对应关系空间的旋转、缩放、投影等变换每个线性变换对应唯一矩阵矩阵的定义m×n矩阵m行n列数字的矩形排列元素表示aᵢⱼ表示第i行第j列的元素方阵行数等于列数的矩阵行向量只有一行的矩阵列向量只有一列的矩阵矩阵运算加法和乘法1矩阵加法2数乘运算对应位置元素相加每个元素乘以标量3矩阵乘法4注意事项行与列的点积组成新矩阵乘法不满足交换律特殊矩阵单位矩阵和对角矩阵特殊矩阵具有独特性质,简化计算和分析线性变换的概念定义保持加法和数乘运算的映射保持性质直线映射为直线,原点不变常见变换旋转、缩放、投影、对称、错切数学表达Tu+v=Tu+TvTcv=cTv矩阵与线性变换的关系1n²一一对应自由度每个线性变换都有唯一矩阵表示n维空间中线性变换的参数个数AB复合变换矩阵乘法对应变换的复合线性变换的几何解释旋转缩放投影保持距离,改变方向改变长度,方向不变或降维操作,信息损失反向错切非均匀变形,平行性保持第三章线性方程组解的存在性方程是否有解解的唯一性2解是唯一还是有无穷多个解的求法高斯消元法等算法几何意义超平面的交点线性方程组的矩阵表示标准形式矩阵表示a₁₁x₁+a₁₂x₂+...=b₁Ax=ba₂₁x₁+a₂₂x₂+...=b₂A:系数矩阵...x:未知量向量b:常数向量高斯消元法增广矩阵将系数矩阵A和常数向量b合并行初等变换将矩阵转化为行梯形式回代求解从最后一个方程开始代回求解算法复杂度On³,n为未知数个数矩阵的秩定义性质应用线性无关的行或列的最大数量行秩等于列秩判断方程组解的情况高斯消元后非零行数确定向量组线性相关性齐次线性方程组形式零解Ax=0始终存在平凡解x=0解空间判定条件矩阵A的零空间有非零解当且仅当rankAn非齐次线性方程组形式解的结构解的存在条件Ax=b b≠0通解=特解+齐次方程组的通解rankA=rank[A|b]第四章行列式定义几何意义方阵的一个标量函数体积缩放因子应用性质判断矩阵可逆性,解方程线性性、转置不变等行列式的定义矩阵2×21detA=a₁₁a₂₂-a₁₂a₂₁矩阵3×32沙鲁法则或余子式展开矩阵n×n3排列定义或递归定义行列式的性质交换行列线性性转置不变乘法性质行列式变号对行或列满足线性关detA=detAᵀdetAB=系detA·detB行列式的计算方法直接公式法适用于低阶矩阵余子式展开法递归计算,选择零元素多的行或列初等变换法转换为上三角形式后对角线乘积数值计算法LU分解或其他数值算法克莱姆法则定理描述解的表达式线性方程组的解可用行列式比值xᵢ=detAᵢ/detA表示应用场景适合求解小型方程组理论分析而非数值计算行列式的几何意义行列式的绝对值表示基向量构成的几何体体积正负号表示定向是否发生改变第五章特征值和特征向量基本概念矩阵的特征求解方法特征方程与根的计算对角化简化矩阵表示应用主成分分析,微分方程等特征值和特征向量的定义数学定义几何解释Av=λv特征向量变换后方向不变的向量λ:特征值特征值伸缩比例v:对应的特征向量v≠0特征方程方程推导从Av=λv到detA-λI=0多项式形式n阶方阵得到n次多项式求解特征值计算多项式根求解特征向量解齐次方程A-λIv=0对角化概念1将矩阵转换为对角矩阵形式条件2n个线性无关特征向量变换式3A=PDP⁻¹优势4简化矩阵幂运算,指数计算相似矩阵定义性质B=P⁻¹AP,A与B相似相似矩阵有相同特征值几何意义应用同一线性变换在不同基下的表示简化矩阵,便于计算和分析特征值在应用中的意义数据分析物理振动稳定性分析主成分分析中表示方差大小表示系统固有频率判断动态系统稳定性第六章正交性与最小二乘法内积正交性向量间的相似度向量间的垂直概念2最小二乘投影最佳拟合与误差最小化将向量分解到其他向量上内积和正交性内积定义几何解释正交条件u,v=u₁v₁+u₂v₂+...+u v|u||v|cosθu,v=0⟨⟩ₙₙ⟨⟩=uᵀv向量长度和夹角的函数两向量垂直正交基和标准正交基正交基基向量两两正交标准正交基正交基中每个向量长度为1优势简化计算,便于表示保持距离和角度构造方法施密特正交化过程正交投影定义向量到子空间的最短距离计算公式proj_wv=v·w/w·w·w投影矩阵3P=AAᵀA⁻¹Aᵀ最小二乘法1问题描述2目标函数求解Ax=b无解时的最佳近似解最小化||Ax-b||²3数学解4几何意义x=AᵀA⁻¹Aᵀb b到A列空间的正交投影最小二乘法的应用线性回归曲线拟合信号处理找到最佳拟合直线多项式或其他函数拟合数据去噪和信号重建第七章奇异值分解矩阵分解A=UΣVᵀ低秩近似保留主要奇异值几何解释3旋转-缩放-旋转变换应用广泛数据压缩、图像处理、推荐系统奇异值分解的概念分解形式奇异值A=UΣVᵀΣ对角线上非负实数U:m×m正交矩阵按降序排列Σ:m×n对角矩阵表示变换在主轴上的缩放V:n×n正交矩阵奇异值分解的计算计算AᵀA得到对称非负定矩阵求解特征值和特征向量特征值λᵢ,特征向量vᵢ计算奇异值σᵢ=√λᵢ计算左奇异向量uᵢ=Avᵢ/σᵢ奇异值分解的几何解释转置操作V源空间中的旋转/反射操作2Σ主轴方向的缩放操作U目标空间中的旋转/反射奇异值分解在数据压缩中的应用保留最大的k个奇异值可获得最佳k秩近似压缩比与信息保留量的权衡第八章线性代数在机器学习中的应用数据降维回归预测深度学习PCA,t-SNE等算法线性回归与最小二乘法神经网络中的矩阵运算分类算法SVM,LDA等主成分分析()PCA降维操作特征值分解投影到前k个主成分计算步骤特征向量为主成分方向目标数据中心化,计算协方差矩阵寻找数据最大方差方向线性回归模型表示参数估计几何解释y=Xβ+εβ̂=XᵀX⁻¹Xᵀy将输出向量投影到特征列空间X:特征矩阵最小二乘解β:系数向量ε:误差项支持向量机()SVM1目标寻找最大间隔超平面2数学表示wᵀx+b=0∞核技巧隐式高维映射x·y核函数Kx,y=φx·φy第九章线性代数在图形学中的应用几何变换光线追踪动画与物理旋转、平移、缩放的矩阵表示向量计算光线反射和折射刚体运动和物理模拟和变换2D3D齐次坐标将所有变换统一为矩阵乘法计算机图形学中的矩阵运算模型变换将物体从局部坐标转换到世界坐标视图变换从世界坐标到相机坐标投影变换从3D空间投影到2D屏幕视口变换映射到屏幕像素坐标第十章线性代数在量子力学中的应用希尔伯特空间量子态的数学描述状态向量量子比特的表示量子门线性变换作为量子操作测量观测过程的投影操作量子态的表示量子比特向量表示多量子比特|0和|1为基态|0=[1,0]ᵀ张量积表示复合系统⟩⟩⟩|ψ=α|0+β|1,|α|²+|β|²=1|1=[0,1]ᵀ|ψ₁|ψ₂⟩⟩⟩⟩⟩⊗⟩|ψ=[α,β]ᵀ⟩量子门操作的矩阵表示Pauli-X门比特翻转,类似于NOTHadamard门创建叠加态CNOT门双量子比特门,条件翻转相位门改变量子态相位酉矩阵性质保持概率和为1总结线性代数的美简洁统一用简单概念表达复杂系统连接不同领域的共同语言应用几何解决实际问题的强大工具视觉化的数学思维线性代数的统一性和普适性自然科学物理、化学、生物的数学语言工程技术计算机、通信、控制系统社会科学经济学、社会网络分析艺术与设计计算机图形、声音处理未来展望线性代数的发展方向人工智能量子计算新型神经网络架构和算法量子算法和量子信息理论生物信息学教育创新基因组数据分析与建模可视化教学和交互式学习。
个人认证
优秀文档
获得点赞 0