还剩48页未读,继续阅读
本资源只提供10页预览,全部文档请下载后查看!喜欢就下载吧,查找使用更方便
文本内容:
线性代数欢迎来到线性代数课程!本课程将探索数学中这一基础且强大的分支,它不仅是现代数学的核心组成部分,也是物理学、工程学、计算机科学和数据分析等众多领域的重要工具在这个学期中,我们将从向量空间的基础概念出发,深入探讨矩阵理论、线性变换、特征值与特征向量,以及内积空间等核心内容通过理论学习与实际应用相结合的方式,帮助大家建立对线性代数的直观理解和扎实掌握课程概述教师信息课程目标张教授,数学系掌握线性代数基本概念和应用评分方式教材作业,期中考试,期末考试《线性代数》第五版,同济大学出版社30%20%50%本课程将由数学系张教授主讲,他在线性代数领域有着丰富的教学和研究经验课程旨在帮助学生牢固掌握线性代数的基本概念与方法,并能熟练应用这些知识解决实际问题线性代数的重要性物理学应用计算机科学在量子力学中,量子态由希尔伯特空在计算机图形处理中,各种变换(如间中的向量表示,而观测量则由线性旋转、缩放、平移)都可以用矩阵运算子表示在电磁学中,矢量场的分算实现人工智能和机器学习算法的析离不开线性代数工具线性代数为核心,如神经网络、主成分分析等,物理学的数学模型提供了精确的描述都建立在线性代数的基础上能力工程与数据科学工程学中的结构分析、电路设计,以及控制系统都依赖线性代数方法数据科学中的主成分分析、奇异值分解等重要技术,为数据降维和特征提取提供了强大工具第一部分向量空间基础基和维数空间结构的骨架向量空间及其性质抽象代数结构向量运算加法、数乘及其性质向量的概念与表示线性代数的基本对象向量空间是线性代数的核心概念,它为我们提供了一个统一的框架来理解各种线性结构在这一部分中,我们将从向量的基本概念出发,逐步构建起向量空间的完整理论体系向量的定义几何向量代数向量物理学中的向量量几何向量是具有大小(长度)和方向的代数向量是一个有序数组₁₂在物理学中,许多物理量如速度、加速a,a,...,量,常用带箭头的线段表示在物理世,其中每个分量代表在相应方向上度、力、动量等都是向量量,它们不仅aₙ界中,速度、力、位移等都可以用几何的度量这种表示方法使我们能够进行有大小还有方向这些物理量之间的关向量来描述,这提供了一种直观的理解精确的数学运算,是线性代数的核心对系和变换常常需要用到向量运算方式象向量的表示列向量表示行向量表示基于基底的表示列向量是最常用的表示行向量将各分量水平排任何向量都可以表示为方式,将向量的各个分列,如₁₂基向量的线性组合在[v,v,量垂直排列例如,三₃在某些计算和推标准基下,向量的坐标v]维向量可以表示为导中,行向量表示更为就是其各个分量不同₁₂₃,其方便需要注意的是,的基底会导致同一向量[v,v,v]ᵀ中上标表示转置这行向量和列向量在数学有不同的坐标表示T种表示法便于进行矩阵上是有区别的运算向量运算
(一)向量加法两个向量相加得到的结果仍是向量,代数上表示为分量对应相加$\vec{a}+\vec{b}=[a_1+b_1,a_2+b_2,\ldots,a_n+b_n]$几何上可以理解为首尾相接或平行四边形法则数乘运算向量乘以一个标量得到的结果是向量的伸缩$k\vec{a}=[ka_1,ka_2,\ldots,ka_n]$若,方向不变;若,方向相反;若,得到零向量k0k0k=0零向量与负向量零向量是所有分量都为的向量,是向量加法的单位元0向量的负向量与原向量长度相等但方向相反$\vec{a}$$-\vec{a}$向量运算
(二)点积(内积)向量的长度(模)两个向量的点积定义为对应分量之向量的长度或模定义为$|\vec{a}|积的和$\vec{a}\cdot\vec{b}=\sqrt{a_1^2+a_2^2+,即向量与自=a_1b_1+a_2b_2+\cdots+\cdots+a_n^2}$点积是一个标量,它反身点积的平方根它表示向量在空a_nb_n$映了两个向量的方向相似度和大小间中的实际长度,也称为欧几里得的乘积当两向量正交时,它们的范数点积为零向量的夹角两个非零向量之间的夹角可以通过点积计算$\cos{\theta}=\frac{\vec{a}这个公式揭示了点积的几何意义点\cdot\vec{b}}{|\vec{a}||\vec{b}|}$积等于两向量长度的乘积与它们夹角余弦的乘积向量运算
(三)叉积(向量积)三维空间特有运算,结果垂直于原两向量叉积的几何意义大小等于两向量确定平行四边形的面积三重积表示平行六面体体积$\vec{a}\cdot\vec{b}\times\vec{c}$叉积是三维向量空间中的特殊运算,它产生一个新的向量,而不是标量若用、、表示三维空间的标准基,则叉积可表示为$i$$j$$k$$\vec{a}\times\vec{b}=a_2b_3-a_3b_2i+a_3b_1-a_1b_3j+a_1b_2-a_2b_1k$叉积的方向遵循右手法则,将右手四指从第一个向量转向第二个向量,大拇指指向的方向就是叉积向量的方向叉积的大小等于两向量确定的平行四边形面积,即$|\vec{a}\times\vec{b}|=|\vec{a}||\vec{b}|\sin\theta$线性相关性线性组合向量的线性组合是指多个向量按某些系数相加得到的新向量$c_1\vec{v}_1+,其中为标量系数线性组合是c_2\vec{v}_2+\cdots+c_n\vec{v}_n$$c_i$线性相关的定义线性代数中一个基础且重要的概念一组向量线性相关,当且仅当$\{\vec{v}_1,\vec{v}_2,\ldots,\vec{v}_n\}$存在不全为零的系数使得$c_1,c_2,\ldots,c_n$$c_1\vec{v}_1+线性无关的定义c_2\vec{v}_2+\cdots+c_n\vec{v}_n=\vec{0}$直观理解就是其中至少有一个向量可以被其他向量线性表示一组向量线性无关,当且仅当$c_1\vec{v}_1+c_2\vec{v}_2+\cdots+的唯一解是换言c_n\vec{v}_n=\vec{0}$$c_1=c_2=\cdots=c_n=0$之,没有一个向量可以被其他向量线性表示判断向量组线性相关性的方法有多种,最常用的是查看由这些向量构成的矩阵的秩如果矩阵的秩小于向量个数,则向量组线性相关;如果等于向量个数,则线性无关向量空间向量空间的公理定义实数向量空间Rⁿ向量空间是满足八条公理(闭合性、结维实数向量空间是最基本的向量空n Rⁿ合律、交换律、单位元存在、逆元存在间例子,由所有元有序实数组成,配n等)的集合,这些公理保证了向量加法以通常的向量加法和标量乘法和R²R³和标量乘法的基本性质这种公理化方分别对应平面和三维空间,有着明确的法使得向量空间的概念可以推广到各种几何意义数学对象函数向量空间定义在某区间上的函数集合也可以构成向量空间,其中向量是函数,加法是函数值的加法,数乘是函数值的数乘这种抽象的向量空间在分析学和函数逼近理论中非常重要多项式向量空间是由次数不超过的所有多项式组成的向量空间,这是函数向量空间的一个重P_n n要例子矩阵向量空间则由特定大小的所有矩阵构成,它在矩阵理论和线性变换研究中具有核心地位子空间子空间的定义与判定向量空间的非空子集是的子空间,当且仅当对向量加法和标量乘法运算封闭V W V W判断子空间的快捷方法是检验
①包含零向量;
②对加法封闭;
③对数乘封闭生成子空间由向量组生成的子空间$\{\vec{v}_1,\vec{v}_2,\ldots,\vec{v}_k\}$是所有这些向量的线性组合构成span{$\vec{v}_1,\vec{v}_2,\ldots,\vec{v}_k$}的集合,它是包含这些向量的最小子空间子空间的交与和两个子空间的交集仍然是子空间,而它们的和是由两个子空间中所有向量线性组合构成的集合,也是子空间这些运算使得子空间之间形成了丰富的代数结构在线性代数中,有几个特别重要的子空间零空间(或核)是所有使得的向量构成的集合;列Ax=0x空间是矩阵的所有列向量生成的子空间;行空间则是所有行向量生成的子空间这些子空间反映A A了线性变换的基本性质基与维数基的定义标准基(自然基)坐标与坐标向量向量空间的一个基是一组线性无关且张成整个中的标准基由个单位向量组成给定向量空间的一组基Rⁿn V$\{\vec{v}_1,空间的向量集合简单来说,基是能够表示空,任何向量$\{\vec{e}_1,\vec{e}_2,\ldots,\vec{v}_2,\ldots,\vec{v}_n\}$间中任意向量的最小向量组基的选择不是唯,其中的第个分量为都可以唯一地表示为\vec{e}_n\}$$\vec{e}_i$i$\vec{x}$$\vec{x}=一的,同一个向量空间可以有无数组不同的,其余为标准基是最常用的一组基,因为10c_1\vec{v}_1+c_2\vec{v}_2+\cdots+基在标准基下向量的坐标表示特别简单,其中系数c_n\vec{v}_n$$c_1,c_2,\ldots,构成在该基下的坐标向量c_n$$\vec{x}$基变换坐标变换公式当我们从一组基变换到另一组基时,向量的坐标也会相应变化如果和B B[x]_B[x]_B分别表示向量在两组基下的坐标,那么它们之间存在关系,其中x[x]_B=P·[x]_B P是从到的过渡矩阵B B过渡矩阵过渡矩阵的列向量是旧基的向量在新基下的坐标具体地,如果₁₂P B={v,v,...,和₁₂是两组基,那么的第列是ⱼ,即ⱼ在下v}B={w,w,...,w}P j[v]_B vBₙₙ的坐标相似矩阵与基变换线性变换在不同基下的矩阵表示是相似的如果和分别是线性变换在基和A BT B下的矩阵表示,那么⁻,其中是从到的过渡矩阵这个关系揭B B=P¹AP P B B示了矩阵相似性的几何意义基变换在物理学中有广泛应用,例如在不同参考系之间转换物理量,或者通过选择合适的基简化问题在量子力学中,不同的表象(如位置表象和动量表象)就是通过基变换相互联系的第二部分矩阵理论矩阵运算行列式矩阵加法、数乘、乘法和转置等基本运行列式是与方阵相关联的一个标量函算构成了矩阵代数的框架这些运算满数,它反映了矩阵的某些几何性质,如足某些代数性质,但也有其特殊性,如体积变换因子行列式的性质和计算方矩阵的定义与类型矩阵乘法不满足交换律法是矩阵理论的重要内容线性方程组矩阵是线性代数的核心对象,它可以表示线性变换、线性方程组和二次型等不同类型的矩阵(如方阵、对称矩阵、正交矩阵等)具有不同的性质和应用矩阵理论是线性代数的核心部分,它提供了一种统一的方法来处理线性变换、二次型和线性方程组等问题在这一部分中,我们将系统学习矩阵的基本概念、运算规则和主要性质,为后续更深入的线性代数内容打下坚实基础矩阵的定义二维数组表示方阵与特殊矩阵矩阵是由×个数排列成的矩形阵列,记作行数等于列数的矩阵称为方阵方阵有很多特殊类型,如m n A=×,其中表示第行第列的元素这种二维数组[a_ij]_{m n}a_ij ij•单位矩阵主对角线上元素为,其余为I10的表示方法使矩阵成为处理多元线性问题的理想工具•零矩阵所有元素都为O0矩阵的大小(或维数)由其行数和列数确定一个×的矩阵m n•对角矩阵仅主对角线上元素可能非零有行列,通常记作×m n A_{m n}•三角矩阵上(或下)三角部分元素为0矩阵可以看作是线性变换的具体表示例如,一个×矩阵可以表示平面上的一个线性变换,它将向量映射为这种几何解释22A xAx使我们能够直观理解矩阵运算的意义,如矩阵乘法对应线性变换的复合矩阵运算
(一)矩阵加法矩阵数乘矩阵乘法两个同型矩阵(具有相同行数和列数)可矩阵与标量相乘,结果是矩阵中每个元素两个矩阵×和×相乘得到A_{m n}B_{n p}以相加,得到的结果是对应元素相加都乘以该标量,矩阵×,其中$C$C=kA$$c_{ij}=C_{m p}$c_{ij}=,这个运算表示线性变换的伸矩阵乘=A+B$$c_{ij}=a_{ij}+b_{ij}$ka_{ij}$\sum_{k=1}^n a_{ik}b_{kj}$矩阵加法满足交换律和结合律,与向量加缩,它满足分配律和结合律法对应线性变换的复合,理解它的几何意法类似义对掌握线性代数非常重要矩阵乘法不满足交换律,即通常,即使当和都是方阵时也是如此这与我们通常的乘法概念不同,反映了线性变换复合的顺序重要性矩阵乘AB≠BA AB法满足结合律()和对加法的分配律()ABC=ABC AB+C=AB+AC矩阵运算
(二)矩阵转置转置与矩阵乘法矩阵的转置记为,是将的行与列互矩阵乘积的转置满足A A^T A AB^T=换得到的新矩阵,即,注意右侧矩阵顺序的变化这个A^T_{ij}=A_{ji}B^TA^T转置操作有多种重要性质,包括性质在推导和计算中经常使用,它反映了转置操作对矩阵乘法的影响•双重转置恢复原矩阵A^T^T=A•加法的转置A+B^T=A^T+B^T•数乘的转置kA^T=kA^T对称矩阵满足的矩阵称为对称矩阵,它在主对角线上呈现对称结构对称矩阵在物理学、统计学A=A^T和优化理论中有广泛应用,例如•惯性张量是对称矩阵•协方差矩阵是对称矩阵•二次型的矩阵表示是对称矩阵矩阵的分块分块矩阵的定义分块矩阵运算分块矩阵(或区块矩阵)是将一个大矩阵划分为若干子矩阵分块矩阵的加法和数乘运算与普通矩阵类似,对应块进行运算即(块)的表示方法这种划分通常基于问题的结构或计算的需可分块矩阵乘法则需要块间满足乘法的条件(前一矩阵的列块要,可以大大简化某些矩阵运算数等于后一矩阵的行块数),且遵循矩阵乘法的规则分块的方式很灵活,可以按行、按列或同时按行和列进行划分,具体来说,如果和是分块矩阵,那么A=[A_{ij}]B=[B_{jk}]只要保持划分的一致性即可它们的乘积的块为C=AB C_{ik}=∑_j A_{ij}B_{jk}分块对角矩阵是一种特殊的分块矩阵,其非对角块都是零矩阵形式上,它可以表示为₁₂,其中₁₂diagA,A,...,AA,A,...,ₙ是方块分块对角矩阵的特点是各块之间没有相互作用,这在某些物理和工程系统的模型中有直接对应Aₙ行列式行列式是与方阵相关联的一个标量函数,记作或它的严格数学定义是detA|A|$\detA=|A|=\sum_{\sigma},其中求和遍历所有元素的排列,是排列的符号(或)\text{sgn}\sigma\prod_{i=1}^n a_{i\sigmai}$nσsgnσ+1-1行列式有重要的几何意义阶方阵的行列式的绝对值等于由该矩阵行(或列)向量构成的维平行体的体积特别地,×矩阵的行n n22列式绝对值是由其行(或列)向量构成的平行四边形的面积;×矩阵的行列式绝对值是相应平行六面体的体积33行列式计算方法按行(列)展开三角化简法特殊行列式使用代数余子式的方法,沿任一行(或列)利用行(列)变换将矩阵转化为上(下)三某些特殊结构的行列式有简便计算公式对展开行列式角形式,然后行列式就等于主对角线元素的角矩阵的行列式是对角元素的乘积;上$\detA=\sum_{j=1}^na_{ij}C_{ij}$,其中C₍ᵢⱼ₎是元素a₍ᵢⱼ₎乘积这种方法基于初等行变换对行列式的(下)三角矩阵的行列式也是对角元素的乘的代数余子式这种方法对于含有多个零元影响,计算大型矩阵的行列式时非常高效积;块对角矩阵的行列式是各块行列式的乘素的行(或列)特别有效积矩阵的秩秩的定义矩阵的秩定义为的线性无关列(或行)向量的最大数目它也等于的列空间A rankA A A(或行空间)的维数秩是矩阵和线性变换的一个基本不变量,反映了矩阵传递信息的能力初等行变换有三种基本的初等行变换交换两行、用非零常数乘以某一行、将某一行的倍数加到另一行这些变换不改变矩阵的行空间,因此也不改变矩阵的秩初等行变换是计算矩阵秩的关键工具行简化梯形矩阵通过初等行变换可以将任意矩阵化为行简化梯形矩阵(行阶梯形矩阵)在这种形式下,矩阵的秩等于非零行的数目,这提供了一种计算矩阵秩的直接方法矩阵的秩有许多重要性质,例如如果是×矩阵,则;转置不改变秩,即A m n rankA≤minm,n;对于矩阵乘积,有;如果是方阵,则rankA=rankA^T rankAB≤minrankA,rankB A A可逆当且仅当rankA=n逆矩阵逆矩阵的定义逆矩阵的性质矩阵的逆矩阵⁻满足逆矩阵具有多种性质⁻⁻;AA¹A¹¹=A⁻⁻,其中是单位矩阵⁻⁻⁻,注意顺序的变化;AA¹=A¹A=I IAB¹=B¹A¹逆矩阵表示线性变换的逆变换,它使得⁻⁻这些性质在矩阵A^T¹=A¹^T变换的效果撤销只有方阵才可能有计算和理论分析中都很有用逆矩阵可逆矩阵的条件逆矩阵的计算方法矩阵可逆的充要条件有多种等价形A计算逆矩阵的主要方法有伴随矩阵式;;的列detA≠0rankA=nA法,即⁻,其中A¹=adj A/detA(行)向量线性无关;齐次方程Ax=0是的伴随矩阵;初等行变换法,adj AA仅有零解;可以表示为初等矩阵的乘A通过将增广矩阵化简为⁻[A|I][I|A¹]积线性方程组矩阵形式齐次与非齐次线性方程组可以简洁地表示为矩阵方程,其中是系数矩当时,方程组称为齐次线性方程组;当时,方程AX=b Ab=0AX=0b≠0阵,是未知向量,是常数向量这种表示方法揭示了线性方组称为非齐次线性方程组齐次方程组总是有解(至少有X b AX=b程组与线性变换之间的深刻联系求解方程组就是寻找线性变换零解),而非齐次方程组存在解的条件是属于的列空间b A下的原像A非齐次线性方程组解的结构是通解特解齐次通解这意=+味着一旦找到一个特解,就可以通过添加齐次方程的通解得到所有可能的解线性方程组的解空间与矩阵的核空间(零空间)密切相关对于齐次方程组,解空间就是;对于非齐次方程组,A AX=0KerA AX=b如果₀是一个特解,则解空间是₀∈,即一个特解加上核空间中的任意向量X{X+h|h KerA}求解线性方程组克拉默法则对于元次(方阵)线性方程组,如果,则第个变量的解为,其中是用替换的第列得到的矩阵这种方法直观但计算量大,主要用于理论n nAX=b detA≠0i x_i=detA_i/detA A_i b A i分析高斯消元法通过初等行变换将增广矩阵转化为行阶梯形式,然后使用回代法求解这是求解线性方程组最常用的数值方法,也是计算机解线性方程组的基础算法[A|b]高斯约当消元法-在高斯消元的基础上进一步将系数矩阵化为简化行阶梯形式(即左侧为单位矩阵),直接得到解向量这种方法虽然计算量略大,但能够同时求出方程组的解和系数矩阵的逆解的存在唯一性定理是线性方程组理论的基础对于方程组,如果是×矩阵,则方程组有唯一解当且仅当(即可逆);如果是×矩阵且或,则方程组要么无AX=bAn n detA≠0AAmnm≠ndetA=0解,要么有无穷多解第三部分线性变换同构与同态向量空间之间的结构保持映射核空间与像空间线性变换的基本子空间线性变换的矩阵表示3抽象变换的具体形式线性变换的定义与性质保持向量运算结构的函数线性变换是线性代数的核心概念,它为我们提供了一种统一的视角来理解向量空间之间的映射关系在这一部分中,我们将深入研究线性变换的定义、性质、矩阵表示及其基本子空间线性变换的定义线性变换的数学定义线性变换的判定从向量空间到向量空间的映射要证明一个变换是线性的,需要验证它V W称为线性变换,如果对于中任满足两个条件加法保持性T:V→WV意向量、和任意标量、,满足和数乘保持性u vαβTu+v=Tu+Tv这个定义强这两个条件合起来等价Tαu+βv=αTu+βTv Tαu=αTu调了线性变换保持线性组合的本质特于线性组合保持性性常见线性变换许多重要的变换都是线性的,如旋转(绕原点旋转一定角度)、投影(向某一子空间投影)、缩放(各坐标按比例缩放)、反射(关于某一子空间反射)和剪切变换等非线性变换的例子包括平移变换(向某一方向平移一定距离)、非线性缩放(不同方向缩放比例不同)和非线性扭曲等这些变换不满足线性变换的定义,因为它们不保持向量的线性组合关系线性变换的矩阵表示标准矩阵计算方法2给定从到的线性变换和向量空间如果₁₂是的一组基,V WT e,e,...,e Vₙ、中的基、,关于这些基的那么的矩阵表示₁V WB CT T[T]_B=[Te,矩阵表示记为特别地,当₂,即矩阵的列向量[T]_B^C Te,...,Te]ₙ使用标准基时,简记为标准矩阵是基向量在变换下的像这提供了构[T]是线性变换的具体坐标表示造线性变换矩阵表示的直接方法坐标变换向量在变换下的像的坐标可以通过矩阵乘法计算v TTv[Tv]_C=[T]_B^C·[v]_B这个公式建立了向量坐标和线性变换矩阵之间的关系,是线性代数的核心结果之一不同基下的矩阵表示之间存在明确的关系如果是从基到基的过渡矩阵,是从基到基PBB QC的过渡矩阵,那么⁻这个公式揭示了基变换如何影响线性变换C[T]_B^C=Q¹[T]_B^CP的矩阵表示核空间与像空间核空间(或零空间)是线性变换下映射到零向量的所有向量的集合,记作∈它表示变换丢失的信息,是理解变换特性的关键核空间一定是向量空间的一个子空间,其维数T KerT={v V|Tv=0}TV反映了变换的退化程度像空间(或值域)是线性变换的所有可能输出向量的集合,记作∈它表示变换能够到达的部分,是理解变换作用范围的关键像空间一定是向量空间的一个子空间,其维数反T ImT={Tv|v V}TW映了变换传递信息的能力维数定理(或秩零化度定理)指出这个基本定理揭示了核空间维数(也称为变换的零化度)与像空间维数(也称为变换的秩)之间的关系,它是线性变换理论-dimKerT+dimImT=dimV的核心结果之一特殊线性变换投影变换旋转变换反射变换投影变换将向量投射到某一子空间上对于投影旋转变换将向量绕原点旋转一定角度在二维空反射变换将向量关于某一子空间反射例如,关到子空间的变换,有(幂等性)和间中,旋转角的矩阵为于轴反射的矩阵是反射矩阵U P P²=Pθ[[cosθ,-x[[1,0],[0,-1]]投影矩阵的特征值只能是或,其旋转矩阵是正交矩阵,它也是正交矩阵,但行列式为,表明它改变了空ImP=U01sinθ],[sinθ,cosθ]]-1中对应投影方向,对应被抹去的方向保持向量长度和向量间的夹角间的定向10剪切变换将空间沿某一方向剪切,使原本垂直的线变为倾斜例如,方向上的剪切矩阵为,其中表示剪切强度剪切变换保持面积(或x[[1,k],[0,1]]k体积),因为其行列式为1第四部分特征值与特征向量特征值在应用中的意义主成分分析、稳定性分析和振动模式对角化简化矩阵结构的强大工具特征多项式求解特征值的关键方程特征值与特征向量的定义线性变换下保持方向的向量特征值与特征向量是线性代数中最重要的概念之一,它们揭示了线性变换(或矩阵)的内在结构和本质特性在这一部分中,我们将系统学习特征值理论的基础知识和主要应用特征值与特征向量基本定义特征方程与求解步骤如果非零向量满足,则称为矩阵的一个特征值,为要找到矩阵的特征值,需要求解特征方程这v Av=λvλA vA detA-λI=0对应于的特征向量几何上,特征向量是线性变换下方向不是一个关于的次多项式方程,其中是矩阵的阶数求解特λAλn nA变的向量(可能伸缩但不旋转),而特征值就是伸缩比例征值和特征向量的一般步骤是特征值可以是实数,也可以是复数,这取决于矩阵的性质对计算特征多项式A
1.detA-λI于实对称矩阵,所有特征值都是实数;而对于一般矩阵,特征值求解特征方程得到特征值
2.detA-λI=0可能包含复数对每个特征值,求解齐次方程组得到对应的特
3.λᵢA-λᵢIv=0征向量与特征值相关的所有特征向量以及零向量构成了特征空间特征空间是矩阵的核空间,它是一个向量子空间λE_λ={v|Av=λv}A-λI特征空间的维数称为特征值的几何重数,它小于或等于在特征多项式中的代数重数(作为特征方程根的重数)λλλ特征多项式特征多项式的定义矩阵的特征多项式定义为,它是一个关于的次多项式,其中是A p_Aλ=detA-λIλn n矩阵的阶数特征多项式的根就是特征值,它完全决定了矩阵的谱结构代数重数与几何重数特征值的代数重数是它在特征多项式中作为根的重数;几何重数是对应特征空间的维λ数对于任意特征值,几何重数代数重数当两者相等时,特征值称为半单的≤特征多项式的性质3特征多项式有许多重要性质相似矩阵具有相同的特征多项式;特征多项式的常数项是行列式的倍;特征多项式的系数与矩阵的迹、行列式等有密切关系-1^n凯莱哈密顿定理是矩阵理论中的一个深刻结果,它指出每个方阵都满足自己的特征方程,即-这意味着将特征多项式中的变量替换为矩阵本身,结果为零矩阵这个定理揭示了矩p_AA=0λA阵与其特征值之间的内在联系矩阵的对角化对角化的应用对角化过程对角化简化了许多矩阵计算,特别是矩阵幂的计算可对角化的条件将矩阵对角化的步骤是首先求出的所有特征值和⁻,其中的计算非常简单(对角元AAA^n=PD^nP¹D^nn阶矩阵A可对角化的充要条件是它有n个线性无关的对应的线性无关特征向量;然后以这些特征向量为列构素分别取n次幂)这一技术在递推关系、差分方程和特征向量,或等价地,所有特征值的几何重数之和等于造可逆矩阵;最后得到对角矩阵⁻,其对角微分方程的解析解中有重要应用P D=P¹AP简单来说,如果矩阵有足够多的线性无关特征向元素就是的特征值nA量,就可以对角化不是所有矩阵都可以对角化当矩阵的某个特征值的几何重数小于代数重数时,就不存在足够多的线性无关特征向量,矩阵不可对角化这种情况下,需要引入更一般的标准型Jordan矩阵的标准型Jordan块的定义标准型的结构求标准型的方法Jordan Jordan Jordan块是一种特殊的矩阵形式,主对角线任何复矩阵都相似于一个标准型矩确定矩阵的标准型的一般步骤是计Jordan Jordan Jordan上元素相同(为特征值),次对角线上元素阵,它是由若干块沿主对角线排列构算特征值及其代数重数和几何重数;对每个特λJordan为,其余元素为阶块的形式成的分块对角矩阵标准型的结构由征值,确定广义特征向量和链;构造10k JordanJordanJordan为在主对角线,在上次对角线,其余为矩阵的初等因子或链完全确定,它是相似变换矩阵,使得⁻为标准λ1Jordan PP¹AP Jordan块反映了矩阵的非对角化部分矩阵结构的规范形式型0Jordan标准型是矩阵理论中一个深刻的结果,它表明任何方阵在复数域上总可以化为一种特定的近似对角形式当矩阵可对角化时,其标准型就是对角矩JordanJordan阵;当不可对角化时,标准型包含非对角块,反映了矩阵的病态结构JordanJordan实对称矩阵的性质实特征值特征向量的正交性正交对角化实对称矩阵的所有特征值实对称矩阵的不同特征值任何实对称矩阵都可以被都是实数这是实对称矩对应的特征向量是正交正交对角化,即存在正交阵最基本的性质之一,它的更一般地,可以选择矩阵使得,Q Q^TAQ=D源于矩阵的对称性一组正交的特征向量作为其中是对角矩阵,对角D()这个性质使基,这组基在物理和数学元素是特征值这种特殊A=A^T得实对称矩阵在物理和工中有特殊意义,如主轴系的对角化形式使得计算和程应用中特别重要,因为统或正交坐标系分析更加简便它们的特征值有明确的物理意义谱分解实对称矩阵可以表示为特征值和特征向量的组合A=ΣλᵢvᵢvᵢT,其中λᵢ是特征值,vᵢ是对应的单位特征向量这种分解形式在物理学、统计学和图像处理等领域有广泛应用第五部分向量空间的内积内积的定义与性质内积是向量空间上的一种特殊二元运算,它将两个向量映射为一个标量,满足共轭对称性、线性性和正定性等公理内积为向量空间引入了长度和角度的概念标准正交基标准正交基是一组单位长度且互相正交的基向量在标准正交基下,坐标计算、距离计算和投影计算都变得特别简单,这也是正交基在应用中广泛使用的原因正交化Gram-Schmidt正交化是一种将任意线性无关向量组转化为正交向量组的算法这个Gram-Schmidt过程通过逐步构建正交向量,确保每个新向量与之前所有向量正交正交补空间向量空间中的子空间的正交补⊥是与中所有向量正交的向量集合正交补空V W W^W间是研究投影、最小二乘和线性方程解等问题的关键工具内积空间内积的公理定义欧几里得空间中的标准内积向量空间上的内积是一个映射×(是标量域),满足在维实向量空间中,标准内积定义为V·,·:V V→F Fn Rⁿ⟨⟩以下公理₁₁₂₂这也是我们最熟悉的点积u,v=u v+u v+...+u v=u^Tv⟨⟩ₙₙ形式共轭对称性(表示复共轭)在复向量空间中,标准内积引入共轭
1.u,v=v,u**Cⁿ⟨⟩⟨⟩₁₁₂₂,其中是的共轭第一变元线性性u,v=u v*+u v*+...+u v*=u^Hv u^H u
2.αu+βv,w=αu,w+βv,w⟨⟩ₙₙ⟨⟩⟨⟩⟨⟩转置正定性,且当且仅当
3.v,v≥0v,v=0v=0⟨⟩⟨⟩对于实向量空间,共轭对称性简化为对称性加权内积是标准内积的一种推广,形如,其中是正定矩阵加权内积在统计学和机器学习中有重要应用,如马氏距离就是基u,v_W=u^TWv W⟨⟩于协方差矩阵的加权内积函数空间的内积将内积概念扩展到函数上例如,在连续函数空间上,一种常见的内积定义是这种内积使得函数C[a,b]f,g=∫_a^b fxgxdx⟨⟩可以被视为无限维向量空间中的向量,是函数分析的基础正交性正交集合与正交基正交向量向量集合中的向量互相正交,当且仅当对于任S两个向量和正交,当且仅当它们的内积为u v意不同的∈,有如果中的向1u,v Su,v=0S零正交性是内积空间中垂直概⟨⟩u,v=0⟨⟩量还都是单位向量(即),则称为v,v=1S念的推广,它为我们提供了描述向量间位置关系2⟨⟩正交集合如果一组正交向量构成向量空间的的几何语言基,则称其为正交基正交补空间规范正交基子空间的正交补⊥定义为与中所有向量4规范正交基(或标准正交基)是既相互正交又都W W^W正交的向量集合⊥∈为单位长度的基规范正交基在计算和理论分析W^={v V|v,w=0,3⟨⟩∀∈正交补空间是一个子空间,它与原中都有特殊地位,因为它使得坐标表示和内积计w W}子空间形成正交分解⊕⊥算极为简便V=WW^正交性在线性代数中有重要意义正交向量集是线性无关的,这意味着正交基的向量数等于空间维数正交基使得坐标计算特别简单如果₁是规范{e,...,e}ₙ正交基,则向量的坐标就是与基向量的内积₁₁v v v=v,e e+...+v,e e⟨⟩⟨ₙ⟩ₙ正交化Gram-Schmidt正交化过程步骤正交化是一种将线性无关向量组₁₂转化为正交向量组Gram-Schmidt{v,v,...,v}ₙ₁₂的系统方法基本思想是首先取₁₁;然后从₂中减去它在₁方向上{u,u,...,u}u=vvuₙ的投影得到₂;接着从₃中减去它在₁和₂方向上的投影得到₃;以此类推u vu uu数学表达式具体的计算公式是₁₁,对于,,u=v k=2,3,...,n uk=vk-∑_{j=1}^{k-1}proj_{u_j}v_k其中是在上的投影通过这个递推过proj_{u_j}v_k=v_k,u_j/u_j,u_j·u_j v_k u_j⟨⟩⟨⟩程,可以逐步构建出一组正交向量规范化过程在获得正交向量组后,通过将每个向量除以其长度(即∥∥),可以得到规e_j=u_j/u_j范正交向量组(或称标准正交基)这样,最终得到的向量不仅相互正交,而且都是单位向量在中的具体计算通常采用矩阵形式如果将向量组₁₂表示为矩阵的列,将正交化后Rⁿ{v,v,...,v}Vₙ的向量组₁₂表示为矩阵的列,则有,其中是一个上三角矩阵,记录了正交化{u,u,...,u}U V=UR Rₙ过程中的投影系数正交投影投影定理最佳逼近问题正交投影矩阵投影定理是内积空间理论的基本结果之一它指出投影定理解决了一个基本的最佳逼近问题在子空间如果是的子空间,是一个其列向量张成的W RⁿA W对于内积空间中的任意向量和子空间,向量可中,距离向量最近的点就是在上的正交投影矩阵,那么上的正交投影矩阵可以表示为V v W vW vvWW以唯一地分解为,其中∈,∈⊥这这个结果在函数逼近、数据拟合和信特别地,如果的列向量v=p+n pW nW^p=proj_Wv P=AA^TA^{-1}A^T A里称为在上的正交投影,记作号处理等领域有广泛应用是正交的,则投影矩阵是幂等的p vW proj_Wv P=AA^T()和对称的()P²=PP^T=P最小二乘法是正交投影的一个重要应用在数据拟合问题中,我们寻找模型参数使得观测数据和模型预测之间的误差最小化这等价于寻找观测向量在模型空间上的正交投影具体地,对于线性系统Ax=b,当方程无解时,最小二乘解x̂满足A^TAx̂=A^Tb,这也称为正规方程第六部分线性代数的应用3D计算机图形学矩阵变换与图像渲染PCA数据分析降维与特征提取QM量子力学希尔伯特空间与算符工程工程应用电路分析与结构力学线性代数作为现代数学的基础分支,其应用范围极其广泛从理论物理到工程技术,从计算机科学到经济金融,线性代数的方法和工具无处不在在这一部分中,我们将探讨线性代数在各个领域的具体应用,展示这一数学分支的强大生命力线性代数在计算机图形学中的应用在计算机图形学中,线性代数是实现二维和三维几何变换的核心工具平移、旋转、缩放和剪切等基本变换都可以用矩阵表示,通过矩阵乘法实现变换的复合特别地,齐次坐标系统使用×矩阵统一表示所有变换,极大地简化了图形渲染管线443D计算机动画中的插值技术也依赖于线性代数关键帧动画通过在关键姿态之间插值生成平滑过渡,而这一过程可以看作向量空间中的路径插值更复杂的动画技术如骨骼动画和形变混合都建立在线性组合的基础上线性代数在数据科学中的应用主成分分析()奇异值分解()线性回归PCA SVD主成分分析是一种强大的降维技术,它通过奇异值分解将任意矩阵分解为三个矩阵的乘线性回归是最基本的预测模型,它尝试用线计算数据协方差矩阵的特征向量,找到数据积,其中和包含左右奇异向性关系拟合自变量和因变量从线性代数角A=UΣV^T UV变异性最大的方向(主成分)通过将高维量,是奇异值对角矩阵在数据压缩、度看,这是一个将观测向量投影到特征空间ΣSVD数据投影到少数几个主成分上,能有效噪声过滤、推荐系统和潜在语义分析等领域的问题,可以用最小二乘法和正规方程求PCA减少数据维度,同时保留大部分信息有广泛应用解线性代数在物理学中的应用量子力学中的希尔伯特空间力学中的惯性张量量子力学的数学框架是希尔伯特空间,这刚体动力学中,惯性张量是一个×对33是一种完备的内积向量空间量子态由希称矩阵,描述了质量分布对旋转运动的影尔伯特空间中的向量表示,物理可观测量响惯性张量的特征值和特征向量分别对由线性算符表示,测量过程对应向量在特应主轴惯性矩和主轴方向,这些量在分析征空间上的投影这种数学结构使得量子复杂旋转运动中起关键作用力学的公式优雅而统一电磁学中的微分算符电磁理论中的梯度、散度、旋度等微分算符可以用线性算符表示麦克斯韦方程组本质上是关于电磁场向量函数的线性偏微分方程组,其解法和性质分析都依赖于线性代数和向量分析爱因斯坦相对论中的张量是线性代数在物理学中的高级应用张量是多线性映射,可以看作向量和矩阵的推广度规张量、能量动量张量和里奇张量等物理量的张量表示使得相对论方程具有协变性,-即在不同参考系下保持形式不变线性代数在工程中的应用电路分析结构分析与控制系统基尔霍夫定律是分析复杂电路的基础,它可以表示为线性方程组在结构工程中,有限元法将复杂结构离散化为简单元素,形成大,其中是电路的导纳矩阵,是节点电压向量,是电流型线性方程组结构的刚度矩阵与位移向量和力向量满足关Ax=bAx bK uf源向量对于包含多个节点和元件的复杂电路,这种矩阵方法远系,这是结构分析的基本方程Ku=f比逐回路分析高效控制系统中,状态空间表示使用矩阵微分方程描述系统动态交流电路分析中,阻抗和导纳被表示为复数矩阵,频域分析和相,其中是状态向量,是控制输入,和是系统矩ẋ=Ax+Bu xu AB量图等技术都依赖于线性代数电力系统的负载流计算和稳定性阵这种表示使得复杂系统的稳定性分析、可控性和可观测性等分析也都建立在线性代数和矩阵理论基础上性质可以通过矩阵的特征值和秩等属性来研究现代线性代数研究方向稀疏矩阵理论与计算随机矩阵理论张量分析与张量分解稀疏矩阵是大多数元素为零的矩阵,在大数据和科随机矩阵理论研究元素由随机变量构成的矩阵,关张量是矩阵的高维推广,可以表示多模态数据和多学计算领域广泛存在现代研究集中在开发高效的注其特征值分布和极限行为这一理论在高维统计线性映射张量分解技术,如分解、分CP Tucker稀疏矩阵存储格式、专用算法和并行计算技术,以学、量子混沌、通信网络和金融数据分析等领域有解和张量,是处理高维数据的关键工具这一SVD处理超大规模问题稀疏直接求解器和迭代方法,重要应用著名的半圆律和领域在信号处理、计算机视觉、神经网络和量子信Wigner Marchenko-如共轭梯度法和,是这一领域的核心定律是该领域的基本结果息等前沿领域有广泛应用GMRES Pastur矩阵流形上的优化是线性代数与微分几何交叉的活跃研究领域它研究在特殊矩阵集合(如正交群、流形和流形)上的优化问题,这类问题在机器学习、计算机视觉Stiefel和信号处理中频繁出现黎曼梯度下降、测地线流和信任域方法是这一领域的重要算法线性代数的计算方法数值线性代数基础数值线性代数是研究矩阵计算的数值方法和算法的学科,它考虑计算效率、数值稳定性和误差分析等实际问题浮点数表示、舍入误差、条件数和后向误差分析是这一领域的基本概念,它们帮助我们理解和控制计算过程中的误差大型线性系统的迭代求解对于规模极大的线性方程组,直接方法(如高斯消元)通常不可行,此时迭代方法成为首选Ax=b常用的迭代算法包括方法、方法、方法和共轭梯度法等这些方法从初始Jacobi Gauss-Seidel SOR猜测出发,逐步逼近真解,特别适合稀疏系统特征值计算方法3计算矩阵特征值的数值方法主要有幂法、反幂法、算法和算法等幂法适合求最大特征QR Lanczos值,反幂法适合求特定特征值,而算法能够计算所有特征值对于大型稀疏矩阵,和QR Arnoldi算法更为高效,常用于求少量极值特征值Lanczos和是线性代数计算的流行工具()专为矩阵计算设计,提供了MATLAB PythonMATLAB MatrixLaboratory丰富的线性代数函数和可视化功能的和库提供了类似功能,而且开源免费这些工具极大Python NumPySciPy地简化了线性代数在科学研究和工程应用中的使用课程总结参考资料与延伸阅读《线性代数及其应用》是编写的一本经典教材,它以清晰的结构和丰富的应用实例著称这本书特别注重线性变换的几何解释,帮助读者建立直观理解全书配有David C.Lay大量的例题和练习,既有基础练习,也有挑战性问题,适合不同层次的学习者教授的《线性代数》是另一本广受推崇的教材教授以其独特的教学风格和深刻的洞察力著称,他的书既有严谨的理论推导,也有生动的几何直观这本Gilbert StrangStrang书与他在麻省理工学院()的线性代数课程相辅相成,为学习者提供了全面而深入的学习体验MIT线上资源中,提供的线性代数课程(由教授讲授)是最受欢迎的线性代数课程之一这套课程包含完整的视频讲座、习题和讲MIT OpenCourseWare
18.06Gilbert Strang义,可以作为自学的绝佳材料的线性代数的本质系列视频则以生动的可视化动画解释了线性代数的核心概念,特别适合建立几何直观3Blue1Brown。
个人认证
优秀文档
获得点赞 0