还剩48页未读,继续阅读
本资源只提供10页预览,全部文档请下载后查看!喜欢就下载吧,查找使用更方便
文本内容:
线性代数回顾课程导言——欢来线数顾课线数现数础迎到性代回程性代是代学的基,它研究向量空间线当线数应计及其上的性映射在今科技发展中,性代的用无处不在,从算图数线数机形学到据分析,从量子力学到经济模型,都有性代的身影课将顾线数阵本程系统地回性代的主要概念和方法,包括向量、矩、行列线组们仅讲论还过式、性方程、特征值与特征向量等我不解理,会通丰富问题应对线数观的例子展示其在实际中的用,帮助大家建立性代的直理解过这课线数这希望通门程,你能够掌握性代的核心思想,并能够灵活运用些问题工具解决各种实际线性代数的历史与现实影响1古代起源线数伦数们开线组性代的早期思想可追溯到古巴比和中国的学家,他已经始解性方程问题尽当时没论,管有形成系统理217-18世纪莱来欧对线组进布尼茨首次提出行列式概念,后拉和克拉默性方程行了更深入的研则究,形成了克拉默法319世纪对论贡这时线高斯发展了消元法,而柯西和拉普拉斯行列式理做出了重要献一期,数为独开性代作一门立学科始形成4现代发展纪冯诺线数计应20世,·伊曼等人的工作使性代在算机科学中得到广泛用,如今已成为计领础人工智能、量子算等前沿域的基工具线数应渗领阵习今天,性代的用已透到科技的方方面面在人工智能域,矩运算是深度学的核心;在数线领结计开线物理学中,量子力学的学框架基于性算子;在工程域,构分析和控制系统设都离不性数代线性代数基础概念概述向量矩阵线数对性代的基本研究象,具有大小和方向数线换据的矩形排列,性变的表示工具的量阵线组·矩运算·性合阵·逆矩·向量空间线性方程组行列式线数应组性代的核心用,研究多元一次方程线换对积标结衡量性变体影响的量解的构计·算方法·解的存在性结·几何意义·通解构线数线线换数对阵这关性代是研究性空间及其上的性变的学分支它的基本象包括向量、矩、行列式等,些概念相互联,构成了一个论这关习线数础完整的理体系了解些基本概念及其之间的系,是深入学性代的基数域与向量的定义数域向量的定义数满闭数数线数为数域是足加法和乘法运算封性的集最常见的域包括在性代中,向量是具有大小和方向的量,可表示有序的组数数维为·实域R所有实构成的集合n向量空间中的向量可表示数数₁₂数·复域C所有复构成的集合ₙv=v,v,...,v,其中vi是域中的元素数数·有理域Q所有有理构成的集合线数对阵线向量是性代的基本研究象,也是构建矩和性映射的基线数们数数讨论问题这数础应在性代中,我通常在实域或复域上些在实际用中,向量可以表示位置、速度、加速度等物理为标数状态域向量空间提供了基本的量系统量,也可以表示据点、等抽象概念向量的表示与运算坐标表示维数在n空间中,向量可以用n个有序的表示₁₂应标ₙv=v,v,...,v,其中每个分量表示在相基底上的坐向量加法将对应位置的分量相加₁₂₁₂则₁₁₂₂ₙₙₙₙ若u=u,u,...,u,v=v,v,...,v,u+v=u+v,u+v,...,u+v则几何上,向量加法遵循平行四边形法数乘运算标将该标量与向量的乘法,向量的每个分量乘以量₁₂为标则₁₂ₙₙ若v=v,v,...,v,α量,αv=αv,αv,...,αv数当为负数时还几何上,乘改变向量的长度,α会改变方向满数质换结数这质向量运算足多种代性,如加法交律、合律,乘的分配律等些性使得向量数结为问题数空间具有丰富的代构,解决实际提供了强大的学工具向量线性组合与相关性线性组合定义线性相关性给组₁₂标₁为标₁₂ₙₙ定向量v,v,...,v和量c,若存在不全零的量c,c,...,c,使₂₁₁₂₂₁₁₂₂则称ₙₙₙc,...,c,表达式c v+c v+...+得c v+c v+...+c v=0,称为这线组组₁₂线关则称为ₙₙₙc v些向量的性合向量v,v,...,v性相否线关线组线数线关为性无性合是性代中最基本的运算之一,性相意味着至少有一个向量可以表示关键线组这组它反映了向量空间中的特性所有可能其他向量的性合,表明向量中存在线组这张的性合构成了些向量的成空间冗余线性无关的判定断组线关判向量是否性无的方法组₁₁₂₂ₙₙ·求解方程c v+c v+...+c v=0数阵计·构造系矩并算其秩数过维数则线关·若向量个超向量空间,一定性相线组线关结关键应线关组为性合和性相性是理解向量空间构的概念在实际用中,性无向量可以作空组线关则许问题间的基底,用于表示空间中的任意向量而确定向量的性相性,是解决多实际的第一步向量组及其极大线性无关组向量组定义组记为₁₂组质张ₘ向量是有限个向量的集合,{v,v,...,v}向量的性决定了它所能成的空间特征组线关张线组线换问题础向量的性相性、秩、以及它所成的空间,是研究性方程、性变等的基极大线性无关组组选线关称为该组线关组线关组在向量中取的最大性无子集,向量的极大性无极大性无具关键有两个特性线关·其中的向量是性无的组线关组线关组线·向量中任何不在极大性无中的向量都可以由极大性无性表示极大线性无关组的选取选线关组骤取极大性无的一般步选组为
1.取向量中任一非零向量作第一个基向量尝试将检线关
2.依次其他向量加入,查是否保持性无线关
3.重复直到无法再添加向量而保持性无线关组数称为组这线数连极大性无的向量个向量的秩个概念在性代中有着重要意义,它接了向量组阵线组质线结关键、矩和性方程的性,是理解性空间构的矩阵的定义与表示方法矩阵的定义矩阵的主要表示方法阵数数记为矩是由m×n个按照m行n列排列成的矩形表,·元素表示法列出所有元素的具体值阵将阵为阵·分块矩矩划分若干子矩A=[aij]m×n,其中aij表示第i行第j列的元素组·行向量表示看作行向量的集合阵线换数线组矩是性变的代表示,也是处理性方程的重要工具组数数阵为阵数数阵·列向量表示看作列向量的集合根据行和列,矩可分方(行=列)和非方组组阵质进阵其中,行向量和列向量表示法在研究矩的性和行矩计时别算特有用阵组组线关数阵线组结线矩的秩是指其行向量(或列向量)中性无向量的最大个秩是矩的重要特征,它决定了性方程解的构、性变换质阵阵论础的性等理解矩的表示方法是掌握矩理的基矩阵基本运算阵数这规则许阵阵维矩的基本运算包括加法、减法和乘些运算遵循一定的,与向量运算有多相似之处矩加减法要求两个矩具有相同的度,数数即行和列相同阵为对应则阵满换结阵为对应矩加法定义位置元素相加若A=[aij],B=[bij],A+B=[aij+bij]矩加法足交律和合律矩的减法类似定义位置元素相减阵数为阵该数为标则数满结这规则线矩的乘定义矩的每个元素都乘以若A=[aij],k量,kA=[kaij]乘足分配律和合律些运算构成了性代数计础算的基矩阵的乘法定义为阵为阵则积为阵若A m×p矩,B p×n矩,乘C=AB m×n矩,其中cij=Σaik·bkj性质换结非交性一般情况下AB≠BA;合律ABC=ABC应用线换线组数换表示性变的复合,求解性方程,据变阵线数阵数阵数这结矩乘法是性代中最重要的运算之一它要求第一个矩的列等于第二个矩的行,是乘法能够定义的必要条件乘法的果为阵对应内积表示两个矩行与列的数阵满换这线换顺对结阵对与普通的乘法不同,矩乘法通常不足交律,即AB≠BA一特性反映了性变复合的序果的影响矩乘法的理解于线换线组问题关掌握性变、解性方程等至重要单位矩阵与零矩阵单位矩阵零矩阵阶单阵对线为阵称为阵记为n位矩In是主角上元素全1,其余所有元素都是0的矩零矩,通常为阵元素全0的方O质对阶阵质对当维阵·性任意n矩A,有AIn=InA=A·性任意适度的矩A,有A+O换=O+A=A·几何意义表示恒等变,保持向量不变质应为阵计数·乘法性AO=O,OA=O·用作矩算的基准,类似于1在数将实运算中的角色·几何意义表示所有向量映射到原点的换变工程应用单阵阵应位矩和零矩在工程中有广泛用状态·控制系统中的空间表示图换阵·像处理中的变矩络阵·网分析中的邻接矩习权·机器学中的重初始化单阵阵线数阵们论应这位矩和零矩是性代中的特殊矩,它在理研究和实际用中都扮演着重要角色理解些阵质们阵规则特殊矩的性,有助于我更好地掌握矩运算转置矩阵与对称矩阵转置矩阵对称矩阵阵转记为将换阵阵满则称为对称阵对称阵须矩A的置AT,它是A的行和列互得到的矩如果矩A足A=AT,A矩矩必是方阵则若A=[aij]m×n,AT=[aji]n×m对称阵别对转质矩的判条件任意i,j,有aij=aji置的性对称阵质矩的性·ATT=A对线关对称·主角于·A+BT=AT+BT阵转积对称阵·任意矩A与其置的乘AAT和ATA都是矩·ABT=BTAT对称阵数·矩的特征值都是实对称阵应阵协阵阵对称阵许惯矩在实际用中非常常见例如,距离矩、方差矩、二次型的矩表示等都是矩在物理学中,多算子(如张应张对称阵对称阵数质对这们计性量、力量)都用矩表示矩具有良好的学性,例如总能正交角化,使得它在算和分析中更加方便逆矩阵与可逆性判定逆矩阵定义阵则称阵记为若存在矩B,使得AB=BA=I,B是A的逆矩,A-1阵阵阵则只有方才可能有逆矩,并且逆矩若存在唯一可逆的充要条件以下条件等价·A可逆为·A的行列式不零·A的秩等于n线组仅·性方程Ax=0有零解计算方法阵计常用的逆矩算方法阵·伴随矩法A-1=adjA/|A|换·初等行变法[A|I]→[I|A-1]阵结·分块矩法(适用于特殊构)阵线数线组阵线换换应对逆矩是性代中最重要的概念之一,它在求解性方程、矩方程和表示性变的逆变等方面有广泛用于2阶阶阵计阵对阶阵换数计和3矩,可以使用公式直接算逆矩,但于高矩,通常采用初等行变法或值算方法应误断阵谨时们关阵数阵在实际用中,由于舍入差的存在,判矩是否可逆需要慎有我更心矩的条件,它度量了矩接近不可对数稳逆的程度,值定性有重要影响行列式的定义与性质定义拉普拉斯展开阶阵数1开n行列式是从n×n矩到域的映射,通行列式可以按任一行或列展|A|=过计规则将阵为标数特定的算方映射一个量Σaij·Aij,其中Aij是代余子式主要性质应用4阵转换阵线组则阵行列式的值在矩置后不变;交矩的性方程的求解(克拉默法)、矩可3满断积换计两行(或两列)行列式变号;行列式足多逆性判、体变因子的算等线质行性性线数仅断阵还阶为维行列式在性代中具有重要地位,它不是判矩可逆性的工具,有丰富的几何意义n行列式的值等于以n个列向量棱的n平行多面积过们线换对体的有向体通行列式,我可以研究性变空间的扭曲程度尽归来杂质计对简单这质计阵管行列式的递定义看起复,但它的性使算变得相掌握些性,可以大大提高行列式算的效率,也能更深入理解矩的代数结构行列式的性质举例交换性质乘法性质换交行列式的两行或两列,行列式的行列式某一行(或列)的所有元素乘换数该值变号例如,交下面行列式的第以同一k,等于用k乘以行列式1行和第2行例如原行列式=|213|421|=-12352||2k3k|45|=k·|23|45|=换k·2·5-3·4=k·-2交后=|421|213|=12352|行列式的乘积阵积阵积这质证矩乘的行列式等于矩行列式的乘|AB|=|A|·|B|一性在明中经常使用,例如为阵则为如果A可逆矩,|A-1|=1/|A|,因|A·A-1|=|I|=1阵阵数转阵记为阵满关伴随矩是由原矩的代余子式置构成的矩,adjA它与原矩足重要这关导阵计系A·adjA=adjA·A=|A|·I一系直接出了逆矩的算公式A-1=当时adjA/|A|(|A|≠0)质线数为过这质们简行列式的性使其在性代中成强大的工具通些性,我可以大大化行列式计线组问题的算,更有效地解决性方程和特征值行列式与矩阵可逆条件行列式不为零阵为矩可逆的充要条件是其行列式不零矩阵满秩阶阵n矩的秩等于n线性方程组只有零解仅齐次方程Ax=0有平凡解所有特征值非零阵矩不存在零特征值为线换将压缩维这换维这换过行列式零的几何意义是性变空间到更低度在种情况下,变后的空间至少缺失一个度,意味着有些信息在变程中丢失,因此变换不可逆阵计当为时阵这论导计别对阶逆矩的算公式A-1=adjA/|A|也直接表明,只有行列式不零,逆矩才存在一公式在理推中很有用,但在实际算中,特是于高矩阵数约当,通常采用更高效的值方法,如高斯-消元法向量空间的定义V向量空间的定义数乘公理数数结向量空间V是一个代系统,由一个非空集合和两种·乘合律abv=abv数组满数单运算(加法和乘)成,足以下八条公理·乘位元1v=v换数对·加法交律u+v=v+u·乘向量加法的分配律au+v=au+av结数对标·加法合律u+v+w=u+v+w·乘量加法的分配律a+bv=av+bv单·加法位元存在零向量0,使得v+0=v对·加法逆元每个v存在-v,使得v+-v=0经典向量空间例子最常见的向量空间包括维·Rn n实向量空间维·Cn n复向量空间数过项·Pn次不超n的多式空间维阵·Mm×n m×n矩空间区连续数·C[a,b]定义在间[a,b]上的函空间线数论础线问题这们线向量空间是性代的理基,提供了研究性的抽象框架在个框架下,我可以统一处理各种性系论维还维们质线数统,无是有限是无限的理解向量空间的公理性定义,有助于我从本上把握性代的核心思想子空间与零空间子空间的定义零空间与列空间关给阵为如果V是向量空间,W是V的非空子集,并且W于V中定义的向量加法定矩A,零空间(核)NullA定义标则称和量乘法也构成向量空间,W是V的子空间NullA={x|Ax=0}子空间判定的充要条件组零空间包含了所有使得Ax=0的向量x,它是方程齐次解的集合·W是非空集合为线组对闭列空间ColA定义A的所有列向量的性合·任意u,v∈W,有u+v∈W(加法封)为对标数闭ColA={Ax|x任意向量}·任意v∈W和量a,有av∈W(乘封)换验证满数闭列空间表示了所有可能的Ax,即变A的值域事实上,只需W含有零向量且足加法和乘的封性即可结组张阵这关子空间是理解向量空间构的重要工具常见的子空间包括向量的成空间、矩的行空间和列空间、零空间等些子空间之间存在重要的维数维数阵系,如行空间的等于列空间的,并且等于矩的秩线换为对阵维数为数零空间反映了性变的核,即被映射零的所有向量于m×n矩A,其零空间的n-rankA,即自由变量的个零空间和列空间是线组结线换质关键理解性方程解的构和性变性的空间的基与维数基的定义维数概念唯一性定理坐标系统组维数给组选向量空间V的一基是V中的向量空间的是指其任一定向量空间的一基,空一旦定基,空间中的每个组线关组数组标一性无向量,使得它基中向量的个如果不间中任意向量都能唯一地表向量都可以用一坐唯一们线组则称为维为线组的性合可以表示V中的存在有限基,无限示基向量的性合表示不同基下,同一向量标这标任意向量空间的坐表示不同一定理确保了向量的坐组维数选择标等价定义一向量是基,是向量空间的固有特表示的唯一性,是解析几何基的决定了坐系统,当仅当们线关赖选择论础问题且它既性无又性,不依于的基例的理基不同的可能适合使用不张维数维是生成集(即成整个空如,Rn的是n,Pn的同的基数间)是n+1维数结维组数这数维数选择当简问题基和是理解向量空间构的核心概念有限向量空间中,任意两基具有相同的向量个,个就是空间的适的基可以化,例如线换阵为对在特征向量基下,性变的矩表示变角形式编码与维数公式坐标变换与过渡矩阵坐标向量定义给组₁₂标为ₙ定向量空间V和一基B={v,v,...,v},向量x在基B下的坐向量₁₂₁₁₂₂ₙₙₙ[x]B=c,c,...,c T,其中x=c v+c v+...+c v过渡矩阵₁₂₁₂组过阵为ₙₙ若B={v,v,...,v}和C={w,w,...,w}是V的两基,渡矩PB←C定义标PB←C的第j列是向量wj在基B下的坐坐标变换公式组标关为向量x在两基下的坐系[x]B=PB←C[x]C过阵满渡矩的逆足PC←B=PB←C-1应用标换计图应坐变在算机形学、物理学和工程学中有广泛用,例如图转缩换·3D形中的旋、平移和放变换·物理学中的参考系变换换·信号处理中的基变(如傅里叶变)标换线数应们标对选择标简问坐变是性代的重要用,它使我能够在不同的坐系统中描述同一象合适的坐系可以大大化题轴标简单的处理,例如在主坐系下,二次型的表达式变得向量空间中的典型子空间4基本子空间数量阵矩A定义了四个基本子空间行空间、列空间、零空间和左零空间rankA行空间和列空间维数维数阵RowA和ColA的都等于矩A的秩n-rankA零空间维数维数数NullA的等于列减去秩m-rankA左零空间维数维数数NullAT的等于行减去秩这线数阵则们关四个子空间构成了性代的基本框架行空间和列空间是矩乘法的值域空间,而零空间和左零空间是核空间它之间存在正交系行空间正交于左零空间,列空间正交于零空间线组时这关键在解性方程Ax=b,些子空间扮演着角色方程有解的条件是b在列空间中;齐次方程Ax=0的解集就是零空间;最小二乘解涉及到b这结关线数应关键在列空间的投影理解些子空间的构和系,是掌握性代用的线性映射的定义线性映射的定义典型线性映射例子数称为线线设V、W是域F上的向量空间,映射T:V→W性映射常见的性映射包括线换对标(或性变),如果任意向量u,v∈V和任意量a,b∈F,将·零映射Tv=0,所有向量映射到零向量都有Tau+bv=aTu+bTv·恒等映射Tv=v,保持所有向量不变数线这质线·微分算子Tf=f,在函空间上的性映射个性也叫做性性,它包含两个条件转换转·旋变在平面或空间中旋向量·加法保持性Tu+v=Tu+Tv换将数·投影变向量投影到子空间上·乘保持性Tau=aTu对称换关轴·变于某或平面的反射线线数数结线换线性映射是性代的核心概念,它保持了向量加法和乘运算的构在几何上,性变保持网格平行且等距,保持原点不将线为线变,并且直映射直线阵这线换数线质单满们性映射可以用矩表示,提供了研究性变的代工具了解性映射的性,如核、像、秩、射、射等,有助于我理线组结线换解性方程的解构和性变的几何意义线性变换的矩阵表示矩阵表示法给线换阵定基B和C,性变T可由矩[T]B,C表示,使得[Tv]C=[T]B,C[v]B矩阵构造₁则ₙ若B={v,...,v},[T]B,C的第j列是[Tvj]C基变换公式为过阵为过阵则若P B到D的渡矩,Q C到E的渡矩,[T]D,E=Q-1[T]B,CP复合线性映射线则∘线∘若S,T是性映射,S T也是性映射,且[S T]B,D=[S]C,D[T]B,C线换阵线数将换转为计计图换转缩阵性变的矩表示是性代中最强大的工具之一,它抽象的变化具体的算在算机形学中,各种变(如平移、旋、放)都可以用矩表过阵现换示,通矩乘法实变的复合选择阵们线换选择简阵线换不同的基会得到不同的矩表示,但它描述的是同一个性变在某些情况下,合适的基可以大大化矩形式,例如在特征向量基下,性变的矩阵为对阵计别简单表示成角矩,使算变得特线性方程组的基本概念线性方程组形式矩阵形式数线组写阵为一个含有n个未知的m个性方程可以用矩表示为Ax=b为数阵为维a11x1+a12x2+...+a1nxn=b1其中A m×n系矩,x n未知向量,b为维数a21x1+a22x2+...+a2nxn=b2m常向量...am1x1+am2x2+...+amnxn=bm齐次与非齐次为则称为线组若b=0,即等号右边全0,齐次性方程;则称为线组若b≠0,非齐次性方程组组齐次方程必有解(至少有零解),而非齐次方程可能无解阵将数阵数阵组增广矩是系矩A与常向量b并在一起形成的矩[A|b]它包含了方程的全部信息,是解方程组过对阵进换将组简为的重要工具通增广矩行初等行变,可以方程化更容易求解的形式线组结阵质关别组当仅当性方程的解空间构与矩A的性密切相特地,方程有解且rankA=数这线组问题关rank[A|b],即等号右边的常向量b在A的列空间中理解些基本概念,是解决性方程的键第一步线性方程组的解唯一解当时组rankA=rank[A|b]=n,方程有唯一解无穷多解当时组穷rankA=rank[A|b]n,方程有无多解无解3当时组rankArank[A|b],方程无解线组数阵阵过较这阵们组这别对维线性方程的解取决于系矩A和增广矩[A|b]的秩通比两个矩的秩,我可以确定方程解的情况种判方法于任意度的性方组程都适用应们这问题组数数导穷数问在实际用中,我经常会遇到三种情况例如,在某些工程中,方程可能是欠定的(方程少于未知),致有无多解;而在据拟合题组数数寻中,方程可能是超定的(方程多于未知),可能无精确解,需要使用最小二乘法找最佳近似解当组时当穷时为础线组这将续内详细讨方程有唯一解,可以用高斯消元法直接求解;有无多解,解可以表示基解系的性合加上一个特解些解法在后容中论高斯消元法前向消元过换将阵转换为阶过通行变增广矩行梯形,程如下将该调·找到第一列非零元素,行整到第一行·用第一行消去下面所有行的第一个元素对阵继续·子矩重复上述操作,直到无法回代消元将阶阵转换为简过行梯形矩行最形,程如下开·从最后一个非零行始将为·主元素化1该应·用行消去上面所有行相位置的元素·向上重复,直到处理完所有非零行解的确定简阵读从行最形矩取解检则·查是否有形如[
00...0|k](k≠0)的行,有无解对应为·主元位置的变量基本变量对应为·非主元位置的变量自由变量将赋数·自由变量予参,表示基本变量线组许数础过换将组简为们换现计现为数稳高斯消元法是求解性方程最基本的方法,也是多值算法的基它通系统的行变,方程化等价但更容易求解的形式在手算中,我常用初等行变实消元;在算机实中,提高值定性,通常采用部分主元或完全主元策略计杂为对规组虑对组数为专高斯消元法的算复度On³,于大模方程,可能需要考更高效的特殊算法于稀疏方程(大部分系零),有门的算法可以利用稀疏性提高效率初等行变换与行最简型交换两行将阵换这换组顺矩的第i行和第j行互位置种变不改变方程的解集,只是改变了方程的序行乘以非零常数将阵数这当将时矩的第i行所有元素乘以同一个非零常k相于方程两边同乘以k,不改变方程的解一行的倍数加到另一行将这当对组进线组组第j行的k倍加到第i行相于原方程行性合,不改变方程的解集行最简型的意义过换终简经初等行变得到的最形式叫做行最型(RREF)它具有以下特点非零行在零行之上;严每个非零行的首非零元素(主元)是1;主元所在列的其他元素都是0;主元从左到右格上升换线数们线组组初等行变是性代中最基本的操作之一,它生成等价的性方程,即保持方程的解集不变通过应这换们将阵简为简组系统地用些变,我可以矩化行最型,从而容易地得到方程的解简赖换骤简读许诉行最型是唯一的,不依于变的具体步从行最型可以直接出多重要信息主元的位置告们数阵组当仅当数我基本变量;主元的个等于矩的秩;非齐次方程有解且常列不含非零主元;自由变量的数数个等于变量总减去秩线性方程组解的结构齐次方程组的通解为Ax=0的解空间是A的零空间,它是一个向量空间通解形式₁₁₂₂ₖₖx=c v+c v+...+c v₁₂组ₖ其中v,v,...,v是零空间的一基,k=n-rankA非齐次方程组的特解时满₀Ax=b有解,可以找到一个足条件的特解x满组选择简单特解是足方程的任意一个解,通常形式最的解非齐次方程组的通解为Ax=b的通解形式₀x=x+Ax=0的通解对应组即特解加上齐次方程的通解线组结线数论满组组性方程的解构是性代中最优美的理之一它揭示了所有足方程的解是如何织的,并提供了表示这紧础组些解的凑方式基解系是零空间的一基,它最少地描述了所有可能的解应们选择质问题们寻数在实际用中,我经常需要从众多解中具有特定性的解例如,在最小二乘中,我找范最小的们满约结们这问题解;在信号处理中,我可能需要足某些物理束的解理解解的构使我能够系统地处理些线性相关性的矩阵判别法矩阵秩的定义向量组线性相关性判别阵为组线关数组为₁₂阵₁₂则ₙₙ矩A的秩定义其列向量中性无向量的最大个,也等于设向量v,v,...,v,构造矩A=[v v...v],组线关数行向量中性无向量的最大个则组线关·若rankA=n,向量性无过计则组线关秩可以通多种方式算·若rankAn,向量性相换将阵简为阶数为线关为数₁₂·初等行变法矩化行梯形,非零行的目即秩ₙ性相意味着存在不全零的系c,c,...,c,使得对阵为则满则₁₁₂₂ₙₙ·行列式法于方,若行列式不零,秩;否,考察c v+c v+...+c v=0阶数所有子式的最高阵还线关组数对阵数如果知道矩的秩,可以确定性无向量的最大个,以及组张维数·特征值法于方,秩等于非零特征值的个向量成空间的阵线数连线组线换质维数矩的秩是性代中最核心的概念之一,它接了性方程的解、性变的性以及向量空间的等多个方面从几何上看,秩线换维数数线组结表示性变后空间的;从代上看,秩决定了性方程解的构数计误断阵战应来计在值算中,由于舍入差的影响,准确判矩的秩可能具有挑性实际用中,通常使用奇异值分解(SVD)估有效秩,即过阈将该阈为通设定一个值,小于值的奇异值视零克拉默法则与行列式解法克拉默法则适用条件对数线组则仅满于n个方程n个未知的性方程Ax=克拉默法适用于足以下条件的情况则为b,若|A|≠0,解数阵须阵xj=|Aj|/|A|·系矩必是方为阵将换为·行列式不零(即矩可逆)其中Aj是A的第j列替b后得到的矩阵数数数·方程等于未知个局限性虽论则计较然理上优雅,但克拉默法在算上效率低计阶·需要算n+1个n行列式计杂为·算复度On!对组·于大型方程不实用阵·不适用于矩不可逆的情况则线组显对论规问题尽计克拉默法提供了性方程解的一个式公式,于理分析和小模很有价值管在算上不线组线数如高斯消元法高效,但它建立了行列式与性方程解之间的直接联系,揭示了性代中不同概念之间关的深刻系应当数时则计数在实际用中,需要解析解而非值解,克拉默法可能很有用例如,在符号算、参方程求论证场对较组数选择解、理明等合于大的方程,高斯消元法等值方法通常是更好的矩阵秩、行列最简、解空间特征值与特征向量初步基本定义几何意义对阶阵标线换该于n方A,如果存在非零向量v和量λ,使得特征向量是性变A下方向不变的向量,而特征值表示在方向上缩的伸比例Av=λv观释则称对应几种特殊情况的直解λ是A的特征值,v是于λ的特征向量对应写为·λ1方向上的拉伸特征值方程可以改对应压缩·0λ1方向上的对应缩A-λIv=0·λ0方向上的反向伸这阵对应压缩表明特征向量v是矩A-λI的零空间中的非零向量·λ=0方向完全到零·|λ|=1保持长度不变阵质们线换转轴轴称为阵特征值和特征向量是理解矩性的强大工具它揭示了性变的基本特性,如旋、主和不变子空间特征值的集合矩的谱关阵许项,它包含了于矩多重要信息,如迹、行列式、特征多式等阵对线积这关阵质矩的迹(角元素之和)等于所有特征值之和,而行列式等于所有特征值之些系反映了特征值与矩整体性之间的深刻联系许应们关阵谱这谱论础在多用中,我更心矩的而非具体元素,构成了理的基求特征值特征向量求特征值骤特征值是特征方程|A-λI|=0的根求解步阵数
1.构造矩A-λI,其中λ是未知计项
2.算行列式|A-λI|,得到λ的n次多式₁₂ₙ
3.求解方程|A-λI|=0,得到特征值λ,λ,...,λ求特征向量对线组每个特征值λ,求解齐次性方程A-λIv=0将阵
1.特征值λ代入矩A-λI组
2.求解方程A-λIv=0对应
3.得到的非零解就是于λ的特征向量特征空间对应特征值λ的所有特征向量及零向量构成特征空间EλEλ={v|Av=λv}=NullA-λI维数称为数组数特征空间的λ的几何重,等于方程A-λIv=0的自由变量个计对阶阵们计项对阶阵在实际算中,于低矩(如2×2或3×3),我可以直接算特征多式并求解但于高矩,精计难数确算特征值变得困,通常采用值方法如幂法、QR方法等计质线组对单杂维数特征向量的算本上是求解齐次性方程于多重特征值,其特征空间可能比重特征值更复,应线数问题关键骤可能大于1了解如何求解特征值和特征向量,是用性代解决实际的步相似矩阵与对角化相似性定义相似性质1阵⁻则称阵若存在可逆矩P,使得B=P¹AP,矩A与B阵2相似矩有相同的特征值、行列式、迹和秩相似对角化应用4对阵则对3对简阵计别数若A相似于角矩D,A可角化,即存在P使角化化矩算,特是求幂和函⁻P¹AP=D阵线数阵线换换质标换线换质矩的相似性是性代中的一个重要概念,它表示两个矩表示的是同一个性变,但在不同的基下相似变本上是坐变,它不改变性变的本特性,如特征值对阵当阵对时组为这组线换简单缩这简阵角化是矩分析的强大工具矩A可角化,可以找到一特征向量作新的基,在基下,性变变得非常,即沿每个基向量方向的伸大大化了矩计阵阵数运算,尤其是算矩的幂和矩函阵对阵对线关数数数当阵对时虑不是所有矩都可角化矩可角化的充要条件是它有n个性无的特征向量,或等价地,每个特征值的几何重等于代重矩不可角化,可以考更一般的标Jordan准形可对角化判据代数重数与几何重数可对角化的充要条件数数项为阶阵对特征值λ的代重是指λ在特征多式中作根的n方A可角化的充要条件数线关重·A有n个性无的特征向量数对应维数数数数特征值λ的几何重是指特征空间Eλ的,·每个特征值的几何重等于其代重线关数即方程A-λIx=0的性无解的个维数·特征空间的之和等于n数过数数几何重不超代重经典例子分析阵对下列矩总是可角化阶阵·具有n个不同特征值的n矩对称阵·矩规阵满·正矩(足A*A=AA*)阵对而下列矩可能不可角化阵·幂零矩·Jordan块对阵质当阵对时许计简单计阵可角化是矩的一个重要性矩可角化,多算变得例如,算矩的幂Ak=PDkP-1,其中计将对别Dk很容易算,只需角元素分幂化应阵严对对时在实际用中,即使矩不格可角化,也可能接近可角化,此可以使用Schur分解或奇异值分解(SVD)等术对们断时对来简问题时术技理解可角化的条件,有助于我判何可以使用角化化,何需要其他技对称矩阵的特征分解对称矩阵的性质正交对角化对称阵满质对称阵为实矩A(足A=AT)具有以下重要性矩A可以分解数·所有特征值都是实A=QDQT对应阵对阵对·不同特征值的特征向量正交其中Q是正交矩(QTQ=I),D是角矩,角线关线·总存在n个性无的特征向量元素是A的特征值对单们·A一定可以正交角化Q的列是A的位正交特征向量,即它两两正交且长为度1应用对称阵许领应矩的特征分解在多域有重要用·主成分分析(PCA)态·振动分析中的模分解观测·量子力学中的量协阵·方差矩分析轴换·二次型的主变对称阵谱线数结对计简单时矩的分解(特征值分解)是性代中最优美的果之一正交角化使得算变得,同保持了几何直观阵标转这换性正交矩Q表示坐旋,种变保持向量的长度和向量之间的角度对称阵应惯张应张协阵对称阵对称阵矩在实际用中非常普遍,如性量、力量、方差矩等都是矩理解矩的特征分解,是许应关键谱扩规阵阵阵掌握多科学和工程用的定理也展到更一般的正矩,包括厄米矩和酉矩标准型简介JordanJordan标准型定义Jordan块结构应用场景计算挑战对阶阵标别标计论于任何n复矩A,存在可逆每个Jordan块具有形式Jordan准型在以下情况特有Jordan准型的算在理上明阵践难矩P,使得P-1AP=J,其中J是用确,但在实中可能困结标Jkλ=[λ
10...0][0λ
000...λ]·矩不可角化的准形·需要精确算特征值对线对线·微分方程系统的求解·需要确定Jordan块的大小标即角上全是λ,次角上全Jordan准型是由若干Jordan为阵计对数误组对阵是1,其余元素0·矩幂的算·值差敏感块成的分块角矩应·奇异点分类·在用中常用Schur分解代替标线数论为阵标当阵对时标对阵当对时标Jordan准型是性代中一个重要的理成果,它任何复矩提供了准形式矩可角化,其Jordan准型就是角矩;不可角化,Jordan准型提供对结了最接近角形式的构对应关关标阵结数数数虽数每个Jordan块一个特征值,块的大小与特征向量和广义特征向量的系有Jordan准型完整地刻画了矩的构,包括特征值、代重和几何重等信息然在计论应值算中不如Schur分解或奇异值分解常用,但在理分析和某些特定用中仍然重要矩阵的幂与特征分解应用矩阵幂的计算应用差分方程计阵虑阶线组利用特征分解算矩的幂考一性差分方程为对阵则若A=PDP-1,其中D角矩,xk+1=Axk为Ak=PDkP-1解xk=Akx0对阵计将对角矩D的幂很容易算每个角元素升到k次幂利用特征分解,可以得到当对时标A不可角化,可以使用Jordan准型xk=PDkP-1x0这们为Ak=PJkP-1使我能够研究系统的长期行过项计为则稳Jordan块的幂也有特定模式,可以通二式公式算·若|λ|1(λ特征值),系统定则稳·若存在|λ|1,系统不定时进·λ的模等于1需要一步分析阵计应链许领们态为这阵矩幂的算是特征分解的重要用在马尔科夫、人口动力学、经济增长模型等多域,我需要研究动系统的长期行,通常涉及到矩幂的极过将这问题简为对限通特征分解,可以个化特征值的分析时线过阵稳为这术论差分方程是描述离散间系统的基本工具性差分方程的解可以通矩幂表示,因此特征值决定了系统的定性和长期行一技在控制理、信号预测领应处理和经济等域有广泛用向量的内积与正交内积定义正交性₁₂₁₂则称ₙ在实向量空间Rn中,向量u=u,u,...,u和v=v,v,...,若u·v=0,向量u和v正交内积为ₙv的定义正交性的几何意义两向量垂直₁₁₂₂ₙₙu·v=u v+u v+...+u v质正交向量的性内积质的性则·勾股定理若u⊥v,||u+v||²=||u||²+||v||²对称为给·性u·v=v·u·正交分解任何向量都可以分解平行和垂直于定向量的两部线·性性au+bw·v=au·v+bw·v分当仅当时为·正定性v·v≥0,且v=0等号成立·正交补子空间W的正交补W⊥定义与W中所有向量正交的所有向量的集合内积夹许们数过内积为是度量向量间角和距离的工具,它允我在向量空间中引入几何概念向量的长度(范)通定义||v||=√v·v两个非零夹过内积计向量间的角θ可以通算cosθ=u·v/||u||·||v||线数别对称阵问题换时数质计正交性是性代中的重要概念,特是在研究矩、最小二乘和正交变正交向量系统具有良好的学性,使算和分析变简单简单这数压缩应得例如,正交基使得向量分解和重构变得,在信号处理和据中有重要用正交基的构造起始向量组线关组₁₂开标组₁₂ₙₙ从性无的向量{v,v,...,v}始,目是构造正交向量{u,u,...,u}第一个正交向量₁₁取u=v后续正交向量对于k=2,3,...,n uk=vk-∑j=1k-1projujvk其中projuv=v·u/u·uu是v在u方向上的投影标准化对进标单每个正交向量行准化,得到位正交基ek=uk/||uk||组线关过格拉姆-施密特正交化是构造正交基的经典方法它的基本思想是从一性无向量出发,通减去在已构造正交向量这过将为维上的分量,逐步构建正交系统一程可以看作是向量空间分解互相正交的一子空间许别简单₁₂单则为ₙ正交基有多优点在正交基下,向量的分解特如果{e,e,...,e}是位正交基,任意向量v可表示v₁₁₂₂这计问题数ₙₙ=v·e e+v·e e+...+v·e e使得算投影、解最小二乘等变得方便正交基在函逼近、领应信号处理、量子力学等众多域有重要用正交矩阵性质定义主要性质阵满阵质正交矩Q足QTQ=QQT=I,即QT=Q-1正交矩具有以下性阵组单为正交矩的列(或行)形成Rn的一位正交·行列式值±1基·保持向量长度不变||Qx||=||x||夹·保持向量间角Qx·Qy=x·y·特征值的模都是1数为数计稳·条件1,值算定重要实例阵常见的正交矩包括转阵·旋矩阵·反射矩阵·排列矩阵·Householder矩转阵·Givens旋矩阵线换对应转这换刚正交矩表示保持长度和角度的性变,几何上于旋和反射类变在物理学和工程学中很常见,如标换阵们数质别计稳体运动、坐变等正交矩的重要性源于它的学优良性,特是在算方面的定性许阵阵这数线数应多重要的矩分解涉及正交矩,如QR分解、SVD分解、特征值分解等些分解在值性代中有广泛换换换阵质对这应用正交变也是信号处理中的基本工具,如傅里叶变、小波变等理解正交矩的性,掌握些用至关重要二次型与标准化二次型定义1带数阶对称阵有n个变量的二次型是形如fx=xTAx的函,其中A是n矩性质与分类2为负根据特征值的符号,二次型可分正定、定、不定等类型标准化步骤过换将为标₁₁₂₂通正交变y=Px,二次型化准形fx=λy²+λy²ₙₙ+...+λy²线椭圆线椭过将为标这当二次型在几何上表示二次曲(如、双曲)或二次曲面(如球面、双曲面)通特征值分解,可以二次型化准形式,相于找到曲面轴对称阵质为对应椭负对应的主方向矩A的特征值决定了二次型的性所有特征值正表示正定二次型,于球体;有正有的特征值表示不定二次型,于双曲面等标轴应过标换项为简单这过对称阵对二次型的准化是主定理的用它通坐变消除交叉,使二次型表达式变的平方和形式一程涉及矩的正交角化,即找到组为标标论习领应规一特征向量作新的坐基二次型的准化在优化理、机器学、物理学等域有广泛用,如主成分分析、二次划等矩阵的分解与简介SVDLU分解奇异值分解SVD将阵为阵阵积将阵为LU分解矩A分解下三角矩L和上三角矩U的乘SVD任意m×n矩A分解A=LU A=UΣVT当对为时为阵阵对阵对需要角元素1,常用形式其中U是m×m正交矩,V是n×n正交矩,Σ是m×n角矩,角元₁₂称为带换素σ≥σ≥...≥0奇异值PA=LU(有行交的分解)质为换阵SVD的重要性或A=PLU(P置矩)阵阵满应·适用于任何矩,不要求方或秩LU分解的主要用阵结·揭示矩的秩构线组·求解性方程·提供最佳低秩近似计阵计伪·算矩的行列式·算逆、最小二乘解计阵·算矩的逆阵线数们将杂阵为结简单阵积阵内结简计阵矩分解是性代中最有力的工具之一,它复矩分解构的矩乘,揭示矩的在构并化算LU分解是高斯消元法的矩形式,将过编码为阵线组它消元程下三角矩,是求解性方程的高效工具阵阵阵谱数压缩习图领奇异值分解SVD是最强大的矩分解之一,它适用于任何矩,并提供了矩的画像SVD在据、信号处理、机器学、像处理等域有广泛应维协过滤图压缩用例如,在主成分分析PCA中,SVD用于降;在推荐系统中,SVD用于同;在像处理中,SVD用于和去噪线性代数在几何中的应用旋转变换投影变换三维建模应用维绕时针转阵为将单阵为维线换对二平面中,原点逆旋θ角的矩向量v投影到位向量u方向上的投影矩在三建模中,性变用于象的操作过标现Rθ=[cosθ-sinθ;sinθcosθ]P=uuT·平移通齐次坐实缩对阵转阵阵夹为换将压缩线·放角矩,改变物体大小旋矩是正交矩,保持向量长度和向量间的角投影是一种秩1的变,它空间到一条直计图转阵现换计觉维图为不变在算机形学中,使用旋矩实物体的上投影变在算机视中用于降,在形学中·剪切使矩形变平行四边形转维础阴计数结换换阵积旋,是三渲染的基用于影算,是理解据构的重要工具·复合变多种变的矩乘线数为数换过阵计图线数现维数础换图性代几何学提供了强大的代工具,使几何变可以通矩运算精确表达在算机形学中,性代是实三渲染的学基,从模型变到视变换计赖线数,从投影到光照算,都依于性代的方法线性回归与数据拟合网络与计算机科学中的线性代数搜索算法推荐系统过问题协过滤阵术PageRank算法通求解特征值确定网页重同使用矩分解技,如SVD,从用户-阵链关2项阵隐要性,利用矩表示网页间的接系目矩中提取藏特征图形渲染神经网络图专阵现习权阵层连阵形处理器(GPU)门优化矩运算,实高深度学中的重矩表示间接,矩乘法图计传效的像渲染和并行算是前向播的核心操作线数现计础术将为阵过这性代在代算机科学中扮演着基性角色在搜索引擎技中,Google的PageRank算法互联网建模一个巨大的矩,每个网页的重要性通个阵这论应线数规络问题矩的主特征向量确定是特征值理的直接用,展示了性代如何解决大模网分析习领络层质线换线阵习计这为阵在机器学域,神经网的每一本上是一个性变加非性激活矩乘法是深度学算的核心,也是什么GPU(擅长并行矩运算)在深度习数压缩图识别语领赖线数张学中如此重要据、像、自然言处理等域都大量依性代工具,如主成分分析、奇异值分解和量分解等线性代数在自然科学中的作用物理系统建模化学反应网络生态系统模型线数为数杂应计阵阵态态为线线性代物理学提供了学框架,使复系统化学反系统可以用化学量矩描述,矩的生学中的种群动可以建模一个性或非过阵态对应应这线可以通矩和向量表示量子力学中,量子零空间于反的守恒律使得科学家能够性系统在性近似下,物种间的相互作用由矩态观测这杂应络态阵还由向量表示,量由厄米算符表示种表分析复反网的平衡和动力学特性表示,其特征值决定了种群是增长、减少是许计测稳谢线数示允物理学家精确算系统演化和量概率定在生物化学中,代通量分析使用性代方法写应过计这态预测在经典力学中,多体系统的运动方程可以成矩研究生物系统中的反流量通分析化学量种方法帮助生学家种群变化,分析食物阵简过弹阵结识别关键谢稳评环对态形式,利用特征分解化求解程例如,矩的构,可以出代通路和可能的网的定性,并估境变化生系统的影质为独简谐预簧点系统的小振动可以分解若干立的干点响振动模式线数现应远远简单计语杂现计领性代在代科学中的用超出了的算工具它提供了一种思考和描述自然的言,使复象可以被系统地分析在量子算域,量子比特的操作质线换线数计础本上是在希尔伯特空间中的性变,性代是量子算法设的基线性代数复习建议与学习资源经典教材推荐在线课程计算工具习线数质线习资开习线数时学性代的优教材包推荐的在学源有MIT学性代,以下工具可线课线辅计括Gilbert Strang的《性代放程Gilbert Strang教授的以助理解和算数应浅显数课频阵及其用》,易懂,注性代程,配有完整视;MATLAB/Octave,强大的矩应线线数计重用;David Lay的《性代可汗学院的性代系列,适算工具;Python的NumPy数应侧础习库开计及其用》,重几何直合基学;3Blue1Brown的,源的科学算包;观线线数频觉线换;Sheldon Axler的《性代性代视系列,以视化GeoGebra,可视化性变的数论释完成》,更注重抽象理;方式解概念;中国大学几何意义;Wolfram Alpha,内维数线线线数问题国丘声的《高等代》,MOOC平台上武汉大学的性在解决性代;论严谨题数课绘数理,例丰富代程Desmos,制函和向量的在线工具学习策略习线数有效学性代的方法包观括先建立几何直,再深入论题别抽象理;多做例,特是计题证题将算和明;概念与实应来习际用联系起;形成学小组讨论释,相互和解;定期复习记忆,使用间隔重复加深;尝试问用多种方法解决同一题线数单纯记忆议习计领层性代是一门需要理解而非的学科建学者先掌握基本概念和算方法,然后逐步悟其几何意义和更深的论结将线数积计来应理构性代与其他学科(如微分、物理学、算机科学)的联系建立起,有助于加深理解和用能力总结与展望核心观念总结线数质线性代的本是研究性映射和向量空间知识体系连接阵向量、矩、特征值和分解方法构成完整框架前沿应用领域3计线数从量子算到人工智能,性代无处不在未来发展方向维数杂战高据分析和复系统建模提出新挑过这课们顾线数阵杂线数数们通门程,我系统回了性代的核心概念和方法从最基本的向量与矩运算,到复的特征分解与奇异值分解,性代提供了一套强大的学工具,使我能够精线确描述和分析各种性系统线数将观数严谨结论应现数础术来数性代的魅力在于它几何直与代完美合,既有抽象理的深度,又有实际用的广度它是代学的基,也是科学技发展的重要引擎未,随着大据、计领线数将继续挥产论计人工智能、量子算等域的发展,性代发核心作用,并可能生新的理分支和算方法这础识时将线数专领现问题数仅计养维问题希望各位在掌握些基知的同,能够性代思想融入到自己的业域,发和解决新的学的力量不在于公式和算,更在于它培的思方式和解决的能力。
个人认证
优秀文档
获得点赞 0