《数值方法的迭代应用》课件

数值方法的迭代应用用于求解复杂数学问题的计算技术通过重复运算逐步接近精确解什么是数值方法基本定义主要特点应用领域用近似计算代替精确解析精度可控工程设计在有限步骤内获得近似解普适性强科学研究计算量大人工智能数值方法中的误差分析截断误差由数学模型简化引起舍入误差计算机有限精度导致误差传播随计算过程不断累积误差控制设计合理算法减小累积迭代方法基本思想初始值选择合理起点递推关系构建迭代公式重复计算逐步接近真解收敛判断满足精度要求停止迭代与非迭代方法比较对比维度迭代方法非迭代方法精度可设定精度固定精度速度计算量可能大步骤有限适用性复杂非线性问题简单结构化问题稳定性可能发散通常稳定存储需求通常较小可能较大常见数值迭代问题类型非线性方程线性方程组求解求解fx=0Ax=b优化问题特征值问题求解求解min fxAx=λx迭代初值的重要性收敛速度影响收敛性影响多解问题好的初值减少迭代次数不当初值可能导致发散影响最终收敛到哪个解收敛速度与阶数一阶收敛误差线性减小二阶收敛误差平方减小超线性收敛误差快速减小计算复杂度与存储需求时间复杂度空间复杂度适配大规模计算每次迭代所需运算量系数矩阵存储需求分块与分治策略总迭代次数中间结果存储量内存管理优化并行计算效率稀疏存储技术高性能计算架构数值方法的软件实现各平台针对不同计算场景优化专业库降低开发门槛线性方程组的迭代法概述最适用场景大规模稀疏系统主要方法分类静态迭代法与克里洛夫子空间方法选择依据矩阵结构、规模、精度要求雅可比（）迭代法原理Jacobi递推公式收敛条件严格对角占优x_i^k+1=b_i-∑a_ij·x_j^k/a_iij≠i|a_ii|∑|a_ij|,j≠i谱半径ρD^-1L+U1利用上一轮所有变量计算当前变量雅可比法数值例子高斯赛德尔（）法原理-Gauss-Seidel算法流程区别点适用矩阵利用已更新变量对角占优x_i^k+1=b_i-∑a_ij·x_j^k+1收敛速度更快正定矩阵ji更新不需临时存储三对角矩阵高斯赛德尔法数值例子-

61.7x迭代次数加速比达到误差所需次数比雅可比法快的倍数1e-

40.3%最终误差相对真值的误差百分比松弛法（）原SOR/GS-SOR理参数引入ωx^k+1=ωx_new+1-ωx^k超松弛ω1加速收敛欠松弛ω1提高稳定性松弛法的参数优化共轭梯度法（）基础CG适用矩阵理论基础主要优势对称正定矩阵最速下降法改进理论有限步收敛形式线性系统搜索方向正交存储需求低Ax=b A-二次函数最小化矩阵分解不必要共轭梯度法流程与优缺点计算残差r^k=b-Ax^k更新方向p^k+1=r^k+β_k p^k计算步长α_k=r^k·r^k/p^k·Ap^k更新解向量x^k+1=x^k+α_k p^k、等高级迭代法BiCG GMRES双共轭梯度法BiCG处理非对称矩阵最小残差法GMRES适用一般线性系统法QMR准最小残差方法法BiCGSTAB稳定双共轭梯度法非线性方程求解二分法与割线法:二分法割线法思想区间中点逼近思想连接两点直线优点稳定可靠优点收敛较快缺点收敛慢线性缺点不一定收敛牛顿拉夫森法（）迭代原理-Newton-Raphson泰勒展开在当前点线性近似fx求解迭代公式x_k+1=x_k-fx_k/fx_k选择初值需充分接近真解重复迭代直至满足终止条件牛顿法数值示例多元牛顿法与雅可比矩阵多变量扩展雅可比矩阵数值实现有限差分近似FX=0J_ij=∂F_i/∂x_j偏导数矩阵避免直接求逆X_k+1=X_k-J^-1·FX_k超松弛法（加速法）Aitken/Steffensen计算公式基本原理x̃=x_k-x_k+1-x_k²/x_k+2-利用三个连续迭代值加速2x_k+1+x_k实际应用加速效果与其他迭代法配合使用线性收敛变为二次收敛动态系统中的迭代应用简介映射混沌现象相空间结构Logistic初值敏感性稳定点与周期轨道x_n+1=rx_n1-x_n固定点迭代法与收敛性分析固定点定理的解Gx*=x*x*收敛条件|Gx|1将方程转化为形式x=Gx通过迭代求解x_k+1=Gx_k线性方程组大规模应用案例结构分析电力网络流体模拟有限元离散后求解大型线性系统节点电压方程组迭代求解压力方程组解算超大稀疏线性系统的求解实例10K+矩阵阶数系统未知量数量

0.05%非零元素比例高度稀疏矩阵98%存储节省使用稀疏存储格式200x计算加速直接法与迭代法速度比计算流体力学（）中的迭代CFD过程离散化空间与时间离散得到代数方程组压力速度耦合-等算法SIMPLE/PISO内迭代线性方程组求解外迭代非线性项与边界条件更新机器学习中的迭代优化方法初始化1随机初始参数前向传播2计算当前损失值梯度计算3求损失函数梯度参数更新4沿梯度反方向移动终止判断5达到收敛条件停止迭代优化最速下降法算法思想收敛特性沿负梯度方向搜索收敛速度慢∇之字形路径x_k+1=x_k-α_k fx_k步长选择关键共轭梯度法在机器学习中的应用图像处理中的迭代重建算法重建重建算法CT MRIART从投影数据迭代恢复原始图像从空间数据重建图像代数重建技术K电路网络分析中的数值迭代节点电压方程非线性元件建立方程组通过牛顿法线性化KCL应用领域大规模网络3集成电路仿真稀疏矩阵迭代技术电力系统分析非线性方程大规模应用案例量子化学计算材料非线性变形流体湍流模拟电子结构自洽场迭代大变形有限元分析非线性Navier-Stokes方程求解生物系统平衡代谢网络稳态计算固体力学仿真中的迭代法位移法力法未知量为节点位移未知量为内力刚度矩阵特点对称正定柔度矩阵求解科学计算中的高性能实现迭代算法天然适合并行实现加速比可达理论峰值90%约束优化中的迭代方法拉格朗日乘子法投影梯度法等式约束优化不等式约束优化构造拉格朗日函数梯度投影到可行域迭代求解条件每步保证约束满足KKT惩罚函数法将约束转为惩罚项构造增广目标函数无约束优化迭代求解数值积分中的自洽迭代随机采样生成积分点函数求值计算采样点函数值统计平均估计积分值误差评估检验收敛性误差与不确定性的数值评估蒙特卡洛方法不确定性传播置信区间多次迭代统计误差分布参数扰动对解的影响解的可信度量化迭代终止条件与容错机制残差准则||r_k||ε步长准则||x_k+1-x_k||δ最大迭代数终止kN_max容错恢复发散检测与回退加速技术与多重网格法粗网格快速得到整体解中等网格精细化区域特征细网格高精度局部求解预条件子技术Preconditioner核心目标改善系统条件数基本原理2求解替代M^-1Ax=M^-1b Ax=b常用类型分解、分解、对角线预条件ILU IC多尺度问题的迭代求解粗尺度模型尺度耦合快速整体特征边界条件传递2迭代更新细尺度模型多层次信息交换局部详细特征近期研究热点自适应与智能迭代学习型松弛参数自适应步长神经网络辅助迭代自动选择值基于最近迭代历史预测初值选择ω随系统特性调整最优步长动态确定学习求解模式近似雅可比矩阵面临的新挑战高维、非线性与不稳定性维数灾难非线性爆炸数值不稳定性复杂度随维数强非线性导致呈指数增长发散小扰动放大效应解决思路降维技术与自适应方法未来发展趋势与跨学科应用量子计算融合医学应用AI量子加速线性系统求解智能选择求解路径实时成像与诊断学习与研究建议推荐教材《数值分析》（李庆扬）学术资源期刊论文集SIAM实验工具、MATLAB Python+SciPy开源库、、PETSc EigenNumPy总结与讨论方法选择问题特性决定算法算法权衡精度、速度与内存需求适用场合解析解困难的复杂问题互动问答欢迎提问!。