用随机过程 教学课件

随机过程教学课件第一章随机过程基础与概率复习在深入学习随机过程之前，我们需要回顾概率论的基础知识，并建立对随机过程的整体认识本章将帮助大家复习概率论的核心概念，并逐步引入随机过程的基本定义与特性本章主要内容包括随机过程的定义与基本概念•概率论核心知识回顾•什么是随机过程？随机过程是定义在概率空间上、以时间为参数的随机变量族形式上表示为∈∈，其中{Xt,ω,t T,ωΩ}为参数空间（通常为时间）•T为样本空间•Ω对每个固定的，是一个随机变量•t Xt,·对每个固定的，是一个函数，称为样本函数或轨道•ωX·,ω随机过程的典型例子随机游走描述粒子在空间中随机移动的轨迹•股票价格金融市场中资产价格的随时间变化•排队系统顾客到达与服务的随机过程•概率论基础回顾概率空间随机变量与分布条件概率与全概率公式由样本空间、代数和概率测度组成随机变量是从样本空间到实数集的可条件概率Ωσ-F PXΩR PA|B=PA∩B/PB的三元组，是描述随机现象的数测函数其分布函数完全描述Ω,F,P Fx=PX≤x全概率公式，其中PA=∑PA|BiPBi学基础了随机变量的概率特性构成样本空间的一个划分{Bi}随机变量的数字特征期望或•EX=∫x·fxdx∑x·px方差•VarX=E[X-EX²]•矩母函数MXt=Eeᵗˣ随机变量的收敛性123依概率收敛依分布收敛几乎处处收敛如果对任意，有如果对所有的连续点，有如果，ε0limn→∞P|Xn-X xP{ω:limn→∞Xnω=Xω}=1，则称随机变量序列依概率收，则称随机变量序列则称随机变量序列几乎处处收敛于，记X|ε=0{Xn}limn→∞Fnx=Fx{Xn}X敛于X，记为Xn→ᵖX{Xn}依分布收敛于X，记为Xn→ᵈX为Xn→ᵃ·ˢX直观理解当很大时，与的差异很小的直观理解的分布函数渐近接近的分布直观理解除了概率为零的样本点外，n XnX XnX Xnω概率接近于函数的取值都收敛于1Xω大数定律中心极限定理大数定律表明，当样本数量足够大时，样本平均值将接近总体的期望值中心极限定理指出，大量相互独立的随机变量之和的分布趋于正态分布弱大数定律X̄n→ᵖμ当n足够大时强大数定律X̄n→ᵃ·ˢμ概率树与条件概率计算概率树是直观展示条件概率计算过程的有效工具在概率树中，每个节点表示一个事件，边上的数值表示条件概率，从根节点到叶节点的路径表示事件的交概率树的构建步骤应用技巧确定问题中的随机实验和事件序列利用对称性简化计算

1.•按时间或逻辑顺序排列事件对于复杂问题，分层处理

2.•绘制树状结构，标注条件概率结合贝叶斯定理分析逆向问题

3.•计算完整路径的概率（相乘法则）注意区分先验概率和后验概率

4.•第二章经典随机过程模型详解本章介绍几种最重要的随机过程模型，这些模型在实际应用中具有广泛的适用性，同时也是理解更复杂随机过程的基础我们将深入探讨泊松过程及其在排队论中的应用•随机游走模型及其分析方法•马尔可夫链及其状态分类•鞅过程及其在金融中的应用•泊松过程（）Poisson Process泊松过程的定义泊松过程是满足以下条件的计数过程{Nt,t≥0}

1.N0=0具有独立增量性质

2.具有平稳增量性质

3.对任意和，，

4.t0h→0P{Nt+h-Nt=1}=λh+oh P{Nt+h-Nt≥2}=oh其中为强度或到达率λ0重要性质服从参数为的泊松分布•Ntλt P{Nt=n}=e^-λtλt^n/n!相邻事件的到达间隔时间相互独立且服从参数为的指数分布•λ给定，个事件发生的时刻在区间内独立均匀分布•Nt=n n[0,t]λtλt1/λ期望事件数方差平均间隔时间时间内发生事件的平均数量描述事件数波动程度相邻事件的平均等待时间t随机游走（）Random Walk初始位置随机步进位置分布随机游走从原点₀开始每一步移动方向随机决定步后的位置为个随机步长的和S=0S_n=S_{n-1}+X_n nS_n n其中为独立同分布的随机变量当较大时，由中心极限定理，近似服从正态分布X_n nS_n简单对称随机游走反射原理简单对称随机游走是最基本的随机游走模型，其中每步等概率向左或向右移动一个单反射原理是分析随机游走首达时间的重要工具对于路径从出发到达的随机游走0n位距离若路径至少触及点一次，则存在一条从出发到达的对应路径•PX_n=1=PX_n=-1=1/2k2k-0n•E[S_n]=0利用这一原理可以计算•Var[S_n]=n首达时间分布•极大值分布•破产概率等•马尔可夫链（）Markov Chain马尔可夫链是具有马尔可夫性质的离散时间随机过程，其未来状态的条件分布仅依赖于当前状态，与过去的状态历史无关转移概率矩阵状态分类，其中表示从状态转移到状态的概率可达性若，则称状态从状态可达P=p_{ij}p_{ij}i j•p_{ij}^{n}0j in步转移概率p_{ij}^{n}=PX_m+n=j|X_m=i•互通类互相可达的状态构成一个互通类常返状态从状态出发，最终返回的概率为方程•i i1Chapman-Kolmogorov P^{m+n}=P^{m}P^{n}瞬时状态从状态出发，最终返回的概率小于•i i1周期性•di=gcd{n:p_{ii}^{n}0}平稳分布如果概率分布满足π则称为马尔可夫链的平稳分布π对于不可约、非周期的有限状态马尔可夫链，无论初始分布如何，长期来看状态分布都将收敛到唯一的平稳分布马尔可夫链广泛应用于排队系统分析•信息论与编码•生物序列分析•经济预测模型•鞅理论（）Martingale鞅的定义鞅的基本性质随机过程关于滤子是鞅，如果鞅的期望保持不变{X_n,n≥0}{F_n,n≥0}•E[X_n]=E[X_0]停时定理在适当条件下，是可测的•E[X_T]=E[X_0]

1.X_n F_n随机游走是鞅的条件•S_n E[X_i]=

02.E[|X_n|]∞鞅差序列满足，几乎处处成立•Y_n=X_n-X_{n-1}

3.E[X_{n+1}|F_n]=X_nE[Y_n|F_{n-1}]=0直观理解鞅是一个公平游戏的数学模型，当前的财富是未来财富的条件期望鞅的类型上鞅（不利游戏）•E[X_{n+1}|F_n]≤X_n下鞅（有利游戏）•E[X_{n+1}|F_n]≥X_n平方可积鞅•E[X_n²]∞金融应用在金融数学中，鞅理论是期权定价的理论基础风险中性定价在适当的概率测度下，折现资产价格是鞅•无套利原则市场中不存在无风险获利机会•泊松过程事件发生示意图上图直观展示了泊松过程中事件在时间轴上的随机分布泊松过程的关键特征是事件独立发生，且在任意等长时间区间内发生事件数量的分布相同时间分布特性事件发生的时间点在时间轴上独立随机分布•任意不重叠区间内的事件数相互独立•区间内事件数服从参数为的泊松分布•[t,t+s]Nt+s-Ntλs实际应用解读客户到达顾客随机到达服务窗口•故障发生设备随机时刻发生故障•网络请求服务器接收随机请求•电话呼叫呼叫中心接收随机电话•第三章随机过程的分析方法与应用掌握了随机过程的基本概念和经典模型后，本章将介绍分析随机过程的重要方法，并探讨其在各领域的应用均方微积分为随机过程建立类似于确定性函数的微积分工具，处理随机信号的微分和积分平稳过程分析研究统计性质不随时间变化的随机过程，通过谱分析方法揭示其内在结构连续时间马尔可夫过程将离散时间马尔可夫链的概念推广到连续时间，处理更复杂的随机动态系统计算机仿真技术利用数值方法和编程技术模拟随机过程的行为，为理论分析提供直观验证均方微积分基础均方收敛与连续性均方导数随机变量序列均方收敛到，如果随机过程在₀处的均方导数₀定义为{X_n}X Xt t Xt随机过程∈在₀处均方连续，如果{Xt,t T}t其中极限在均方收敛意义下成立均方可导的充要条件是自相关函数对变量均可偏导R_Xt,s t,s均方连续是研究随机过程微积分性质的基础均方积分伊藤积分简介随机过程的均方积分可以定义为伊藤积分是针对布朗运动等非平滑过程的特殊积分形式其中是布朗运动伊藤积分的独特性质其中极限在均方收敛意义下成立Bs积分值是鞅•均方积分具有线性性和可加性，但积分运算和期望运算的交换需要更强的条件不遵循普通微积分的链式法则•平稳随机过程严平稳过程宽平稳过程对任意和任意时间点₁₂以及任意时间平移，联合分布函数满足只要求一阶矩和二阶矩不随时间变化n t,t,...,tₙτ₁₂₁₂₁₂₁₂常数F_Xx,x,...,xₙ;t,t,...,tₙ=F_Xx,x,...,xₙ;t+τ,t+τ,...,tₙ+τ•E[Xt]=μ即所有统计性质不随时间平移而改变•R_Xt₁,t₂=R_Xt₁-t₂=R_Xτ宽平稳是实际应用中更常用的概念自相关函数功率谱密度宽平稳过程的自相关函数具有以下性质宽平稳过程的功率谱密度是自相关函数的傅里叶变换R_XτS_XωR_Xτ最大值性质•R_X0≥|R_Xτ|偶函数性质•R_X-τ=R_Xτ在处通常可导•R_Xττ=0功率谱密度描述了随机过程能量在频率域的分布，是信号处理中的核心概念自相关函数描述了过程在不同时刻取值之间的相关程度，是分析随机过程内在结构的重要工具维纳辛钦定理建立了自相关函数和功率谱密度之间的对偶关系，是随机信号分析的基础-连续时间马尔可夫过程连续时间马尔可夫过程{Xt,t≥0}是满足马尔可夫性质的连续时间随机过程状态空间分类前向方程与后向方程连续时间马尔可夫过程可以具有离散或连续的状态空间前向科尔莫戈罗夫方程描述了转移概率随时间的演化•离散状态空间连续时间马尔可夫链∂Pt,x,A/∂t=APt,x,A•连续状态空间扩散过程（如布朗运动）其中A是无穷小生成元算子后向方程从初始条件角度描述演化123转移概率与生成元定义转移概率Pt,s,x,A=PXs∈A|Xt=x对于齐次马尔可夫过程，可简化为Ps-t,x,A生成元或无穷小生成元描述了状态转移的瞬时特性生灭过程生灭过程是最重要的连续时间马尔可夫链，用于描述种群数量、排队长度等变化状态n的生率和死率分别为λₙ和μₙ•从状态n到n+1的转移率为λₙ•从状态n到n-1的转移率为μₙ•时间间隔Δt内，转移概率分别为λₙΔt+oΔt和μₙΔt+oΔt随机过程的计算机仿真随机数生成蒙特卡洛方法随机过程仿真的核心是高质量随机数的生成蒙特卡洛方法利用随机抽样模拟复杂系统•均匀分布随机数线性同余法、梅森旋转算法•计算期望E[gX]≈1/n∑gXᵢ•非均匀分布逆变换法、接受-拒绝法、Box-Muller变换•求积分∫gxfxdx≈1/n∑gXᵢ相关随机变量分解法求解微分方程通过随机行走近似•Cholesky•估计概率评价指标周期性、统计性质、计算效率•PA≈N_A/N泊松过程仿真生成指数分布的随机间隔时间序列

1.1累加间隔时间得到事件发生时刻

2.在给定区间内统计事件数

3.[0,T]马尔可夫链仿真初始化状态₀

1.X2根据当前状态和转移概率矩阵生成下一状态

2.记录状态序列并分析统计性质

3.布朗运动仿真离散时间网格₀

1.0=t生成独立正态增量

2.ΔWₖ~N0,Δtₖ构造轨道

3.Wtₖ₊₁=Wtₖ+ΔWₖ随机游走路径模拟上图展示了多条随机游走路径的模拟结果每条路径都从原点出发，每一步随机向左或向右移动一个单位距离尽管每条路径都是随机的，但从整体上我们可以观察到一些统计规律路径特性分析路径分散性随着步数增加，路径的分散程度（方差）线性增长•回归性大多数路径会多次穿越原点（零点）•持续性路径可能在一段时间内持续向同一方向移动•极值分布最大偏离原点距离的分布具有特殊性质•模拟技术要点使用伪随机数生成器产生±步长•1累积求和获得位置序列•多次重复模拟获得路径集合•统计分析路径特性验证理论结果•可视化展示随机性与统计规律•随机游走模拟在金融市场价格波动、粒子扩散、聚合物构型等领域有重要应用通过比较模拟结果与理论预测，可以加深对随机过程本质的理解典型案例分析金融期权定价中的随机过程模型Black-Scholes模型是期权定价的经典模型，假设资产价格服从几何布朗运动Black-Scholes其中为时刻的资产价格•S_tt为资产的预期回报率•μ为资产价格的波动率•σ为标准布朗运动•W_t在风险中性测度下，欧式看涨期权价格公式为随机过程在期权定价中的关键作用几何布朗运动模拟股票价格波动

1.伊藤微积分处理随机微分方程

2.鞅理论确保风险中性定价框架

3.蒙特卡洛方法数值求解复杂期权

4.对数随机游走几何布朗运动风险中性定价离散时间框架下，资产价格的对数回报率近似服从正态分布连续时间极限下，离散随机游走趋向于布朗运动驱动的随机微分方程在适当概率测度下，折现资产价格是鞅，期权价格是期望值典型案例分析通信系统中的随机信号处理随机信号的功率谱密度线性系统的随机响应随机信号的功率谱密度PSD描述信号能量在频域的分布当随机过程Xt通过线性时不变系统时•白噪声PSD在所有频率上均匀分布•输出Yt仍是随机过程•窄带噪声PSD集中在特定频段•输出PSD S_Yω=|Hω|²S_Xω•1/f噪声PSD与频率成反比•输出均值E[Yt]=H0E[Xt]PSD是系统设计和性能分析的重要工具•若输入是平稳过程，输出也是平稳过程信号检测基础维纳滤波通信系统中的信号检测问题可建模为假设检验其中rt是接收信号，st是待检测信号，nt是噪声最优检测器设计依赖于•信号与噪声的统计特性•性能指标（误报率、漏检率）•似然比检验是基本方法维纳滤波是最小均方误差滤波器课堂练习赌博破产概率计算问题设定随机游走模型考虑一个赌徒参与公平赌博（每次获胜或失败的概率均为）该问题可以建模为带有吸收壁的一维随机游走1/2赌徒初始资金为个单位状态空间•i•{0,1,...,N}每次赌博赢或输个单位状态和是吸收状态•1•0N赌徒的目标是将资金增加到个单位转移概率•N•p_{i,i+1}=p_{i,i-1}=1/2如果资金变为，则宣告破产•0定义为从状态出发最终被吸收到状态的概率P_i i0求赌徒最终破产的概率P_i方程建立根据全概率公式，对于，有1≤i≤N-1边界条件（已破产），（已达目标）P_0=1P_N=0方程求解整理得到P_{i+1}-P_i=P_i-P_{i-1}这意味着差分是常数，设为P_{i+1}-P_i c则P_i=P_0+ci=1+ci代入，得P_N=0c=-1/N最终结果结论赌徒破产概率等于减去初始资金与目标资金的比值1这个结果揭示了一个重要现象即使在公平博弈中，资金有限的一方面对资金无限的对手（赌场）时，长期来看必然破产这就是著名的赌徒破产悖论课堂练习泊松过程等待时间分布问题描述考虑强度为的泊松过程λ{Nt,t≥0}表示第一个事件发生的时间•T_1表示第二个事件发生的时间•T_2一般地，表示第个事件发生的时间•T_n n求的概率分布函数T_n F_nt=PT_n≤t关键观察分布函数推导密度函数事件等价于事件对分布函数求导得到概率密度函数{T_n≤t}{Nt≥n}即第个事件发生时间不超过等价于时刻前发生了至少个事件n tt n代入泊松分布公式这是参数为的分布（分布的特例）n,λErlang Gamman/λn/λ²1/λ期望值方差间隔均值第个事件的平均发生时间发生时间的波动程度相邻事件的平均间隔n课堂练习马尔可夫链状态分类考虑一个具有四个状态{0,1,2,3}的马尔可夫链，其转移概率矩阵为P=请判断各状态的类型（常返、瞬时），确定互通类，并计算平稳分布（若存在）确定状态可达性与互通类绘制状态转移图•状态0和1互相可达，构成一个互通类C₁={0,1}•状态2和3互相可达，构成另一个互通类C₂={2,3}•从C₁可以到达C₂，但反之不可通过分析转移概率矩阵可以绘制状态转移图，直观展示状态之间的转移关系计算平稳分布教学总结概率论基础经典随机过程模型随机过程建立在坚实的概率论基础之上本课程详细介绍了几类重要的随机过程概率空间与随机变量泊松过程计数过程的基本模型••条件概率与独立性随机游走离散增量过程••期望、方差与矩马尔可夫链具有无记忆性的过程••特征函数与极限定理鞅过程条件期望保持不变的过程••实际应用分析方法探讨了随机过程在多个领域的应用掌握了多种分析随机过程的方法金融资产定价、风险管理均方微积分处理随机过程的微分与积分••通信信号处理、噪声分析谱分析频域分析随机信号••排队论系统容量与等待时间状态空间方法分析马尔可夫过程••控制理论随机系统最优控制数值模拟计算机仿真复杂过程••随机过程理论是连接纯粹数学和应用科学的桥梁通过学习随机过程，我们获得了处理充满不确定性的真实世界问题的强大工具课程强调了理论理解与实际应用相结合的重要性，以及跨学科思维的价值参考教材与资料中文教材英文经典教材《随机过程》，何萍著，上海财经大学出版社，年《》，与著，•2020•Probability,Random Variables,and Stochastic Processes PapoulisPillai，第版，年《信息与通信工程中的随机过程》，陈明著，科学出版社，年McGraw-Hill42002•2009《》，著，，第《随机过程及其应用》，刘次华著，高等教育出版社，年•Introduction toProbability ModelsSheldon M.Ross AcademicPress12•2013版，年2019《随机过程》，钱敏平、龚光鲁著，高等教育出版社，年•2004《》，著，，第版，年•Stochastic ProcessesSheldon M.Ross Wiley21996《应用随机过程》，林元烈著，清华大学出版社，年•2002《》，著，，第版，年•Essentials ofStochastic ProcessesRichard DurrettSpringer32016在线学习资源推荐期刊中国大学平台《随机过程》《》•MOOC•StochasticProcessesand theirApplications学堂在线《随机过程及其应用》《》••Journal ofApplied Probability《》《》•MIT OpenCourseWareProbabilistic SystemsAnalysis andApplied Probability•Probability Theoryand RelatedFields《》《》•Coursera Stochasticprocesses byNational ResearchUniversity HigherSchool of•Annals ofApplied ProbabilityEconomics建议同学们根据自己的学习基础和兴趣方向，选择适合的参考资料初学者可以先从中文教材入手，掌握基本概念后再尝试阅读英文原版教材，扩展视野和深化理解课程学习建议学习策略1打牢基础深入理解概率论基础知识，包括概率空间、随机变量、条件概率、期望与方差等概念这些是学习随机过程的必要前提2重视直观理解随机过程的数学表达可能抽象复杂，应结合图形、类比和实例来建立直观认识，再进一步理解严格的数学定义3勤做习题随机过程学习需要大量练习来加深理解建议不仅解答教材习题，还可以尝试解决实际应用问题，或编程模拟随机过程常见问题答疑随机过程与随机变量的区别是什么？如何直观理解马尔可夫性质？随机变量是概率空间到实数集的可测函数，表示单一的马尔可夫性质本质上是无记忆性，指系统未来的状态只随机结果；而随机过程是一族随机变量的集合依赖于当前状态，而与历史路径无关可以类比为在{Xt,∈，随机过程在每个时间点都对应一个随机变量迷宫中，你下一步的选择只取决于你当前所处的位置，t T}t，描述随机现象随时间的演化可以理解为随机变而不取决于你之前走过的路径这种性质大大简化了对Xt量是静态的，而随机过程是动态的，增加了时间维度复杂系统的分析，因为我们只需要知道当前状态，而不需要记录整个历史鞅理论的实际意义是什么？鞅理论本质上是对公平游戏的数学描述，其核心在于条件期望等于当前值的性质在实际应用中，鞅理论为金融衍生品定价提供了理论基础（风险中性定价）；在统计学中，似然比过程是鞅，支持了顺序分析方法；在博弈论中，鞅性质保证了某些策略的长期公平性鞅的停时定理也是解决最优停止问题的关键工具随机过程的平稳性如何理解？布朗运动与随机游走有什么关系？平稳性意味着随机过程的统计特性不随时间变化严平稳要求布朗运动可以看作是随机游走在时间和空间上的连续极限具所有维度的联合分布在时间平移下不变，而宽平稳只要求一阶体来说矩（均值）和二阶矩（自相关函数）不随时间变化如果将随机游走的步长缩小为，时间间隔缩小为•ΔxΔt直观类比并且保持为常数•Δx²/Δt•严平稳如观察海面波浪，从统计意义上看，任何时刻•当Δt→0，Δx→0时，标准化后的随机游走收敛到布朗的波浪特性都相同运动宽平稳如稳定运行的机器产生的振动，其平均水平和•这一关系解释了为什么布朗运动在许多应用中是随机游走的自波动程度保持不变然推广未来学习展望随机微分方程与伊藤积分深入学习随机微分方程理论，掌握伊藤公式和伊藤积分的应用，为分析复杂连续时间随机系统打下基础随机控制与滤波理论研究在随机干扰下的最优控制问题，学习卡尔曼滤波等估计技术，应用于导航、信号处理和自动控制领域金融工程与随机模型探索随机过程在金融衍生品定价、风险管理、投资组合优化等金融工程领域的深入应用机器学习中的随机过程学习随机梯度下降、马尔可夫决策过程、隐马尔可夫模型等机器学习和人工智能中的随机过程应用大数据与随机算法研究随机算法在大数据处理中的应用，如随机抽样、随机投影、蒙特卡洛方法等，提高计算效率和处理能力随机过程理论是一个不断发展的领域，近年来与其他学科的交叉融合产生了许多新的研究方向和应用场景根据个人兴趣和职业规划，可以选择不同的方向深入学习理论研究工程应用马尔科夫过程、随机偏微分方程、鞅理论等方向的深入研究通信系统设计、信号处理、控制工程中的随机模型应用金融应用数据科学量化交易、风险建模、期权定价等金融工程应用大数据分析、机器学习、人工智能中的随机过程方法复杂随机过程示意图上图展示了多维随机过程在状态空间中的演化这种高维随机过程可以描述复杂系统中多个相互作用的随机变量随时间的联合演化，例如金融市场中多种资产价格的协同变动、生态系统中多个物种数量的随机波动等多维随机过程的特点状态空间维数高，描述多个相互关联的随机变量•变量间可能存在复杂的相关结构和依赖关系•系统演化路径呈现出丰富的时空模式•可能包含多尺度动力学，从微观波动到宏观趋势•研究方法与挑战高维状态空间的有效表示与降维技术•多变量之间复杂相关性的建模•大规模模拟与计算效率的平衡•从数据中识别和提取系统的本质特性•处理非线性和非高斯特性的理论框架•随着计算能力的提升和理论方法的发展，我们能够分析和模拟越来越复杂的随机系统，为理解现实世界中的不确定性提供更强大的工具多维随机过程是当代随机过程理论的前沿研究方向之一谢谢聆听！欢迎提问与讨论课程内容回顾我们系统学习了随机过程的基本概念、经典模型、分析方法及应用，包括泊松过程、随机游走、马尔可夫链和鞅•均方微积分、平稳过程和谱分析•连续时间马尔可夫过程和计算机仿真•金融、通信等领域的实际应用•后续交流方式欢迎通过以下方式继续学习交流课后答疑时间每周三•14:00-16:00在线讨论组随机过程学习群•QQ123456789电子邮件•stochastic@example.edu.cn课程网站•http://example.edu.cn/sp2023祝愿大家学有所成！随机过程是理解不确定性世界的强大工具，希望本课程能够帮助大家建立扎实的理论基础，并在各自的研究和工作中灵活应用这些知识。