随机过程的基本概念和基本类型

Aft32c随机过程的基本概念和基本类型第一早教学目的掌握随机过程的定义；1了解有限维分布族和定理；2Kolmogorov掌握独立增量过程和独立平稳增量过程概念3教学重点有限维分布和定理；1Kolmogorov随机过程的基本类型2教学难点有限维分布和定理1Kolmogorov基本概念

2.1教学目的掌握随机过程的定义；了解随机过程的按状态集和参数的分类教学重点随机过程的定义在概率论中，我们研究了随机变量，〃维随机向量在极限定理中，我们研究了无穷多个随机变量，但局限在它们相互独立的情形将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程定义设尸是一概率空间，对每一个参数飞丁，亿助是一定义在概率空间

2.1:Q2,g，£，尸上的随机变量，则称随机变量族为该概率空间上的一随机过程Xr={XfMeT},注若切£/㈤称}是二阶矩过程2X2⑺]3,{X自协方差函数

3.XQ,—£丁的状态的二阶中心混合矩Yt^t=E{[Xt-mt mt]}X4,X«2][XZ-x2{x22________________⑺的自协方差函数，简称协方差函数X当「，时，2=£[X⑺—〃W]2=E[Xt-EXt]2=旦石X«]2_[X，]2自相关函数

4.，小，的状态乂，的二阶原点混合矩X2£7X«2R^t=E[XtXt]__________________⑺的自相关函数，简称相关函数Xx212注当仇时，及九，1XQ]=m⑺=0032=2注Y%由=冉-缶24〃2x注及反映了随机过程在时刻和时的线性相关程度37x44RxG WXQ4，2注对两个随机过程的关系，要引进互协方差函数或互相关函数来描述4它们的线性关系互协方差函数.5设teT},{Yt,让是两个二阶矩过程，则称{XQ,7}丫-啊/Z,Z=£{[XZ-m4]

[22]}xr I21x⑺的互协方差函数x«,y其中mt=E[Yt]m r=E[XrLx Y互相关函数.6R t,t=E[X^Yt]⑺的互相关函数x«,yxy}22注:7xy4，2=RXY4，’2-X，2互不相关.7若称⑺互不相关7xy4/2=°X⑺，yI注若⑺互不相关，则x«,y根Rxy1，’2=X1〜’2即仇=仇仇丫XGY«2]x4]2]特征函数

8.记一场，…，⑸内，…，G二”2,E{exp{%XG+…+/XQ〃]}}称{打卬的，…%;.，…，./山，…，”丁心口为随机过程偏⑴:土乃的有限维特征函数族例设随机过程其中是随机变量，且=.求

2.6X«=Ucos2f,U£7=5,5均值函数；协方差函数；方差函数1Q6例设有两个随机过程*«=丫=汽其中是随机变量，且

2.73\DU=

5.试求它们的互协方差蹴作业设是两个随机变量，试求随机过程的均值1A8XQ=4+33,F£7=YO,ZO函数和自相关函数若相互独立，且B则⑺及«“A3A〜Nl,4,〜U0,2,m*为多少？随机过程的基本类型

2.3教学目的了解严平稳过程的定义；掌握宽平稳过程的定义，会判断一个随机过程是否是宽平稳过程；掌握均值遍历性定理；了解协方差函数遍历性定理；掌握独立增量过程和平稳增量过程的定义教学重点宽平稳过程的判定；均值遍历性定理；独立增量过程和平稳增量过程的定义教学难点宽平稳过程的判定；均值遍历性定理；协方差函数遍历性定理；

一、严平稳过程定义设随机过程止为,若对和任意实数当1{XD，Vn〃=l,2,…/，…/eTt+T,---,t+T GT时,X4,…,Xr“和X4+7,…，乂9+r有相同的分布函数，即1n=P[Xt+rx,---,XZ+TxJ11ZI则{为称为严平稳过程.X⑺£平稳过程的参数T:可以是连续的，如，£[0,4-oo,-oo,4-oo,可以是离散的，如/£{0,±1,±2,…},{0,1,2,…}

二、严平稳过程的特点.严平稳过程⑺的一维概率密度%）与，无关；二维概率密度/5/；斗W）而与1X仅与了二一/有关，42时间的起点无关，若严平稳过程存在二阶矩（即2贝口

2.E[X（Z）J00）,⑴均值函数为常数:〃★）=讥相XQ）]=⑵协方差函数乙（自）相关函数仅是时间差的函数.2），04，，2）7=4-2

三、宽平稳过程（简称平稳过程）定义设随机过程次为,如果它满足2:｛XQ）,⑺是二阶矩过程；（即所以二阶矩存在用⑴X X«）f8）均值函数为常数:即

（2）m（r）=E[X（r）]=m;协方差函数及（小，自）相关函数仅依赖于时间差r=t-t.

（3）2）,（0（/，2）]2则称⑺为宽平稳过程，或二阶平稳过程.当逑/整数集时，称为平稳时间X｛XQ）｝序列.注1:严平稳过程不一定是翻稳过程因为严平稳过程不一定是二阶矩过程若严平稳过程存在二阶矩，则—定是宽平稳过程注2:宽平稳过程也不一定厥平稳过程因为宽平稳过程只保正一阶矩二阶矩不随时可的推移而改变，这当然希自保证其有限维分布不随寸间而推移例设）｝是相互独立同分布的随机变量序歹其中｛,±，口均值

2.8｛X U,7=1,±2,…｝和方差分别为E[X（t）]=D[X（t）]=试讨论的平稳性I0XQ）例,9设随机序列加其中〃是上服从均匀分布｛X⑺=sin277Je7｝,T=｛1,2,-.｝,的随机变量，试讨论随几序列的平稳性当栏时，讨论其平稳性.XQ）｛XQ）0｝

四、平稳过程相关函数的性质性质21^x

（0）=£[X（r）]0性质2:Rx⑺Rx（）柯西-许瓦兹不等式222|E（xy）l（EX）（Er）结论自）相关函数⑺在时取得最大值.（Zx r=0性质⑺是偶函数，即Rx（f=Rx⑺3性质⑺是非负定的•即对任意数组京’行口任意〃个不全为零的实数4注自相关函数的非负定盘平稳过程最本质的特生，因为，任一连续函数，只T要具有非负定性，那么该函数必定是某平稳邂的自相关函数性质即⑺区Rx Ry821（o）+

（0）性质若平稳过程与丫⑺是平稳相关的，贝（其和⑺也9:X）j z⑺=x“）+y是平稳过程,其相关函数为工=Rx«+«+⑺+Ryx⑺Rz例设⑺是一周期为加勺函数，为，称*心=）为随机相位

2.10s e〜5«+周期过程，试讨论它的平稳性

五、独立增量过程定义设是一随机过程,若对任意正整数〃,享及九…山£丁，1｛X7｝V EN,＜*＜%随机过程的增量:4＜，2，XG-XG，XQ3-XG,・・・XQ〃-X:是相互独立的，贝称⑺为独立增量过程xi例设是相互独立的随机序列，令自则

2.11:｛X5,〃=0,12…｝X〃’是一独立增量过程｛//,，=0,12…｝若对任何乙也£丁有份一迦X4+X X+%-X.则称为平稳增量过程.兼有独立增量和平稳增量的过程称为平稳独立增量过程｛XQ,j7｝定义若二阶矩过程｛/，，£为对任意的＜乙，八，，2，，3,，4eT,有2X＜，2E{[XG-x][x—x6]}=o则称），，£为为正交增量过程｛X

六、遍历性定理，其中｛为独立同分布随机变量序列，⑴｛X.,〃=0,1,2,…｝x〃｝E（X；）＜8；八」？….ax”）｛毛=匕〃=/•,丁其中庭随机变量

（2）＜

（2）2E Yoo.].一!

11.,—X—＞m.—Yj=Y（Q.S.）对⑴而节由大数定律知，〃白’但在⑵中，〃占即经过//对时间的平均后，随机性没有任何改变于是自然产生这样的碱在何种条件下，平稳过程对时间的I平均值可以等于过程的均值？比问题称为平稳过程的遍历性问题这是邛稳过程研究中的一个重要课题对于平稳过程重要的是确定它的均值加和它的协方差函数｛X,=0,1,2,…｝或相关函数7«）（7（r））o由于石〃）=为估计处就必须对随机过程作大量观察.（X m,｛X,〃=o12…｝以记第次观察中时亥的值/=，儿由大数定律知，可以用X,•⑺4k0,12…nA1m=-£Xkn〃Z=1来估计相同样，为了估计协偿也可以用7A1〃A A一-加/c=£Xk«+r xk⑺-m〃k=\来估计然而对随机过呈作多次观察一般来说艮难做到容易做到的是作一次观察，获得一条样榴径,我们希望由这一次观察来估计相和八丁对于一般的随机过程这是不可能的，但是对于平稳过程，只要加上一些条件，就可以加上一些条件，就可以较好的估计，这就是遍万性定理fT J—1定义设为一平稳过程，若*=烈方］/力=加或当1｛X,-00/00｝0参数空间寸，T=ZH—1NX=Lim---------Xk=mV52N+i〃y则称8｝的均值有遍历性这里的极限是指均方意义下的概艮，｛XQ,-8丁称为参数集随机过程的两种描述方法:用映射表示工火，即是一定义在上，Xr,@:TxC-XG Tx的二元单值函数，固定松丁，㈠是一定义在样本空间上的函数，即为一随机变量；对于x固定的例小,是一个关于参数小丁的函数，通常称为样本函数，或称随机过程的*，，0一次实现记号有时记为“⑼或简记为.参数丁一般表示时间或空间参数常用X”，X的一般有⑴7=乂=｛0,

12..｝,此时称之为随机序列或寸间序列.随机序列写为｛X〃，・n0｝或=…｝.｛,±27=1,±2,…｝3T=［,勿其中可以取或-8,〃可以取+

8.当参数取可列集时，一般称随机过程为随机序列随机过程可能取值的全｛X«；fer｝体所构成的集合称为此随机过程的状态空间，记作中的元素称为状态状态空间可以S.S由复数、实数或更一般的抽象空间构成根据讲的不同过程可以分成不司的类:ns离散参数参数空间分类［连如丁={0,1,2・・・}如7={1|/20}f续参数f离散状态状态空间分类:连S取值是离散的续状态取值是连续的S1nnLimE\⑺力一根门二——f Xo2TTT-oo定义设为一平稳过程，若2｛X）,-8＜，＜8｝Lim⑺一mX nidt/r=——j X/+r-=/r或当参数空间寸,r=zHN_____1/⑺=Lint2N+1£X左-〃z X左+r-m=/r则称的协方差有遍历性,这里的极限是指均方意义下的极艮｛XQ）,＜00｝若随机过程（或随机序列）的均值和协方差函数都具有遍历性，则称此随机过程有遍历性上述的定义中，如果，只取非负实数（非负整数）时，相应的积分和求和就限制在◎”）上例如,相应的—1X=2g1°Xtdt=m_iNX=Lim Xk=m5N+I£例设）=一是随机变量尸（乂=提试判定乂《）的均值

2.12:78,8），*±1）=是否具有遍历性例213,正弦波其中g是常数与娜目互独立.XQ）=Acosl^+e）-8/8,A2x0x1/=A〜其它加，判定该随机过程是否明遍历性o e〜2定理（均值遍历性定理）22是平稳序列，其均值为m,协方差八万）,则⑴｛X〃,〃=0,±1,±2,…｝{X.，〃=0,±l,±2,・・・}均值具有遍历性的充分必要条件是N-11Lzm—V Xr=0…N之⑵设是平稳过程，则它的均值具有遍历性的充要条恨｛XQ）,-8Z8｝c2T T17J0推论

2.1若门小加…则均值遍历性定理成立仆3/r|证明由于当方寸,0r217⑺八寸『因『“⑺★17⑺0T推论对于平稳序列而言’若/«）-（°则均值遍历性定理成立

2.2:f8）,定理什办方差函数遍历性定理）22设是平稳过程,其均值函数为则协方差函数具有遍历生的充分必要条件是｛XQ）,-8z8｝0,例」『券即—/⑺”1-JL L.其中Br Xt=E[Xa+r+r%/+r,+rXZ].1f（定理及定理一般了解）

2.

12.2作业设为常数，为相互独立同分布1X（，）=Acosa，+3sinMj20,A,5于判别⑺是否为宽平稳过程N（0,b2）,X作业书第二章习题2:

2.

6.作业3，设为常数，是均值为零的不相关的随机变量，X（，）=Acos/+Bsin，,-ooZ8且石石（公）,试证⑺对均值具有遍历性，协方差函数不具有遍历性

（42）=X随机过程分为以下四类:离散参数离散型随机过程；1连续参数离散型随机过程;22连续参数连续型随机过程；33离散参数连续型随机过程44以随机过程的统计特征或概率特征的分类，一般有5独立增量过程；6二阶矩过程；平稳过程；过程;Poission更新过程；过程;Markov鞅；维纳过程随机过程举例例]随机游动一醉汉在路上行走，以概率前进一步，以概率〃后2,1P1-退一步（假设其步长相同），以⑺记他在泪寸刻在路上的位置，则就是x X（f）直线上的随机游动例抛掷一枚硬币，样本空间为定义

2.2s=｛，r｝_当出现时H当出现时t12],T G（—00,+oo）其中尸｛｝=尸｛则｛（口,+⑹｝是一随机过程T｝=1/2,X⑺〃£例历6”运动:英国植物学家历卬〃注意到漂浮在液面上的微小粒子

2.3不断进行无规则的运动，这种运动）既称为运动同时分子大量随机3mM碰撞的结果记为粒子在平面坐标上的位置，则它是平面上的加即运动（x«）,y（，））3有限维分布与定理

2.2Koi mogvrov教学目的掌握随机过程有限维分布函数的定义和性质；会求随机过程的均值函数、协方差函数、方差函数、自相关函数；了解定理Kolmogvrov教学重点随机过程的有限维分布函数；随机过程的数字特征（均值函数、协方差函数、方差函数、自相关函数1教学难点随机过程有限维分布；Kolmogvrov定理

一、随机过程的分布函数一维分布函数

1.设⑺是一随机过程，称小工）尸（=尸｛乂心《处为｛乂“）｝的一维分布函数.X90若使得耳（工）=勺/）=「办则称㈤为的一维概率密度379））｛XQ）｝二维分布函数

2.设二维随机向量X（t））亿T｝I｛（X）,Z）e2耳.生储/工工尸｛亿）＜当，*«々｝（$»2）2，1，2）=X2）＜称为二维随机向量的分布函数（X（G，X«2））若耳途尸3/（Z,Z,X,X）＞0,2（$2）=«1，%2，%，x2）1212则称/（八公/々）为二维概率密度.维分布函数

3.n〃维随机向量〃））的联合分布函数为（xo）x«2）,…,x«々,.•〃（不，…，心/（，…，*石，…，）・z4z=P{x（G«%,…—Z}若〃；，〃）3/Q],・・・j x，・・・x20,.，.〃；.，=f..・fJ（4，・・y，.・y）4y.・・dy〃J-8J—8称为“维随机向量的维分布函数,则称九…,*不…,天）（XG）,X«2）,…,xg））/（为〃维概率密度有限维分布族

4.一维、二维，…，〃维分布函数的全体{耳…”（%,,■山£「〃・・・5）,・・・21}称为有限维分布族有限维分布族的性质

5.对称性

（1）小丹…丹）=，…=P{X（G«/,…,X（O.）Kf}〃）=P{X（G44・・・,XQ MX〃}、〃）=尸〃；%,…，当）=EF（X X1，・・・相容性

（2）对于〈〃有%75F0L，％，8,…，◎=%7/%，…，与）注随机过程的统计特性完全由它的有限维分布族决定1:注:有限维分布族与有限维特征函数族相互唯一确定2问题一个随机过程的有限维分布族，是否描述了该过程的全部概率特{X（，）；，eT}性？定理存在性定理（Kolmogorov）设分布函数族公…训满足以上提到的对称性和相容性,W则必有一随机过程｛为,使｛F、，.乜区,北,小…,”恰好是｛的有限x«;f£1｝X⑺;1£7｝t维分布族，即耳….a，・・・,％〃=p｛xGK%,・・・,X9j〃｝定理说明的有限维分布族包含了小为的所有概率信息｛XQ；/wT｝｛XQ；例袋中有一个白球，两他球，每隔单位时间火袋中任取一球后放回，对每2,4一个确定的对应随机变量r丫小」如果对/时取得红球如2d果对出寸取得白球试求这个随机过程的一维分布函数族.例］利用抛掷硬币的试验定义一个随机过程

2.5出现正面COSE nXt=,teRt2t,出现反面、设出现正面反面的概率是相同的⑴写出⑺的所有样本函数实现；X⑵写出⑺的以为分布函羯和大X（x;—）（X；l）.定理说明，随机过程的有限维分布族是随机过程概率特征的Ko/mogomu完整描述，但在实际两题中，要知道随机过程供全部有限维分布族是不可能的因此，人们想到了用随机过程的某些特征来刻画随机过程的概率寺征

二、随机过程的数字特征均值函数

1.随机过程法为的均值函数定义为（假设是存在的）{XQ）；%Q），（，）=♦{X«）}注:根⑺是⑺的所有样本函数在时刻，的函数值的平均，它表示随机过程在时刻/的摆动中心X XQ）方差函数

2.随机过程{为的方差函数定义为XQ）；，GD（X（/））=[%（/）-一机⑺]E{⑺]2}=E{[X⑺2}注均方差函数皿）=恒表示^⑺在各个时亥小对于均值相⑺的偏离程度15。