









还剩58页未读,继续阅读
本资源只提供10页预览,全部文档请下载后查看!喜欢就下载吧,查找使用更方便
文本内容:
华师概率论与数理统计课件-概率论本课件旨在系统地介绍概率论的基本概念、理论和方法,帮助学生掌握概率论的核心内容,并培养运用概率论解决实际问题的能力通过本课程的学习,学生将能够理解随机现象的本质,掌握描述和分析随机现象的数学工具,为后续的数理统计学习奠定坚实的基础本课件内容涵盖了概率论的基本概念、随机变量及其分布、多维随机变量及其分布、随机变量的数字特征、大数定律和中心极限定理等核心内容每个章节都包含详细的理论讲解、丰富的例题分析和大量的练习题,以帮助学生更好地理解和掌握所学知识概率论的研究对象与意义概率论是研究随机现象统计规律性的数学学科随机现象是指在一定条件下,结果呈现不确定性的现象例如,掷硬币的结果、某地区未来一天的降雨量、某电子元件的寿命等都是随机现象虽然每次试验的结果不确定,但当试验次数足够多时,其结果会呈现出一定的统计规律性概率论的研究对象就是这些随机现象的统计规律性它通过建立数学模型,对随机现象进行定量分析,从而预测其发生的可能性和发展趋势概率论在自然科学、工程技术、经济管理、社会科学等领域都有着广泛的应用例如,在金融领域,概率论被用于风险评估和投资决策;在通信领域,概率论被用于分析信号传输的可靠性;在医学领域,概率论被用于研究疾病的发生和传播规律理论基础应用广泛为统计学、随机过程等学科提供理论基础在金融、通信、医学等领域有重要应用随机现象及其统计规律性随机现象是指在一定条件下,每次试验的结果不确定,但大量重复试验后,其结果呈现出一定的统计规律性的现象例如,掷骰子、抛硬币、测量身高、记录产品的寿命等这些现象的结果事先无法准确预测,但当试验次数足够多时,各种结果出现的频率会趋于稳定统计规律性是指随机现象在大量重复试验中呈现出的某种稳定的规律例如,掷一枚均匀的硬币,正面朝上的概率接近于;测量一大群人的身
0.5高,其分布接近于正态分布概率论正是通过研究这些统计规律性,来揭示随机现象的本质不确定性统计规律性普遍性123每次试验的结果不确定大量重复试验后呈现出稳定的规律自然界和社会生活中普遍存在样本空间与事件在概率论中,为了对随机现象进行数学描述,引入了样本空间和事件的概念样本空间是所有可能试验结果的集合,而事件是样本空间的一个子集例如,掷一枚骰子,样本空间为,事件掷出偶数点为{1,2,3,4,5,6}“”{2,4,6}样本空间和事件是概率论的基础概念,它们为我们提供了一个描述和分析随机现象的框架通过定义样本空间和事件,我们可以将随机现象转化为数学问题,从而运用概率论的工具进行研究样本空间事件所有可能试验结果的集合样本空间的子集基本事件只包含一个样本点的事件样本空间的基本概念样本空间是概率论中描述随机试验所有可能结果的集合它通常用符号表Ω示样本空间中的每个元素称为样本点,代表随机试验的一个基本结果样本空间可以是离散的,也可以是连续的例如,掷一枚硬币,样本空间为正{面,反面,是离散的;测量一个人的身高,样本空间为,是连续的}[0,∞在定义样本空间时,需要注意以下几点一是样本空间必须包含所有可能的结果,不能遗漏;二是样本空间中的结果必须互斥,即不能同时发生;三是样本空间的定义应该尽可能简单明了,便于后续的分析和计算集合样本点离散连续/所有可能结果的集合随机试验的一个基本结可以是离散的,也可以果是连续的事件的定义与运算在概率论中,事件是样本空间的一个子集事件的发生是指试验结果落在该子集内事件可以用集合的形式表示,也可以用文字描述例如,掷一枚骰子,事件掷出偶数点,事件掷A={}B={出大于的点事件之间可以进行各种运算,例如并、交、差等事件∪表示事件或事件3}A B A B发生,事件表示事件和事件同时发生,事件表示事件发生但事件不发生A∩B A B A-B A B事件的运算是概率论中重要的工具,它可以帮助我们分析复杂事件的概率例如,我们可以用事件的运算来计算多个事件同时发生的概率,或者计算某个事件发生的条件下,另一个事件发生的概率定义1样本空间的子集表示2可以用集合或文字描述运算3可以进行并、交、差等运算概率的定义与性质概率是描述事件发生的可能性的数值它是一个介于和之间的实数,表示事件发生的频率的极限概率越大,表示事件发生的可能性越大;概率越小,表示01事件发生的可能性越小概率的定义有多种方式,例如古典概率、几何概率、频率概率和公理化概率概率具有一些重要的性质,例如,∅,∪这些性质是概率计算的基础,也是概率论的重要组成部分PΩ=1P=0PA B=PA+PB-PA∩B数值意义性质介于和之间的实数描述事件发生的可能性,∅,∪01PΩ=1P=0PA B=PA+PB-PA∩B古典概型古典概型是一种特殊的概率模型,它适用于满足以下两个条件的随机试验一是样本空间包含有限个样本点;二是每个样本点发生的概率相等例如,掷一枚均匀的骰子,样本空间为,每个样本点发生的概率都为在古典概型中,事件发生的概率等于事件包含的样本点个数除{1,2,3,4,5,6}1/6A A以样本空间包含的样本点个数古典概型是概率论中最简单的模型之一,但它在实际应用中仍然非常有用例如,我们可以用古典概型来计算抽奖中奖的概率,或者计算摸球试验中摸到特定颜色球的概率等可能性2每个样本点发生的概率相等有限性1样本空间包含有限个样本点计算事件包含的样本点个数样本空间包PA=A/3含的样本点个数几何概型几何概型是另一种特殊的概率模型,它适用于样本空间是某个几何区域的随机试验例如,在一个圆形区域内随机投掷一个点,样本空间为该圆形区域在几何概型中,事件发生的概率等于事件对应的几何区域的测度(例如长度、面积、体积)除以样本空间对应A A的几何区域的测度几何概型在解决一些与几何有关的概率问题时非常有用例如,我们可以用几何概型来计算一个点落在某个特定区域内的概率,或者计算一个线段的长度落在某个范围内的概率区域测度1几何区域2样本空间3概率的公理化定义为了克服古典概型和几何概型的局限性,概率论建立了基于公理的概率定义公理化定义基于三个公理一是概率的非负性,即PA;二是概率的规范性,即;三是概率的可列可加性,即对于两两互斥的事件∪∪≥0PΩ=1A1,A2,...,PA1A
2...=PA1+基于这三个公理,可以推导出概率的其他性质,并建立完整的概率论体系PA2+...公理化定义是现代概率论的基础,它使得概率论能够应用于更广泛的随机现象,并与其他数学分支建立联系可列可加性1规范性2非负性3条件概率条件概率是指在事件发生的条件下,事件发生的概率,记为条件概率反映了事件的发生对事件发生的影响例如,已知某人患有某种疾病,则他接受某种治疗后痊愈的概率,就是一个条B APA|B B A件概率条件概率的计算公式为,其中PA|B=PA∩B/PB PB0条件概率是概率论中重要的概念,它在实际应用中非常广泛例如,在医学诊断中,医生会根据患者的症状和检查结果,计算患者患有某种疾病的概率,这就是一个条件概率在信用评估中,银行会根据客户的信用记录和财务状况,计算客户违约的概率,这也是一个条件概率条件概率的定义设,为两个事件,且,则称在事件发生的条件下事件发生的条件概率为条件概率是一个重要的概念,A B PB0B APA|B=PA∩B/PB它描述了在已知某个事件发生的条件下,另一个事件发生的可能性条件概率的定义要求,因为如果,则没有意义PB0PB=0PA|B条件概率的定义是基于频率的解释当试验次数足够多时,可以看作是在发生的试验中,也发生的频率因此,条件概率反映了事件的PA|B BA B发生对事件发生的影响A维恩图用维恩图可以直观地理解条件概率的含义乘法公式由条件概率的定义,可以得到乘法公式乘法公式给出了计算两个事件同时发生的概率的方PA∩B=PBPA|B=PAPB|A法它可以推广到多个事件的情况例如,对于三个事件,,,有A BC PA∩B∩C=PAPB|APC|A∩B乘法公式在实际应用中非常广泛例如,在计算产品的合格率时,需要考虑每个环节的合格率,并用乘法公式计算最终的合格率在风险评估中,需要考虑多个风险因素同时发生的概率,并用乘法公式计算总体的风险基本公式推广可以推广到多个事件的情况PA∩B=PBPA|B=PAPB|A全概率公式设是一组两两互斥的事件,且∪,则称A1,A2,...,An Ai=ΩA1,A2,...,是样本空间的一个划分对于任意事件,有这AnΩBPB=ΣPAiPB|Ai个公式称为全概率公式全概率公式给出了计算事件发生的概率的方法,它将B事件分解为多个互斥的事件,并分别计算每个事件发生的概率,然后求和B全概率公式在实际应用中非常有用例如,在计算产品的合格率时,如果产品的生产过程有多个环节,每个环节的合格率不同,则可以用全概率公式计算最终的合格率在医学诊断中,如果某种疾病的诊断方法有多种,每种方法的准确率不同,则可以用全概率公式计算最终的诊断准确率划分公式12是一组两两互A1,A2,...,An PB=ΣPAiPB|Ai斥的事件,且∪Ai=Ω应用3可以将复杂事件分解为多个简单事件进行计算贝叶斯公式设是一组两两互斥的事件,且∪,则对于任意事件,有A1,A2,...,An Ai=ΩB这个公式称为贝叶斯公式贝叶斯公式PAi|B=PAiPB|Ai/ΣPAjPB|Aj给出了在事件发生的条件下,事件发生的概率,它反映了在已知事件发生的情况B AiB下,对事件发生的概率的修正Ai贝叶斯公式在实际应用中非常广泛例如,在垃圾邮件过滤中,可以根据邮件的内容判断邮件是否为垃圾邮件,这就是一个贝叶斯公式的应用在医学诊断中,可以根据患者的症状和检查结果,判断患者是否患有某种疾病,这也是一个贝叶斯公式的应用公式意义反映了在已知事件发生的情况下,PAi|B=PAiPB|Ai/B对事件发生的概率的修正ΣPAjPB|Aj Ai应用垃圾邮件过滤、医学诊断等事件的独立性设,为两个事件,如果,则称事件与事件相互独立事件的独立性是指事件的发生不会影响事件的发生,反之亦A BPA∩B=PAPB ABAB然例如,掷两枚硬币,第一枚硬币的结果不会影响第二枚硬币的结果,因此这两个事件是相互独立的事件的独立性是概率论中重要的概念,它在实际应用中非常广泛例如,在系统可靠性分析中,如果系统的各个部件是相互独立的,则可以更容易地计算系统的可靠性在金融风险管理中,如果多个资产的收益率是相互独立的,则可以更容易地分散风险互不影响公式应用事件的发生不会影响事件的发生,反之亦系统可靠性分析、金融风险管理等ABPA∩B=PAPB然事件独立性的定义设,为两个事件,如果,则称事件与事件相互独立如果ABPA∩B=PAPB AB,则称事件与事件不独立对于多个事件,如PA∩B≠PAPB ABA1,A2,...,An果对于任意的,都有,则称事件两两独立i≠j PAi∩Aj=PAiPAj A1,A2,...,An如果,则称事件相互独立PA1∩A2∩...∩An=PA1PA
2...PAn A1,A2,...,An需要注意的是,两两独立并不能保证相互独立只有当所有事件同时满足时,才能称这些事件相互独立PA1∩A2∩...∩An=PA1PA
2...PAn定义1PA∩B=PAPB两两独立2对于任意的,都有i≠j PAi∩Aj=PAiPAj相互独立3PA1∩A2∩...∩An=PA1PA
2...PAn伯努利试验伯努利试验是指只有两种可能结果的随机试验,例如掷硬币(正面或反面)、检查产品(合格或不合格)等通常将其中一种结果称为成功,另一种结果称为失败如果进“”“”行次独立的伯努利试验,每次试验成功的概率为,则称这次试验为重伯努利试验n pn n n重伯努利试验中,成功次数的分布服从二项分布伯努利试验是概率论中重要的模型,它在实际应用中非常广泛例如,在质量控制中,可以用伯努利试验来分析产品的合格率在市场营销中,可以用伯努利试验来分析顾客的购买行为两种结果只有两种可能结果(成功或失败)独立性每次试验相互独立二项分布重伯努利试验中,成功次数的分布服从二项分布n随机变量及其分布随机变量是指取值具有随机性的变量它可以是离散的,也可以是连续的例如,掷一枚骰子,其结果是一个随机变量;测量一个人的身高,其结果也是一个随机变量随机变量的分布是指随机变量取不同值的概率分布它可以用分布函数、概率质量函数或概率密度函数来描述随机变量及其分布是概率论的核心概念,它们为我们提供了一个描述和分析随机现象的数学框架通过研究随机变量的分布,我们可以了解随机变量的取值规律,并预测其未来的发展趋势离散连续/2可以是离散的,也可以是连续的随机性1取值具有随机性分布可以用分布函数、概率质量函数或概率密度函3数来描述随机变量的概念设是一个随机试验,其样本空间为如果对于每一个样本点∈,都有一个实数与之对应,则称为随机变量随机变量通EΩωΩXωX常用大写字母表示,例如,,等随机变量可以是离散的,也可以是连续的如果随机变量的取值是有限个或可列个,则称其为X Y Z离散型随机变量;如果随机变量的取值是不可列个,则称其为连续型随机变量随机变量的概念将随机试验的结果与实数联系起来,从而使得我们可以用数学工具来研究随机现象实数1样本点2随机试验3离散型随机变量及其分布律如果随机变量的取值是有限个或可列个,则称其为离散型随机变量离散型随机变量的分布律是指随机变量取每个值的概率通常用表示分布律需要满足两个条件一是;二是例如,掷一枚骰子,其结果是一个离散型随机变量,PX=xi=pi pi≥0Σpi=1其分布律为,PX=i=1/6i=1,2,3,4,5,6离散型随机变量的分布律是描述离散型随机变量的重要工具通过分布律,我们可以了解离散型随机变量的取值规律,并计算其各种统计量分布律1可列个2有限个3连续型随机变量及其概率密度如果随机变量的取值是不可列个,则称其为连续型随机变量连续型随机变量不能像离散型随机变量那样,用概率质量函数来描述其分布而是用概率密度函数来描述其分布概率密度函数是一个非负函数,其在某个区间上的积分表示随机变量在该区间内取值的概率例如,测量一个人的身高,其结果是一个连续型随机变量,其分布可以用正态分布的概率密度函数来描述连续型随机变量的概率密度函数是描述连续型随机变量的重要工具通过概率密度函数,我们可以了解连续型随机变量的取值规律,并计算其各种统计量x fx分布函数分布函数是描述随机变量分布的通用方法对于任意随机变量,其分布函数定义为分布函数是一个单调不减函数,其取值范围为分布函X Fx=PX≤x[0,1]数可以描述离散型随机变量的分布,也可以描述连续型随机变量的分布对于离散型随机变量,分布函数是一个阶梯函数;对于连续型随机变量,分布函数是一个连续函数分布函数是概率论中重要的工具,它可以帮助我们了解随机变量的取值规律,并计算其各种统计量通过分布函数,我们可以计算随机变量落在某个区间内的概率,或者计算随机变量大于某个值的概率离散型连续型离散型随机变量的分布函数是一个阶梯函数连续型随机变量的分布函数是一个连续函数常见的离散型分布在概率论中,有一些常见的离散型分布,例如分布、二项分布、泊松分布等这些分布在实际应用中非常广泛例如,分布0-10-1可以用来描述一个事件是否发生;二项分布可以用来描述重伯努利试验中成功次数的分布;泊松分布可以用来描述单位时间内随机事n件发生的次数了解这些常见的离散型分布,可以帮助我们更好地理解和分析随机现象分布二项分布泊松分布0-1描述一个事件是否发生描述重伯努利试验中成功次数的分布描述单位时间内随机事件发生的次数n分布0-1分布是最简单的离散型分布如果随机变量只取两个值和,且,,则称服从分0-1X01PX=1=p PX=0=1-p X0-1布分布可以用来描述一个事件是否发生例如,掷一枚硬币,如果正面朝上记为,反面朝上记为,则硬币的结果服从分0-1100-1布分布虽然简单,但在概率论中有着重要的作用它是许多其他分布的基础,例如二项分布0-1取值概率应用123只取两个值和,描述一个事件是否发生01PX=1=p PX=0=1-p二项分布二项分布是指重伯努利试验中成功次数的分布如果随机变量表示重伯努利n Xn试验中成功的次数,每次试验成功的概率为,则称服从二项分布,记为p X X~二项分布的概率质量函数为Bn,p PX=k=Cn,k*p^k*1-,其中表示从个中选取个的组合数p^n-k Cn,k nk二项分布在实际应用中非常广泛例如,在质量控制中,可以用二项分布来分析一批产品中合格品的数量在市场营销中,可以用二项分布来分析一组顾客中购买某种产品的顾客的数量定义参数重伯努利试验中成功次数的分(试验次数)和(每次试验成n np布功的概率)应用质量控制、市场营销等泊松分布泊松分布是指单位时间内随机事件发生的次数的分布如果随机变量表示单X位时间内随机事件发生的次数,表示单位时间内随机事件发生的平均次数,λ则称服从泊松分布,记为泊松分布的概率质量函数为X X~PλPX=k,其中表示的阶乘=λ^k*e^-λ/k!k!k泊松分布在实际应用中非常广泛例如,在交通管理中,可以用泊松分布来分析单位时间内通过某个路口的车辆数在电信领域,可以用泊松分布来分析单位时间内接到呼叫的数量在生物学中,可以用泊松分布来分析单位时间内细胞分裂的次数单位时间平均次数应用描述单位时间内随机事表示单位时间内随机交通管理、电信领域、λ件发生的次数事件发生的平均次数生物学等常见的连续型分布在概率论中,有一些常见的连续型分布,例如均匀分布、指数分布、正态分布等这些分布在实际应用中非常广泛例如,均匀分布可以用来描述在某个区间内随机取值的变量;指数分布可以用来描述电子元件的寿命;正态分布可以用来描述人类的身高、体重等生理指标了解这些常见的连续型分布,可以帮助我们更好地理解和分析随机现象均匀分布1描述在某个区间内随机取值的变量指数分布2描述电子元件的寿命正态分布3描述人类的身高、体重等生理指标均匀分布均匀分布是指在某个区间内,随机变量取每个值的概率都相等均匀分布的概[a,b]X率密度函数为,均匀分布的分布函数为fx=1/b-a a≤x≤b Fx=x-a,均匀分布在实际应用中可以用来描述在某个区间内随机取值的/b-a a≤x≤b变量,例如随机数发生器生成的随机数均匀分布是一种简单的连续型分布,但在概率论中有着重要的作用它是许多其他分布的基础,例如指数分布区间在某个区间内[a,b]概率相等随机变量取每个值的概率都相等X应用随机数发生器指数分布指数分布是指描述电子元件的寿命的分布如果随机变量表示电子元件的寿命,表示单位时间内电子元件失效的平均次数,则称服从指数分XλX布,记为指数分布的概率密度函数为,指数分布的分布函数为,指数分布在X~Expλfx=λ*e^-λx x≥0Fx=1-e^-λx x≥0实际应用中非常广泛例如,在排队论中,可以用指数分布来描述顾客到达的时间间隔指数分布具有无记忆性,即电子元件已经工作了时间,再工作时间的概率与从一开始工作时间的概率相同t ss失效次数2表示单位时间内电子元件失效的平均次数λ寿命1描述电子元件的寿命无记忆性具有无记忆性3正态分布正态分布是指描述人类的身高、体重等生理指标的分布正态分布也称为高斯分布,是概率论中最重要的分布之一如果随机变量X的概率密度函数为,则称服从正态分布,记为,其中fx=1/σ*√2π*e^-x-μ^2/2σ^2XX~Nμ,σ^2μ表示均值,表示标准差正态分布的图像呈钟形,左右对称,中间高,两边低σ正态分布在实际应用中非常广泛例如,在统计学中,许多统计量的分布都近似服从正态分布在金融领域,可以用正态分布来描述资产收益率的分布对称性1钟形2应用广泛3随机变量的函数及其分布如果是一个随机变量,是一个函数,则也是一个随机变量如果已知的分布,则可以求出的分布对于离散型随机X gxY=gX X Y变量,可以通过计算取每个值的概率来求出的分布对于连续型随机变量,可以通过求的分布函数或概率密度函数来求出的分Y Y Y Y布求随机变量的函数的分布是概率论中重要的内容,它在实际应用中非常广泛例如,如果已知一个电阻的电阻值服从正态分布,则可以通过求电阻的功率的分布,来分析电阻的功率分布X Y=I^2*X新随机变量1函数关系2原随机变量3离散型随机变量的函数的分布设是离散型随机变量,其分布律为,如果,则也是一个离散型随机变量的分布律可以通过以下方法求出首先,求出可能取的值;然X PX=xi=pi i=1,2,...Y=gX Y Y Yyj=gxj后,计算取每个值的概率,其中求和是对所有满足的进行的例如,如果服从分布,,则也服从分布Y PY=yj=ΣPX=xi gxi=yj iX0-1Y=X^2Y0-1求离散型随机变量的函数的分布,需要注意可能取的值的范围,以及取每个值的概率的计算Y Y连续型随机变量的函数的分布设是连续型随机变量,其概率密度函数为如果,且是单调函数,则也是一个连续型随机变量的概率密度函数可以通过以X fXxY=gX gxY Y下方法求出首先,求出的反函数;然后,计算的概率密度函数其中表示的导数例如,如果服gx hy Y fYy=fXhy*|hy|hy hy X从均匀分布,,则的概率密度函数可以用上述方法求出Y=X^2Y求连续型随机变量的函数的分布,需要注意是否是单调函数,以及反函数的求法和导数的计算gx积分概率密度函数在某个区间上的积分表示随机变量在该区间内取值的概率多维随机变量及其分布如果是个随机变量,则称为维随机变量多维随机变量的分布是指这个随机变量取不同值的概X1,X2,...,Xn nX1,X2,...,Xn nn率分布它可以用联合分布函数、联合概率质量函数或联合概率密度函数来描述多维随机变量的分布是概率论中重要的内容,它在实际应用中非常广泛例如,如果表示一个家庭的收入,表示一个家庭的支出,则是一个二维随机变量通过研究的分布,我们可以了解家X Y X,Y X,Y庭的收入和支出之间的关系多个变量联合分布由多个随机变量组成可以用联合分布函数、联合概率质量函数或联合概率密度函数来描述二维随机变量的联合分布设和是两个随机变量,则是一个二维随机变量如果X Y X,Y Fx,y=PX≤,则称为的联合分布函数对于离散型随机变量,联合x,Y≤y Fx,y X,Y分布函数可以用联合概率质量函数来表示对于连续型随机变量,联合分布函数可以用联合概率密度函数来表示联合分布函数描述了二维随机变量取不同值的概率分布二维随机变量的联合分布是描述两个随机变量之间关系的重要工具通过联合分布,我们可以了解两个随机变量的取值规律,并计算它们之间的各种统计量定义离散型12可以用联合概率质量函数来表Fx,y=PX≤x,Y≤y示连续型3可以用联合概率密度函数来表示边缘分布设是一个二维随机变量,其联合分布函数为则的边缘分布函数为X,Y Fx,y X的边缘分布函数为FXx=PX≤x=limy→∞Fx,yYFYy=PY≤y=边缘分布函数描述了单个随机变量的取值规律,而不考虑其他随limx→∞Fx,y机变量的影响对于离散型随机变量,边缘分布可以用边缘概率质量函数来表示对于连续型随机变量,边缘分布可以用边缘概率密度函数来表示边缘分布是描述多维随机变量的重要工具通过边缘分布,我们可以了解单个随机变量的取值规律,而不受其他随机变量的干扰定义离散型可以用边缘概率质量函数来表示FXx=PX≤x=limy→∞Fx,y连续型可以用边缘概率密度函数来表示条件分布设是一个二维随机变量,如果和都是离散型随机变量,则在X,Y X YY=yj的条件下,的条件分布律为X PX=xi|Y=yj=PX=xi,Y=yj/如果和都是连续型随机变量,则在的条件下,的条件PY=yj X YY=y X概率密度函数为条件分布描述了在已知某个随机fx|y=fx,y/fYy变量的取值的情况下,另一个随机变量的取值规律条件分布是描述多维随机变量的重要工具通过条件分布,我们可以了解在已知某些信息的情况下,其他随机变量的取值规律已知条件取值规律在已知某个随机变量的取值的情况描述另一个随机变量的取值规律下随机变量的独立性设和是两个随机变量,如果对于任意的和,都有X Yx yPX≤x,Y≤y=PX≤x*,则称和相互独立如果和都是离散型随机变量,则和相互独立当且仅PY≤yX Y X Y X Y当如果和都是连续型随机变量,则和PX=xi,Y=yj=PX=xi*PY=yj X Y X相互独立当且仅当随机变量的独立性是指一个随机变量的取值Y fx,y=fXx*fYy不会影响另一个随机变量的取值随机变量的独立性是概率论中重要的概念,它在实际应用中非常广泛定义1PX≤x,Y≤y=PX≤x*PY≤y离散型2PX=xi,Y=yj=PX=xi*PY=yj连续型3fx,y=fXx*fYy二维随机变量的函数的分布设是一个二维随机变量,是一个函数,则也是一个随机变量如果已知的分布,则可以求出的分布求二维随机X,Y gx,y Z=gX,YX,YZ变量的函数的分布是概率论中重要的内容,它在实际应用中非常广泛例如,如果表示一个家庭的收入,表示一个家庭的支出,则可以通过求家X Y庭的储蓄的分布,来分析家庭的储蓄情况Z=X-Y求二维随机变量的函数的分布,需要根据具体情况选择合适的方法常用的方法有分布函数法、卷积公式法等新变量函数关系原变量数学期望数学期望是指随机变量的平均取值对于离散型随机变量,数学期望等于随机变量的每个取值乘以其概率,然后求和对于连续型随机变量,数学期望等于随机变量的取值乘以其概率密度函数,然后积分数学期望是概率论中重要的概念,它反映了随机变量的中心位置数学期望在实际应用中非常广泛例如,在金融领域,可以用数学期望来计算资产的预期收益率在保险领域,可以用数学期望来计算保险公司的预期赔付额离散型21平均取值连续型3离散型随机变量的数学期望设是离散型随机变量,其分布律为,如果,则称的数学期望存在,且X PX=xi=pi i=1,2,...Σ|xi|pi∞X EX=Σxi*pi离散型随机变量的数学期望等于随机变量的每个取值乘以其概率,然后求和数学期望反映了离散型随机变量的中心位置离散型随机变量的数学期望在实际应用中非常广泛例如,在计算彩票的预期收益时,需要计算彩票的每个奖项的奖金乘以其中奖概率,然后求和和1概率2取值3连续型随机变量的数学期望设是连续型随机变量,其概率密度函数为如果,则称的数学期望存在,且连续型随机变X fx∫|x|fxdx∞X EX=∫x*fxdx量的数学期望等于随机变量的取值乘以其概率密度函数,然后积分数学期望反映了连续型随机变量的中心位置连续型随机变量的数学期望在实际应用中非常广泛例如,在计算电子元件的平均寿命时,需要计算电子元件的寿命乘以其概率密度函数,然后积分积分1概率密度2取值3数学期望的性质数学期望具有一些重要的性质,其中是常数;,其中是常数;;如果和相互独立,则这些性质是数
1.EC=C C
2.ECX=CEX C
3.EX+Y=EX+EY
4.X YEXY=EXEY学期望计算的基础,也是概率论的重要组成部分利用这些性质,可以简化数学期望的计算,并分析随机变量之间的关系数学期望的性质在实际应用中非常广泛例如,在投资组合管理中,可以用数学期望的性质来计算投资组合的预期收益率EC=C ECX=CEX EX+Y=EX+EY EXY=EXEY方差方差是描述随机变量的离散程度的指标它表示随机变量的取值偏离其数学期望的程度方差越大,表示随机变量的取值越分散;方差越小,表示随机变量的取值越集中方差是概率论中重要的概念,它反映了随机变量的波动性方差的平方根称为标准差方差在实际应用中非常广泛例如,在金融领域,可以用方差来衡量资产的风险在质量控制中,可以用方差来衡量产品的质量稳定性波动性方差反映了随机变量的波动性方差的定义设是一个随机变量,如果存在,则称为的方差,记为或X EX-EX^2EX-EX^2X DXVarX DX=EX-方差表示随机变量的取值偏离其数学期望的程度方差越大,表示随机变量的取值越分散;方差EX^2=EX^2-EX^2越小,表示随机变量的取值越集中方差的定义是理解方差的重要基础通过方差的定义,我们可以了解方差的物理意义和计算方法方差的性质方差具有一些重要的性质,其中是常数;,其中是常数;如果和相互独立,则
1.DC=0C
2.DCX=C^2DX C
3.X Y DX+这些性质是方差计算的基础,也是概率论的重要组成部分利用这些性质,可以简化方差的计算,并分析随机变Y=DX+DY量之间的关系方差的性质在实际应用中非常广泛例如,在投资组合管理中,可以用方差的性质来计算投资组合的风险常数线性变换独立变量DC=0DCX=C^2DX DX+Y=DX+DY常见的随机变量的数学期望与方差对于一些常见的随机变量,例如分布、二项分布、泊松分布、均匀分0-1布、指数分布、正态分布等,它们的数学期望和方差都有明确的公式了解这些公式可以方便我们计算这些随机变量的数学期望和方差,并进行相关的分析例如,分布的数学期望为,方差为;二项分布的数学期0-1p p1-p望为,方差为;正态分布的数学期望为,方差为np np1-p Nμ,σ^2μσ^2熟悉常见分布的数学期望和方差是概率统计学习的基础分布二项分布0-112EX=p,DX=p1-p EX=np,DX=np1-p正态分布3EX=μ,DX=σ^2协方差与相关系数协方差是描述两个随机变量之间线性关系的指标它表示两个随机变量的取值是否同时偏离它们的数学期望如果两个随机变量的取值同时偏离它们的数学期望,则协方差为正;如果一个随机变量的取值偏离其数学期望,另一个随机变量的取值向相反的方向偏离其数学期望,则协方差为负;如果两个随机变量的取值之间没有明显的线性关系,则协方差接近于零相关系数是协方差除以两个随机变量的标准差的积,它是一个无量纲的指标,取值范围为,更方便比较不同变量之间的相关性[-1,1]协方差和相关系数在实际应用中非常广泛例如,在金融领域,可以用协方差和相关系数来衡量不同资产之间的相关性,从而进行风险管理协方差相关系数应用衡量两个随机变量的线性关系协方差的标准化,范围金融风险管理[-1,1]协方差的定义与计算设和是两个随机变量,如果存在,则称XYEX-EXY-EY EX-为和的协方差,记为EXY-EY XY CovX,Y CovX,Y=EXY协方差表示两个随机变量的取值是否同时偏离它们的数学期-EXEY望如果两个随机变量的取值同时偏离它们的数学期望,则协方差为正;如果一个随机变量的取值偏离其数学期望,另一个随机变量的取值向相反的方向偏离其数学期望,则协方差为负;如果两个随机变量的取值之间没有明显的线性关系,则协方差接近于零协方差的定义是理解协方差的重要基础通过协方差的定义,我们可以了解协方差的物理意义和计算方法线性关系公式描述两个随机变量之间的线性关系CovX,Y=EXY-EXEY相关系数的定义与计算设和是两个随机变量,是和的协方差,是的方差,是的方XYCovX,YXYDXX DYY差,则和的相关系数定义为相关系数是一个无量纲XYρ=CovX,Y/√DXDY的指标,取值范围为如果,则称和不相关;如果,则称和正[-1,1]ρ=0XYρ0XY相关;如果,则称和负相关;如果或,则称和完全相关ρ0XYρ=1ρ=-1XY相关系数是描述两个随机变量之间线性关系的重要指标它可以用来衡量两个随机变量之间的相关程度和相关方向定义1ρ=CovX,Y/√DXDY取值范围2[-1,1]意义3衡量两个随机变量之间的相关程度和相关方向矩、协方差矩阵矩是描述随机变量分布的数字特征对于随机变量,阶原点矩定义为X k,阶中心矩定义为数学期望是一阶原点矩,方差是EX^k kEX-EX^k二阶中心矩协方差矩阵是描述多维随机变量之间关系的矩阵对于维随机变n量,其协方差矩阵的第行第列的元素为协方差X1,X2,...,Xn ij CovXi,Xj矩阵是一个对称矩阵,其对角线上的元素为各个随机变量的方差矩和协方差矩阵是描述随机变量分布的重要工具通过矩,我们可以了解随机变量的中心位置、离散程度、偏度和峰度等信息通过协方差矩阵,我们可以了解多个随机变量之间的相关关系矩描述随机变量分布的数字特征协方差矩阵描述多维随机变量之间关系的矩阵大数定律大数定律是概率论中描述随机现象平均结果稳定性的定律它指出,当随机试验的次数足够多时,随机变量的平均取值会趋近于其数学期望大数定律是概率论的重要基石,它为我们用频率估计概率提供了理论依据大数定律有多种形式,例如切比雪夫大数定律、伯努利大数定律、辛钦大数定律等这些定律在实际应用中非常广泛例如,在民意调查中,可以用大数定律来保证调查结果的准确性试验次数2当随机试验的次数足够多时平均结果1描述随机现象平均结果的稳定性数学期望随机变量的平均取值会趋近于其数学期望3切比雪夫不等式切比雪夫不等式是概率论中一个重要的不等式,它给出了随机变量取值偏离其数学期望的概率的上限对于任意随机变量,如果其X数学期望为,方差为,则对于任意正数,有切比雪夫不等式说明,随机变量的方差越EX DXεP|X-EX|≥ε≤DX/ε^2小,其取值偏离其数学期望的概率就越小切比雪夫不等式在实际应用中非常广泛例如,在统计学中,可以用切比雪夫不等式来估计样本均值的误差方差1数学期望2概率上限3切比雪夫大数定律切比雪夫大数定律是描述独立随机变量平均结果稳定性的定律设是个相互独立的随机变量,如果它们的方差存在X1,X2,...,Xn n且有共同的上界,则对于任意正数,有εlimn→∞P|X1+X2+...+Xn/n-EX1+EX2+...+EXn/n|ε=切比雪夫大数定律说明,当独立随机变量的个数足够多时,它们的平均取值会趋近于它们的数学期望的平均值1切比雪夫大数定律在实际应用中非常广泛例如,在误差分析中,可以用切比雪夫大数定律来保证多次测量的平均结果的准确性稳定趋近1平均值2独立变量3伯努利大数定律伯努利大数定律是切比雪夫大数定律的一个特殊情况,它描述了重伯努利试验中事件发生的频率的稳定性设在重伯努利试验中,事件发生的次数为,每次试验中事件发生的概率为nnA nAA,则对于任意正数,有伯努利大数定律说明,当试验次数足够多时,事件发生的频率会趋近于其概率pεlimn→∞P|nA/n-p|ε=1伯努利大数定律在实际应用中非常广泛例如,在抽样调查中,可以用伯努利大数定律来保证样本中某个属性的比例接近于总体中该属性的比例次数频率辛钦大数定律辛钦大数定律是描述独立同分布随机变量平均结果稳定性的定律设是个相互独立的且具有相同分布的随机变量,如果它们的数X1,X2,...,Xn n学期望存在,则对于任意正数,有辛钦大数定律说明,当独立同分布随机变量的εlimn→∞P|X1+X2+...+Xn/n-EX1|ε=1个数足够多时,它们的平均取值会趋近于它们的数学期望辛钦大数定律是概率论中最重要的定律之一,它是中心极限定理的基础在实际应用中,辛钦大数定律可以用来估计总体均值样本均值可以用辛钦大数定律来估计总体均值中心极限定理中心极限定理是概率论中描述大量独立随机变量之和的极限分布的定律它指出,在一定条件下,大量独立随机变量之和的分布近似服从正态分布中心极限定理是概率论中最重要的定律之一,它为我们用正态分布近似其他分布提供了理论依据中心极限定理有多种形式,例如独立同分布的中心极限定理、李雅普诺夫定理等这些定理在实际应用中非常广泛例如,在统计推断中,可以用中心极限定理来构造置信区间和假设检验大量独立正态分布描述大量独立随机变量之和的极限分布大量独立随机变量之和的分布近似服从正态分布独立同分布的中心极限定理设是个相互独立的且具有相同分布的随机变量,如果它们的数X1,X2,...,Xn n学期望为,方差为,则对于任意实数,有μσ^2x limn→∞PX1+X2+...,其中是标准正态分布的分布函数+Xn-nμ/σ√n≤x=ΦxΦx独立同分布的中心极限定理说明,当独立同分布随机变量的个数足够多时,它们的和经过标准化后,其分布近似服从标准正态分布独立同分布的中心极限定理在实际应用中非常广泛例如,在抽样调查中,可以用独立同分布的中心极限定理来估计总体均值的置信区间独立同分布标准化12是个相互独它们的和经过标准化后X1,X2,...,Xn n立的且具有相同分布的随机变量标准正态分布3其分布近似服从标准正态分布李雅普诺夫定理李雅普诺夫定理是中心极限定理的一个更一般的形式,它对随机变量的分布没有要求,只需要满足一定的条件即可设是个相互独X1,X2,...,Xn n立的随机变量,如果它们的数学期望为,方差为,且满足一定的李雅普诺夫条件,则对于任意实数,有μiσi^2x limn→∞PX1+X2+...+,其中是标准正态分布的分布函数李雅普诺夫定理说明,当Xn-μ1+μ2+...+μn/√σ1^2+σ2^2+...+σn^2≤x=ΦxΦx独立随机变量的个数足够多时,它们的和经过标准化后,其分布近似服从标准正态分布李雅普诺夫定理在实际应用中非常广泛例如,在信号处理中,可以用李雅普诺夫定理来分析多个独立噪声源的叠加结果更一般的形式李雅普诺夫条件信号处理李雅普诺夫定理是中心极限定理的一个更需要满足一定的李雅普诺夫条件例如,在信号处理中,可以用李雅普诺夫一般的形式定理来分析多个独立噪声源的叠加结果。


