《概率论与数理统计》课件

概率论与数理统计欢迎来到《概率论与数理统计》课程本课程将带您深入探索概率论和统计学的奥秘，从基本概念到高级应用，我们将一起揭示数据背后的规律和洞见这门课程不仅是数学的重要分支，更是现代科学、工程和决策分析的基石让我们开始这段激动人心的学习之旅吧！课程简介课程目标掌握概率论与数理统计的基本理论和方法，培养学生的统计思维和数据分析能力学习内容涵盖概率论基础、随机变量、数字特征、大数定律、中心极限定理、参数估计、假设检验等核心主题应用领域广泛应用于自然科学、工程技术、经济金融、医学生物等多个领域，是现代科学研究的重要工具学习方法理论学习与实践相结合，通过案例分析和数据实操加深理解，培养实际问题的解决能力概率论的基本概念样本空间随机事件随机试验所有可能结果的集合，样本空间的子集，用大写字母通常用表示、、等表示ΩA BC随机试验事件运算在相同条件下可重复进行，结包括并、交、差、补等集合运果不确定但有规律可循的试验算，反映事件间的逻辑关系2314概率的定义古典概率频率概率公理化定义基于等可能性原理，适用于有限样本空基于大量重复试验，概率定义为事件发由苏联数学家柯尔莫哥洛夫提出，建立间概率定义为事件包含的生的频率当试验次数趋于无穷时，频在三条公理基础上这种定义最为严谨，PA=A基本事件数样本空间中基本事件总数率趋于稳定值这种方法适用于可重复为概率论的发展奠定了坚实的数学基础/例如，抛一枚均匀硬币，正面朝上的概的随机试验，如质量控制中的不合格品它统一了各种概率的定义，使概率论成率为率估计为一门严格的数学学科1/2概率的基本性质非负性任何事件的概率都是非负的，即这反映了概率作为衡量事件发生可能性的度量，不可能为负值A PA≥0规范性样本空间的概率为，即这表示随机试验的结果必定是样本空间中的某个事件Ω1PΩ=1可列可加性对于互不相容的事件序列有∪∪A1,A2,...,PA1A

2...=PA1+PA2+...这允许我们计算复杂事件的概率单调性如果⊆，则这意味着包含关系更大的事件发生的可能性也更大A BPA≤PB随机事件和概率必然事件1概率为的事件，在每次试验中必定发生例如，抛骰子时点数为到之间的事件116不可能事件2概率为的事件，在试验中永远不会发生例如，抛骰子时点数大于的事件06互斥事件3两个事件不能同时发生，它们的交集为空集例如，抛硬币时正面和反面朝上是互斥事件对立事件4两个事件之和为必然事件，交集为不可能事件例如，事件和它的补集是对立事件AĀ条件概率定义条件概率表示在事件已经发生的条件下，事件发生的PA|B BA概率计算公式为∩，其中PA|B=PA B/PB PB0性质条件概率满足概率的所有基本性质，如非负性、规范性和可列可加性它提供了一种更新概率信息的方法应用条件概率在医疗诊断、天气预报、风险评估等领域有广泛应用它允许我们根据新的信息调整对事件发生可能性的判断乘法公式利用条件概率，我们可以得到概率的乘法公式∩PA B=这为复杂事件的概率计算提供了便PA|BPB=PB|APA利贝叶斯定理定义公式1贝叶斯定理是条件概率的一个重要应用，，其中PA|B=PB|APA/PB PB2用于计算原因的后验概率=PB|APA+PB|ĀPĀ意义4应用3提供了一种基于新证据更新信念或假设概率的方法广泛应用于机器学习、医疗诊断、垃圾邮件过滤等领域贝叶斯定理的核心思想是将先验概率与新的证据结合，得出后验概率这种思想在科学研究和日常决策中都有重要应用例如，在医疗诊断中，医生可以根据检查结果更新对患者患某种疾病的概率估计事件的独立性定义例子推广注意如果，则连续抛两次硬币，第一次结果对于个事件，独立性与互斥性是不同的概念∩PA B=PAPB nA1,A2,...,An称事件和相互独立这意为正面和第二次结果为反面是若任意个事件（）的交两个独立事件的概率乘积不为A Bk k≤n味着一个事件的发生不影响另相互独立的事件集概率等于各事件概率的乘积，零，而互斥事件的交集概率为一个事件发生的概率则称这个事件相互独立零n离散型随机变量定义概率分布性质离散型随机变量是取值为有限个或可列离散型随机变量的概率分布是指取各非负性规范性X X

1.px≥

02.∑px=无限个的随机变量其特点是可以一一个可能值的概率，通常用概率质量函数，其中求和范围是的所有可能取值1X列举出所有可能的取值（）表示PMF PX=x=px随机变量的分布函数应用离散型随机变量的分布分布函数在概率计算、统计推性质函数断和随机过程分析中有广泛应定义单调递增若，则对于离散型随机变量，其分布用，是理解和应用概率论的重

1.x1x2Fx1分布函数描述了随机变量右连续函数是一个阶梯函数，在每个要工具Fx X≤Fx

22.Fx+0=Fx小于或等于的概率，即，且可能取值处有一个跳跃x Fx=

3.0≤Fx≤1limx→-它完整地描述了随机，PX≤x∞Fx=0limx→+∞Fx=1变量的概率分布常见离散分布分布（伯努利分布）0-1描述只有两种可能结果的随机试验，如硬币抛掷PX=1=p,PX=0=1-p二项分布描述次独立重复试验中成功次数的分布n X~Bn,p泊松分布描述单位时间（或空间）内随机事件发生次数的分布λX~P几何分布描述首次成功所需的试验次数PX=k=p1-p^k-1,k=1,2,...连续型随机变量定义连续型随机变量是取值可以是某个区间内任意实数的随机变量特点任意单点的概率为零，只有区间才有非零概率概率密度函数用表示，描述了随机变量在各点的概率密度fx分布函数，是概率密度函数的积分Fx=PX≤x=∫[-∞,x]ftdt随机变量的概率密度函数定义性质应用概率密度函数（）是连续型随非负性概率密度函数在统计推断、数据分析和PDF fx•fx≥0机变量分布函数的导数它描述了建模中有广泛应用它可以用来计算随Fx规范性•∫[-∞,+∞]fxdx=1随机变量在各点的概率密度机变量落在特定区间的概率，并帮助我•PaX≤b=∫[a,b]fxdx们理解数据的分布特征常见连续分布均匀分布正态分布指数分布伽马分布在给定区间内概率密度处处相最重要的连续分布，钟形曲线描述事件之间的等待时间等待时间的推广，包含指数分λX~Exp等布σΓαβX~Ua,b X~Nμ,²X~,多维随机变量定义联合分布函数边缘分布多维随机变量是由两个或多个随机变量描述了二维随机从联合分布中得到单个随机变量的分布Fx,y=PX≤x,Y≤y组成的向量例如，二维随机变量变量的完整概率信息对于连续型随机例如，是的边X,Y FXx=limy→+∞Fx,y X描述了两个随机变量和的联合分布变量，还有联合概率密度函数缘分布函数X Yfx,y随机变量的数字特征数学期望方差随机变量的平均值，反映了随机变量的中心位置描述随机变量离散程度的度量，反映了数据的波动性标准差矩方差的平方根，与随机变量具有相同的单位包括原点矩和中心矩，是描述分布形状的重要工具期望和方差期望（数学期望）方差定义（离散型）或（连续型）定义性质EX=∑xpx EX=∫xfxdx VarX=E[X-EX²]=EX²-[EX]²

1.性质若若独立，

1.EaX+b=aEX+b

2.EX+Y=EX+EY

3.VaraX+b=a²VarX

2.X,Y VarX+Y=VarX+独立，标准差σX,Y EXY=EXEY VarY

3.=√VarX协方差和相关系数协方差定义性质描述两个CovX,Y=E[X-EXY-EY]=EXY-EXEY随机变量的线性相关程度相关系数定义性质，表示完全线性相关ρσσρρ=CovX,Y/X Y-1≤≤1||=1独立性与不相关性独立一定不相关，但不相关不一定独立相关系数为称为不相关0应用在金融、气象等领域广泛应用，用于分析变量间的关系大数定律弱大数定律1样本均值依概率收敛于总体均值即对任意ε，有0limn→∞P|X̄n-ε，其中是个独立同分布随机变量的算术平均μ|=1X̄n n强大数定律2样本均值几乎必然收敛于总体均值即，表示更强的收敛性Plimn→∞X̄n=μ=1切比雪夫大数定律3对独立随机变量序列，如果方差一致有界，则算术平均依概率收敛于期望的算术平均{Xn}应用4大数定律解释了为什么频率可以用来估计概率，是统计推断的理论基础在保险、赌博和风险管理中有重要应用中心极限定理定理内容1独立同分布随机变量之和的标准化形式近似服从标准正态分布条件2独立同分布，有限均值和方差公式3σSn-nμ/√n→N0,1应用4统计推断、抽样理论基础中心极限定理是概率论中最重要的定理之一，它解释了为什么许多自然和社会现象近似呈正态分布这个定理为许多统计方法提供了理论基础，如构造置信区间和假设检验在实际应用中，即使原始数据不是正态分布，只要样本量足够大，样本均值的分布也会近似正态分布，这大大简化了统计分析参数估计定义方法常用技术参数估计是利用样本数据推断总体分布点估计用一个数值估计未知参数最大似然估计（）••MLE参数的统计方法它是从样本到总体的区间估计给出一个包含真实参数的区间矩估计法••推断过程，是统计推断的核心内容之一贝叶斯估计•点估计和区间估计点估计用样本统计量的单一值来估计总体参数例如，用样本均值估计总体均值区间估计给出一个区间，使得真实参数以一定的置信度落在这个区间内置信区间形如的区间，其中是点估计，是误差限θ̂θ̂θ̂[-Δ,+Δ]Δ置信水平通常用表示，如置信水平意味着αα1-95%=

0.05常用分布的参数估计正态分布Nμ,σ²的估计的无偏估计σμX̄=1/n∑Xi²S²=1/n-1∑Xi-X̄²二项分布Bn,p的估计，其中是次试验中成功的次数p p̂=X/n Xn泊松分布Pλ的估计，即样本均值λλ̂=X̄指数分布Expλ的估计，即样本均值的倒数λλ̂=1/X̄假设检验定义假设检验是一种统计推断方法，用于判断样本数据是否支持某个关于总体的假设步骤提出原假设和备择假设选择显著性水平确定检验α

1.H0H

12.

3.统计量及其分布计算临界值和观察值做出决策并得出结论

4.

5.类型参数检验和非参数检验，单侧检验和双侧检验应用广泛应用于科学研究、质量控制、市场调研等领域检验统计量和临界值检验统计量临界值决策规则检验统计量是一个随机变量，其分布在临界值是用来划分拒绝域和接受域的界如果观察到的检验统计量落在拒绝域内原假设成立时是已知的常见的检验统限它依赖于显著性水平和检验统计（即超过临界值），则拒绝原假设；否α计量包括统计量、统计量、统计量量的分布对于双侧检验，通常有两个则，不拒绝原假设这种决策可能导致Z tF和χ统计量选择合适的检验统计量取临界值；对于单侧检验，只有一个临界两类错误第一类错误（α错误）和第²决于假设的性质和样本的特征值临界值可以从统计表或统计软件中二类错误（错误）β查找一般检验步骤提出假设1明确原假设和备择假设原假设通常是无差异或无效果的陈述H0H1选择显著性水平2确定α值，通常为或这代表了我们愿意接受的犯第一类错误的概率

0.

050.01选择检验统计量3根据问题性质和数据特征选择合适的检验统计量（如、、或χ）Z tF²计算检验统计量4使用样本数据计算检验统计量的观察值确定临界值5根据显著性水平和检验统计量的分布确定临界值做出决策6比较观察值和临界值，决定是否拒绝原假设给出统计结论和实际解释单样本均值检验检验Z适用于大样本（）或总体标准差已知的情况检验统计量σn≥30Z=X̄-μ0//√n检验t适用于小样本且总体标准差未知的情况检验统计量t=X̄-μ0/S/√n假设（总体均值等于某个特定值）或或（取决于具体问题）H0:μ=μ0H1:μ≠μ0μμ0μμ0应用用于检验一个总体的均值是否与某个特定值有显著差异，如检验新药的效果是否优于标准值双样本均值检验独立样本检验t用于比较两个独立总体的均值是否有显著差异配对样本检验t用于比较同一总体在不同条件下的均值差异假设（两总体均值相等）或或H0:μ1=μ2H1:μ1≠μ2μ1μ2μ1μ2应用常用于比较两种处理方法的效果，如新旧教学方法的比较方差检验单样本检验检验χ²F1用于检验单个总体的方差是否等于某个特定值用于比较两个总体的方差是否相等2假设应用4（两总体方差相等）σσH0:1²=2²H1:在质量控制中用于检验产品的一致性3σσ1²≠2²方差检验在统计分析中具有重要意义，特别是在进行均值比较之前，常常需要先进行方差齐性检验检验的检验统计量为两个样F本方差的比值，即，其中和分别是两个样本的方差在实际应用中，方差检验可以帮助我们了解数据的离散程度，F=S1²/S2²S1²S2²为后续的统计分析提供基础卡方检验定义类型检验统计量卡方检验是一种非参数检验方法，主要拟合优度检验检验观察频数与期望频数的差异，其中是观察频数，χ•²=∑O-E²/E O用于分类数据的分析它可以用来检验是期望频数独立性检验检验两个分类变量是否相互独E立•观察频数与理论频数是否有显著差异，齐性检验检验多个总体的分布是否相同•或者检验两个分类变量之间是否存在关联回归分析定义回归分析是研究变量之间关系的统计方法，主要用于预测和解释类型简单线性回归、多元线性回归、非线性回归等目的建立自变量和因变量之间的数学模型，用于预测和解释应用广泛应用于经济、金融、社会科学、生物学等领域简单线性回归模型，其中是因变量，是自变量，是截距，是斜率，是误差项ββεββεY=0+1X+Y X01参数估计通常使用最小二乘法估计和ββ01假设检验检验是否显著不为零，即和是否存在线性关系β1X Y模型评估使用决定系数、残差分析等方法评估模型的拟合优度R²多元线性回归模型参数估计变量选择多重共线性通常使用最小二乘法或最大使用逐步回归、、等自变量之间高度相关可能导βββY=0+1X1+2X2+...+AIC BIC，其中是因变量，似然法估计回归系数方法选择最优自变量组合致估计不稳定，需要通过βεpXp+Y是个自变量等指标进行诊断和处理X1,X2,...,Xp pVIF回归模型的诊断残差分析检查残差的正态性、同方差性和独立性，可使用图、残差图等工具Q-Q异常值检测识别和处理可能影响模型估计的异常观测值，如使用距离Cooks多重共线性诊断使用方差膨胀因子（）检测自变量间的高度相关性VIF模型适当性检验使用检验、检验等方法检验模型的整体显著性和个别系数的显著性F t时间序列分析定义1时间序列分析是研究按时间顺序排列的数据序列的统计方法，目的是描述时间序列的特征、解释其变化机制并进行预测组成部分2趋势（）、季节性（）、周期性（）和不规则变动（）T SC I主要方法3移动平均法、指数平滑法、模型等ARIMA应用领域4经济预测、股票分析、气象预报、信号处理等平稳时间序列定义特征1均值、方差和自协方差函数不随时间变化的时间序列常数均值常数方差自协方差仅与时间间隔有关

21.

2.

3.模型检验方法43模型、模型、模型等单位根检验（如检验）、检验等AR MAARMA ADFKPSS平稳时间序列是时间序列分析的基础，许多统计方法和模型都建立在平稳性假设之上在实际应用中，很多经济和金融时间序列本身是非平稳的，但通过差分等处理可以转化为平稳序列理解和识别平稳性对于选择适当的分析方法和构建有效的预测模型至关重要非平稳时间序列特征均值、方差或自协方差函数随时间变化的时间序列常见类型趋势非平稳季节性非平稳方差非平稳

1.

2.

3.处理方法差分、季节调整、对数变换等模型模型、模型、模型等ARIMA SARIMAGARCH预测模型的建立数据预处理处理缺失值、异常值，进行必要的转换（如对数变换）平稳性检验使用图形法和统计检验方法检验序列的平稳性模型识别通过和图确定可能的模型类型和阶数ACF PACF参数估计使用最大似然法或最小二乘法估计模型参数模型诊断检查残差的白噪声性、正态性等模型选择使用、等信息准则选择最优模型AIC BIC预测使用选定的模型进行预测，并计算预测区间总结与展望课程回顾本课程涵盖了概率论与数理统计的核心概念和方法，从基础理论到实际应用，为学生提供了全面的统计学知识体系知识应用学习的内容可广泛应用于科学研究、工程技术、金融经济、医疗卫生等多个领域，是现代数据分析的基础未来发展大数据时代的到来为概率统计理论带来了新的挑战和机遇，如高维数据分析、机器学习等新兴领域与传统统计方法的结合继续学习鼓励学生在本课程基础上，进一步探索高级统计方法、数据科学和人工智能等相关领域，不断提升数据分析能力。