《概率论与数理统计复习》课件

概率论与数理统计复习欢迎大家参加概率论与数理统计的复习课程本课程旨在帮助大家系统回顾概率论与数理统计的核心概念、常用方法和经典应用，为期末考试做好充分准备我们将通过精讲重点、习题演练和案例分析等方式，帮助大家巩固知识、提升解题能力，最终取得优异的成绩！祝大家学习顺利！课程回顾概率论的基本概念概率论的起源与发展概率论的研究对象概率论的基本要素概率论起源于对赌博问题的研究，逐渐发展概率论主要研究随机现象的规律性，即在大样本空间、随机事件和概率是概率论的三大成为一门严谨的数学学科它在自然科学、量重复试验中呈现出的统计规律它通过建基本要素样本空间包含了所有可能的试验工程技术、经济管理等领域都有着广泛的应立数学模型来描述和预测随机事件发生的可结果，随机事件是样本空间的一个子集，概用，是现代科学研究的重要工具能性率则是对随机事件发生可能性大小的度量随机事件及其概率随机事件的定义事件的关系与运算概率的定义与性质123在随机试验中，可能发生也可能不发事件之间存在包含、相等、互斥等关概率是随机事件发生的可能性大小的生的事件称为随机事件例如，抛掷系，可以进行并、交、差等运算这度量，取值范围在0到1之间概率具一枚硬币，正面朝上就是一个随机事些关系和运算是概率计算的基础有非负性、规范性和可加性等基本性件质条件概率与事件的独立性条件概率事件的独立性在事件B发生的条件下，事件A发生如果事件A的发生与事件B的发生互的概率称为条件概率，记为PA|B不影响，则称事件A与事件B相互独条件概率反映了事件之间的依赖立独立事件的概率计算具有特殊关系的简化公式独立性的应用独立性是概率论中一个重要的概念，在很多实际问题中都有应用例如，在产品质量检验中，可以假设不同产品的质量是相互独立的全概率公式与贝叶斯公式全概率公式贝叶斯公式公式的应用场景全概率公式将复杂事件的贝叶斯公式用于在已知某全概率公式和贝叶斯公式概率分解为若干个互斥事些条件下，反过来推断事是概率论中非常重要的两件的概率之和，便于计算件发生的概率它在医学个公式，在解决实际问题复杂事件的概率诊断、风险评估等领域有中经常用到着广泛的应用随机变量及其分布随机变量的定义1随机变量是将随机试验的结果映射为数值的变量它可以分为离散型随机变量和连续型随机变量两种类型分布函数的定义2分布函数描述了随机变量取值小于等于某个给定值的概率它是随机变量的完整描述，可以用来计算各种概率概率密度函数3对于连续型随机变量，概率密度函数描述了随机变量在某个值附近的概率密度概率密度函数与分布函数之间存在密切的关系离散型随机变量离散型随机变量概率质量函数常见离散分布只能取有限个或可列无限个值的随机变量概率质量函数描述了离散型随机变量取每伯努利分布、二项分布、泊松分布等是常称为离散型随机变量例如，抛掷一枚硬个特定值的概率它是离散型随机变量的见的离散型随机变量分布它们在实际问币的正面朝上的次数就是一个离散型随机重要特征题中有着广泛的应用变量连续型随机变量概率密度函数概率密度函数描述了连续型随机变量在某2个值附近的概率密度它与分布函数之间连续型随机变量存在积分关系1可以取某一区间内任意值的随机变量称为连续型随机变量例如，人的身高、温度等都是连续型随机变量常见连续分布均匀分布、指数分布、正态分布等是常见的连续型随机变量分布它们在实际问题3中有着广泛的应用随机变量的数字特征期望1方差2协方差3相关系数4随机变量的数字特征是描述随机变量统计规律的数值量期望、方差、协方差和相关系数是常用的数字特征，它们分别描述了随机变量的平均水平、波动程度、相关程度等数学期望数学期望的定义1数学期望是随机变量的平均值，反映了随机变量的中心位置对于离散型随机变量，期望是所有可能取值与其概率的乘积之和；对于连续型随机变量，期望是概率密度函数与其对应值的积分数学期望的性质2数学期望具有线性性质、可加性等性质这些性质在计算复杂随机变量的期望时非常有用数学期望的应用3数学期望在决策分析、风险评估等领域有着广泛的应用例如，在投资决策中，可以用期望收益来评估投资项目的价值方差与标准差方差是衡量随机变量波动程度的指标，反映了随机变量取值偏离期望值的程度标准差是方差的平方根，具有与随机变量相同的量纲，更易于解释方差和标准差越大，随机变量的波动程度越大协方差与相关系数协方差相关系数协方差是衡量两个随机变量之间相关程度的指标如果两个随机变量同时增大相关系数是协方差的标准化形式，取值范围在-1到1之间相关系数越接近1，或减小，则协方差为正；如果一个随机变量增大，另一个随机变量减小，则协表示两个随机变量正相关程度越高；相关系数越接近-1，表示两个随机变量负方差为负；如果两个随机变量相互独立，则协方差为零相关程度越高；相关系数越接近0，表示两个随机变量相关程度越低协方差和相关系数是研究多个随机变量之间关系的重要工具它们在金融分析、市场营销等领域都有着广泛的应用常用概率分布概率分布是描述随机变量取值规律的数学模型不同的随机现象可以用不同的概率分布来描述掌握常用概率分布的特点和应用是概率论学习的重要内容常见概率分布包括伯努利分布、二项分布、泊松分布、均匀分布、指数分布、正态分布等伯努利分布与二项分布伯努利分布二项分布伯努利分布描述了一次试验中只有两种可能结果的随机变量的分布二项分布描述了n次独立重复试验中，事件发生的次数的分布二项例如，抛掷一枚硬币，正面朝上或反面朝上就是一个伯努利分布分布是伯努利分布的推广，在实际问题中有着广泛的应用泊松分布泊松分布的定义泊松分布的特点12泊松分布描述了在一定时间或空泊松分布的特点是事件发生的次间内，随机事件发生的次数的分数是随机的，且事件发生的概率布例如，在一定时间内，某电在任何时间或空间都是相同的话交换台收到的呼叫次数就是一泊松分布的期望和方差都等于其个泊松分布参数泊松分布的应用3泊松分布在排队论、风险管理等领域有着广泛的应用例如，可以用泊松分布来描述银行柜台前排队人数的分布均匀分布均匀分布的定义均匀分布的特点均匀分布描述了在某一区间内，随均匀分布的特点是概率密度函数在机变量取任何值的概率都是相同的区间内是常数，在区间外是零均例如，在0到1之间随机生成一个匀分布的期望是区间的中点，方差数，就是一个均匀分布与区间长度有关均匀分布的应用均匀分布在随机数生成、模拟仿真等领域有着广泛的应用例如，可以用均匀分布来生成随机密码指数分布指数分布的定义指数分布的特点指数分布的应用指数分布描述了随机事件指数分布具有无记忆性，指数分布在可靠性分析、发生的时间间隔的分布即事件在过去一段时间内排队论等领域有着广泛的例如，灯泡的寿命、机器没有发生，并不影响未来应用例如，可以用指数的故障间隔时间等都是指发生的时间指数分布的分布来预测机器的平均故数分布期望和方差都等于其参数障间隔时间的倒数正态分布正态分布的定义1正态分布是概率论中最重要的一种分布，也称为高斯分布它描述了大量独立随机变量之和的分布例如，人的身高、体重等都近似服从正态分布正态分布的特点2正态分布的特点是钟形曲线，左右对称，中间高，两边低正态分布的期望和方差分别决定了曲线的位置和形状正态分布的应用3正态分布在统计推断、回归分析等领域有着广泛的应用例如，可以用正态分布来检验样本均值是否与总体均值相等多维随机变量及其分布多维随机变量由多个随机变量组成的随机向量称为多维随机变量例如，一个人的身高和体重可以组成一个二维随机变量联合分布函数联合分布函数描述了多维随机变量取值小于等于某个给定值的概率它是多维随机变量的完整描述，可以用来计算各种概率边缘分布函数边缘分布函数描述了多维随机变量中某个随机变量的分布它是联合分布函数的一部分，可以用来单独研究某个随机变量的性质二维随机变量的联合分布联合概率质量函数对于离散型二维随机变量，联合概率质量2函数描述了两个随机变量同时取每个特定联合分布函数值的概率二维随机变量的联合分布函数描述了两个1随机变量同时取值小于等于某个给定值的概率它是二维随机变量的完整描述联合概率密度函数对于连续型二维随机变量，联合概率密度函数描述了两个随机变量在某个值附近的3概率密度边缘分布与条件分布边缘分布1条件分布2边缘分布和条件分布是多维随机变量的重要概念边缘分布描述了多维随机变量中某个随机变量的分布，条件分布描述了在已知某些随机变量取值的情况下，其他随机变量的分布它们在研究多维随机变量之间的关系时非常有用随机变量的独立性随机变量的独立性1如果两个随机变量的取值互不影响，则称这两个随机变量相互独立独立随机变量的联合分布函数等于它们各自的边缘分布函数的乘积独立性的判断2可以通过判断联合分布函数是否等于边缘分布函数的乘积来判断随机变量的独立性也可以通过计算协方差和相关系数来判断随机变量的线性相关性独立性的应用独立性是概率论中一个重要的概念，在很多实际问题中都有应用3例如，在产品质量检验中，可以假设不同产品的质量是相互独立的随机变量的函数及其分布线性函数非线性函数随机变量的函数是指由随机变量通过一定的数学运算得到的新的随机变量随机变量的函数的分布可以通过原随机变量的分布来确定线性函数和非线性函数是常见的函数类型，它们的分布计算方法有所不同数理统计的基本概念总体样本总体是指研究对象的全体例如，要研究某地区所有居民的收入水平，样本是从总体中抽取的一部分个体例如，从该地区随机抽取1000名居则该地区所有居民的收入水平就是一个总体民，他们的收入水平就是一个样本数理统计是研究如何从样本数据中推断总体特征的学科总体和样本是数理统计的两个基本概念数理统计的目标是利用样本信息来估计总体参数、检验总体假设、预测总体趋势等总体与样本总体的定义样本的定义总体是指研究对象的全体总体可以是有限的，也可以是无限的例样本是从总体中抽取的一部分个体样本必须具有代表性，才能反映如，某工厂生产的所有产品、某地区的所有居民等都是总体总体的特征随机抽样是保证样本代表性的重要方法样本的数字特征样本均值样本方差12样本均值是样本数据的平均值，样本方差是样本数据波动程度的反映了样本的中心位置样本均指标，反映了样本数据偏离样本值是总体均值的无偏估计均值的程度样本方差是总体方差的有偏估计样本标准差3样本标准差是样本方差的平方根，具有与样本数据相同的量纲，更易于解释抽样分布抽样分布的定义抽样分布的特点由样本计算得到的统计量的分布称抽样分布的特点是随着样本容量的为抽样分布例如，样本均值的分增大，抽样分布越来越接近正态分布、样本方差的分布等都是抽样分布中心极限定理是描述抽样分布布特点的重要定理抽样分布的应用抽样分布在统计推断中有着广泛的应用例如，可以用样本均值的抽样分布来估计总体均值的置信区间统计量及其分布统计量的定义统计量的分布统计量的应用统计量是指由样本数据计算得到的函数，不统计量的分布称为抽样分布抽样分布是统统计量可以用来估计总体参数、检验总体假包含任何未知参数例如，样本均值、样本计推断的基础常见的抽样分布包括χ2分布设、预测总体趋势等统计量是统计推断的方差等都是统计量、t分布、F分布等重要工具样本均值与样本方差的分布样本均值的分布1如果总体服从正态分布，则样本均值也服从正态分布如果总体分布未知，但样本容量足够大，则根据中心极限定样本方差的分布理，样本均值近似服从正态分布2如果总体服从正态分布，则样本方差的分布与χ2分布有关样本方差的分布可以用来估计总体方差的置信区间、检验总体方差的假设等分布、分布、分布χ2t F分布χ2χ2分布是由多个标准正态分布变量的平方和构成的分布χ2分布在假设检验、区间估计等领域有着广泛的应用分布tt分布是由一个标准正态分布变量和一个χ2分布变量构成的分布t分布在小样本情况下，对正态总体均值进行推断时非常有用分布FF分布是由两个χ2分布变量构成的分布F分布在方差分析、回归分析等领域有着广泛的应用参数估计点估计点估计是指用一个数值来估计总体参数2例如，用样本均值来估计总体均值参数估计的定义1参数估计是指利用样本信息来估计总体参数的过程参数估计可以分为点估计和区区间估计间估计两种类型区间估计是指用一个区间来估计总体参数例如，用一个置信区间来估计总体均值3点估计点估计1矩估计法2极大似然估计法3点估计是指用一个数值来估计总体参数矩估计法和极大似然估计法是常用的点估计方法矩估计法是利用样本矩来估计总体参数，极大似然估计法是选择使样本出现的概率最大的参数值作为估计值无偏性、有效性、相合性无偏性1无偏性是指估计量的期望等于总体参数无偏估计意味着估计量没有系统误差有效性2有效性是指在所有无偏估计量中，方差最小的估计量有效估计意味着估计量的精度最高相合性相合性是指当样本容量趋于无穷大时，估计量依概率收敛于总体参3数相合估计意味着估计量随着样本容量的增大而越来越接近真实值矩估计法矩估计法是利用样本矩来估计总体参数的方法矩估计法的基本思想是用样本矩来代替总体矩，然后解方程组得到参数的估计值矩估计法的优点是简单易行，缺点是估计精度可能不高极大似然估计法极大似然估计法求解方法极大似然估计法是选择使样本出现的概率最大的参数值作为估计值的方法极极大似然估计法通常需要求解似然函数的最大值可以通过求导数并令导数等大似然估计法的基本思想是假设样本来自于某个概率分布，然后选择使样本出于零来求解似然函数的最大值对于某些复杂的似然函数，可能需要使用数值现的概率最大的参数值作为该分布的参数估计值优化方法来求解极大似然估计法是统计学中最常用的估计方法之一它具有无偏性、有效性和相合性等优点，但计算过程可能比较复杂区间估计区间估计的定义置信水平区间估计是指用一个区间来估计总体参数例如，用一个置信区间来置信水平是指总体参数落入置信区间的概率置信水平越高，置信区估计总体均值区间估计能够提供关于总体参数取值范围的信息，比间越宽，估计的可靠性越高，但精度越低常用的置信水平有90%点估计更加可靠、95%、99%等单个正态总体均值的区间估计已知未知1σ2σ当总体方差σ已知时，可以使用z当总体方差σ未知时，可以使用t分布来构造总体均值的置信区间分布来构造总体均值的置信区间t分布的自由度与样本容量有关区间长度3置信区间的长度与置信水平、样本容量和总体方差有关置信水平越高、样本容量越小、总体方差越大，置信区间越宽单个正态总体方差的区间估计分布置信区间χ2当总体服从正态分布时，可以使用总体方差的置信区间是一个区间，χ2分布来构造总体方差的置信区间该区间以一定的概率包含总体方差χ2分布的自由度与样本容量有关的真实值置信区间的长度与置信水平和样本容量有关应用总体方差的区间估计在质量控制、风险管理等领域有着广泛的应用例如，可以用总体方差的置信区间来评估产品质量的稳定性两个正态总体均值差的区间估计总体均值未知方差独立抽样当两个总体都服从正态分当两个总体都服从正态分需要注意的是，这里的抽布，且总体方差已知时，布，但总体方差未知时，样是独立抽样对于配对可以使用z分布来构造两可以使用t分布来构造两样本，需要使用不同的方个总体均值差的置信区间个总体均值差的置信区间法进行分析需要考虑方差是否相等的情况两个正态总体方差比的区间估计分布F1当两个总体都服从正态分布时，可以使用F分布来构造两个总体方差比的置信区间F分布的自由度与两个总体的样本容量有关方差比2总体方差比的置信区间是一个区间，该区间以一定的概率包含两个总体方差比的真实值置信区间的长度与置信水平和两个总体的样本容量有关应用3总体方差比的区间估计在比较不同产品的质量稳定性、评估不同实验方案的精度等方面有着广泛的应用假设检验假设检验的定义基本思想假设类型假设检验是指对总体参数或总体分布形式假设检验的基本思想是小概率原理即如假设检验可以分为参数假设检验和非参数提出某种假设，然后利用样本信息来判断果一个事件发生的概率很小，但在一次试假设检验两种类型参数假设检验是对总假设是否成立的过程假设检验是统计推验中却发生了，则认为原来的假设不成立体参数提出假设，非参数假设检验是对总断的重要内容体分布形式提出假设假设检验的基本概念备择假设备择假设是指研究者希望支持或证明的假2设，通常是对总体参数或总体分布形式的原假设另一种陈述备择假设通常用H1表示1原假设是指研究者希望否定或推翻的假设，通常是对总体参数或总体分布形式的一种陈述原假设通常用H0表示显著性水平显著性水平是指拒绝原假设的概率，通常用α表示常用的显著性水平有

0.

05、

0.013等单边检验与双边检验双边检验1单边检验2单边检验和双边检验是假设检验的两种类型如果备择假设只包含一个方向的陈述（例如，大于或小于），则使用单边检验；如果备择假设包含两个方向的陈述（例如，不等于），则使用双边检验选择单边检验还是双边检验取决于研究问题的性质正态总体均值的假设检验已知σ1当总体服从正态分布，且总体方差σ已知时，可以使用z检验来检验总体均值的假设未知σ2当总体服从正态分布，但总体方差σ未知时，可以使用t检验来检验总体均值的假设样本容量3当样本容量较小时，需要使用t检验；当样本容量较大时，可以使用z检验一般来说，当样本容量大于30时，可以使用z检验检验法与检验法u tu检验法和t检验法是两种常用的假设检验方法，用于检验总体均值的假设u检验法适用于总体服从正态分布，且总体方差已知的情况；t检验法适用于总体服从正态分布，但总体方差未知的情况选择哪种检验方法取决于研究问题的性质和已知条件正态总体方差的假设检验假设检验统计量当总体服从正态分布时，可以使用χ2检验来检验总体方差的假设χ2检χ2检验的检验统计量服从χ2分布，其自由度与样本容量有关可以通过验的原假设通常是总体方差等于某个给定的值计算检验统计量的值，并将其与χ2分布的临界值进行比较，来判断是否拒绝原假设正态总体方差的假设检验在质量控制、风险管理等领域有着广泛的应用例如，可以用正态总体方差的假设检验来评估产品质量的稳定性检验法χ2检验统计量χ2χ2χ2检验法是一种常用的假设检验方法，用于检验分类变量之间的独χ2检验的检验统计量服从χ2分布，其自由度与分类变量的类别数有立性、拟合优度等χ2检验的基本思想是将观察值与期望值进行比关可以通过计算检验统计量的值，并将其与χ2分布的临界值进行较，如果差异足够大，则认为假设不成立比较，来判断是否拒绝原假设非参数检验非参数检验的定义常用方法12非参数检验是指不依赖于总体分常用的非参数检验方法包括符号布形式的假设检验方法当总体检验、秩和检验、中位数检验等分布未知或不服从正态分布时，这些方法基于样本数据的秩或可以使用非参数检验符号进行分析，不需要对总体分布做出假设适用性3非参数检验适用于小样本、非正态分布等情况当不满足参数检验的条件时，可以使用非参数检验拟合优度检验拟合优度检验检验χ2拟合优度检验是检验样本数据是否常用的拟合优度检验方法是χ2检验与某个理论分布相符合的假设检验χ2检验通过比较观察值与期望值方法例如，可以检验样本数据是之间的差异，来判断样本数据是否否服从正态分布、均匀分布等与理论分布相符合检验Kolmogorov-SmirnovKolmogorov-Smirnov检验是另一种常用的拟合优度检验方法它通过比较样本的经验分布函数与理论分布函数之间的差异，来判断样本数据是否与理论分布相符合秩和检验秩和检验检验统计量应用秩和检验是一种常用的非秩和检验的检验统计量是秩和检验在医学研究、市参数检验方法，用于比较样本数据的秩之和通过场调查等领域有着广泛的两个独立样本的总体分布计算检验统计量的值，并应用例如，可以用秩和是否存在差异秩和检验将其与秩和分布的临界值检验来比较两种药物的疗不依赖于总体分布形式，进行比较，来判断是否拒效是否存在差异适用于非正态分布或总体绝原假设分布未知的情况方差分析方差分析的定义1方差分析是一种统计分析方法，用于检验多个总体的均值是否存在显著差异方差分析通过将总体的方差分解为多个来源的方差，来判断不同因素对总体的影响程度基本思想2方差分析的基本思想是将总变异分解为组间变异和组内变异如果组间变异显著大于组内变异，则认为不同总体的均值存在显著差异假设条件3方差分析需要满足一定的假设条件，包括总体服从正态分布、方差齐性等如果不满足假设条件，则需要进行数据转换或使用非参数检验单因素方差分析单因素方差分析单因素方差分析是研究一个因素对总体的影响程度的方差分析方法例如，可以研究不同肥料对农作物产量的影响程度检验F单因素方差分析使用F检验来判断不同总体的均值是否存在显著差异F检验的检验统计量服从F分布，其自由度与因素的水平数和样本容量有关多重比较如果F检验的结果表明不同总体的均值存在显著差异，则需要进行多重比较，以确定哪些总体的均值之间存在差异双因素方差分析主效应双因素方差分析可以研究两个因素的主效2应和交互效应主效应是指单个因素对总双因素方差分析体的独立影响，交互效应是指两个因素共同作用对总体的影响双因素方差分析是研究两个因素对总体的1影响程度的方差分析方法例如，可以研究不同肥料和不同灌溉方式对农作物产量交互效应的影响程度双因素方差分析需要分别检验两个因素的主效应和交互效应是否显著如果交互效3应显著，则需要进一步分析两个因素之间的关系回归分析回归分析1线性回归2非线性回归3回归分析是一种统计分析方法，用于研究变量之间的关系回归分析可以分为线性回归和非线性回归两种类型线性回归研究变量之间的线性关系，非线性回归研究变量之间的非线性关系线性回归模型线性回归模型1线性回归模型是一种描述变量之间线性关系的数学模型线性回归模型通常包括一个因变量和一个或多个自变量因变量是研究者希望预测的变量，自变量是用来预测因变量的变量模型参数2线性回归模型的参数包括截距项和回归系数截距项是指当所有自变量都为零时，因变量的取值回归系数是指自变量每增加一个单位，因变量的平均变化量误差项3线性回归模型还包括一个误差项，用于描述模型无法解释的变异误差项通常假设服从正态分布，且均值为零参数的最小二乘估计回归系数截距项最小二乘估计法是一种常用的参数估计方法，用于估计线性回归模型的参数最小二乘估计法的基本思想是选择使残差平方和最小的参数值作为估计值残差是指观测值与模型预测值之间的差异回归方程的显著性检验检验值F P回归方程的显著性检验是检验线性回归模型是否具有统计学意义的过程常用F检验的检验统计量服从F分布，其自由度与自变量的个数和样本容量有关的显著性检验方法是F检验F检验的原假设是所有回归系数都为零可以通过计算检验统计量的值，并将其与F分布的临界值进行比较，或者计算p值，来判断是否拒绝原假设如果回归方程的显著性检验结果表明模型具有统计学意义，则可以认为自变量与因变量之间存在线性关系否则，需要重新考虑模型或自变量的选择相关性分析相关系数线性相关相关性分析是一种统计分析方法，用于研究变量之间的相关程度常需要注意的是，相关系数只能衡量变量之间的线性相关程度如果变用的相关性指标是相关系数相关系数的取值范围在-1到1之间相量之间存在非线性关系，则相关系数可能无法准确反映它们之间的关关系数越大，表示变量之间的相关程度越高；相关系数越小，表示变系此外，相关性并不意味着因果关系变量之间存在相关性，并不量之间的相关程度越低意味着一个变量会导致另一个变量的变化常用统计软件介绍1SPSS2SASSPSS是一款常用的统计分析软SAS是一款高级统计分析软件，件，具有强大的数据处理、统计具有更加强大的数据处理和统计分析和图表绘制功能SPSS操分析功能SAS适用于大型数据作简单易学，适用于各种统计分集和复杂的统计分析任务析任务3RR是一款开源统计分析软件，具有丰富的统计分析包和灵活的编程功能R适用于各种统计分析任务，尤其适用于自定义统计分析方法的使用SPSS数据录入数据处理统计分析SPSS可以从各种数据源导入数据，包括SPSS具有强大的数据处理功能，包括数SPSS提供各种统计分析方法，包括描述Excel、文本文件、数据库等可以使用据清洗、数据转换、数据筛选等可以使性统计、假设检验、回归分析、方差分析SPSS的数据编辑器手动录入数据用SPSS的菜单或命令语法进行数据处理等可以使用SPSS的菜单或命令语法进行统计分析。