Skip to main content
本章用于概括随机变量的位置、波动和相依程度。先判断随机变量类型,再选择求和或积分公式;处理线性组合时,优先使用期望与方差的运算性质。
主复习路线:期望 → 方差 → 协方差与相关系数 → 矩 → 条件期望。

数学期望

离散型随机变量:E(X)=∑ixiP(X=xi)E(X)=\sum_i x_iP(X=x_i)连续型随机变量:E(X)=∫−∞+∞xfX(x) dxE(X)=\int_{-\infty}^{+\infty}x f_X(x)\,dx随机变量函数的期望:E[g(X)]={∑ig(xi)P(X=xi),X 离散型,∫−∞+∞g(x)fX(x) dx,X 连续型E[g(X)]= \begin{cases} \displaystyle\sum_i g(x_i)P(X=x_i), & X\text{ 离散型},\\[3mm] \displaystyle\int_{-\infty}^{+\infty}g(x)f_X(x)\,dx, & X\text{ 连续型} \end{cases}二维情形:E[g(X,Y)]={∑i∑jg(xi,yj)pij,(X,Y) 离散型,∫−∞+∞∫−∞+∞g(x,y)fXY(x,y) dx dy,(X,Y) 连续型E[g(X,Y)]= \begin{cases} \displaystyle\sum_i\sum_j g(x_i,y_j)p_{ij}, & (X,Y)\text{ 离散型},\\[3mm] \displaystyle\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}g(x,y)f_{XY}(x,y)\,dx\,dy, & (X,Y)\text{ 连续型} \end{cases}
求 E[g(X)]E[g(X)] 时通常不需要先求 g(X)g(X) 的分布,直接使用 XX 的分布即可。这就是“无意识统计学家公式”。
对任意常数 a,b,ca,b,c:E(c)=c,E(aX+b)=aE(X)+bE(c)=c,\qquad E(aX+b)=aE(X)+bE(X+Y)=E(X)+E(Y)E(X+Y)=E(X)+E(Y)E(∑i=1naiXi+b)=∑i=1naiE(Xi)+bE\left(\sum_{i=1}^{n}a_iX_i+b\right)=\sum_{i=1}^{n}a_iE(X_i)+b若 X,YX,Y 相互独立,则:E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)若 X,YX,Y 不相关且二阶矩存在,按定义也有 E(XY)=E(X)E(Y)E(XY)=E(X)E(Y)。
E(XY)=E(X)E(Y)E(XY)=E(X)E(Y) 不能反推出 X,YX,Y 独立。它只能说明二者不相关。

方差

D(X)=E([X−E(X)]2)D(X)=E\left([X-E(X)]^2\right)最常用的计算式:D(X)=E(X2)−[E(X)]2D(X)=E(X^2)-[E(X)]^2标准差为:σX=D(X)\sigma_X=\sqrt{D(X)}
对任意常数 a,ba,b:D(c)=0,D(aX+b)=a2D(X)D(c)=0,\qquad D(aX+b)=a^2D(X)D(X+Y)=D(X)+D(Y)+2Cov⁡(X,Y)D(X+Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)若 X,YX,Y 不相关,则:D(X+Y)=D(X)+D(Y)D(X+Y)=D(X)+D(Y)更一般地:D(∑i=1naiXi)=∑i=1nai2D(Xi)+2∑1≤i<j≤naiajCov⁡(Xi,Xj)D\left(\sum_{i=1}^{n}a_iX_i\right) =\sum_{i=1}^{n}a_i^2D(X_i) +2\sum_{1\le i<j\le n}a_ia_j\operatorname{Cov}(X_i,X_j)当 X1,…,XnX_1,\ldots,X_n 两两不相关时:D(∑i=1naiXi)=∑i=1nai2D(Xi)D\left(\sum_{i=1}^{n}a_iX_i\right)=\sum_{i=1}^{n}a_i^2D(X_i)
方差一般不能直接相加。只有不相关时交叉项才消失;独立只是保证不相关的一种更强条件。

协方差

设 X,YX,Y 的期望存在且二阶矩有限,协方差定义为:Cov⁡(X,Y)=E([X−E(X)][Y−E(Y)])\operatorname{Cov}(X,Y)=E\left([X-E(X)][Y-E(Y)]\right)最常用的计算式:Cov⁡(X,Y)=E(XY)−E(X)E(Y)\operatorname{Cov}(X,Y)=E(XY)-E(X)E(Y)
计算时优先使用第二式,只需分别求出 E(XY)E(XY)、E(X)E(X)、E(Y)E(Y),不必先求 (X−E(X))(Y−E(Y))(X-E(X))(Y-E(Y)) 的分布。
对任意常数 a,b,c,da,b,c,d:Cov⁡(X,Y)=Cov⁡(Y,X)\operatorname{Cov}(X,Y)=\operatorname{Cov}(Y,X)Cov⁡(X,X)=D(X)\operatorname{Cov}(X,X)=D(X)Cov⁡(X,c)=0,Cov⁡(aX,Y)=aCov⁡(X,Y)\operatorname{Cov}(X,c)=0,\qquad \operatorname{Cov}(aX,Y)=a\operatorname{Cov}(X,Y)Cov⁡(X+c,Y)=Cov⁡(X,Y)\operatorname{Cov}(X+c,Y)=\operatorname{Cov}(X,Y)两边同时作线性变换时:Cov⁡(aX+b,cY+d)=acCov⁡(X,Y)\operatorname{Cov}(aX+b,cY+d)=ac\operatorname{Cov}(X,Y)
Cov⁡(X,X)=D(X)\operatorname{Cov}(X,X)=D(X) 说明方差就是随机变量与自身的协方差。加常数不改变协方差,乘常数按倍数提出。
协方差对两个位置分别具有线性性:Cov⁡(X+Y,Z)=Cov⁡(X,Z)+Cov⁡(Y,Z)\operatorname{Cov}(X+Y,Z)=\operatorname{Cov}(X,Z)+\operatorname{Cov}(Y,Z)Cov⁡(X−Y,Z)=Cov⁡(X,Z)−Cov⁡(Y,Z)\operatorname{Cov}(X-Y,Z)=\operatorname{Cov}(X,Z)-\operatorname{Cov}(Y,Z)推广到多个随机变量:Cov⁡(∑i=1nXi,Y)=∑i=1nCov⁡(Xi,Y)\operatorname{Cov}\left(\sum_{i=1}^{n}X_i,Y\right) =\sum_{i=1}^{n}\operatorname{Cov}(X_i,Y)两边都是和式时:Cov⁡(∑i=1nXi,∑j=1mYj)=∑i=1n∑j=1mCov⁡(Xi,Yj)\operatorname{Cov}\left(\sum_{i=1}^{n}X_i,\sum_{j=1}^{m}Y_j\right) =\sum_{i=1}^{n}\sum_{j=1}^{m}\operatorname{Cov}(X_i,Y_j)更一般地,两个线性组合的协方差为:Cov⁡(∑i=1naiXi,∑j=1mbjYj)=∑i=1n∑j=1maibjCov⁡(Xi,Yj)\operatorname{Cov}\left(\sum_{i=1}^{n}a_iX_i,\sum_{j=1}^{m}b_jY_j\right) =\sum_{i=1}^{n}\sum_{j=1}^{m}a_ib_j\operatorname{Cov}(X_i,Y_j)特别地:Cov⁡(X−Y,X)=D(X)−Cov⁡(X,Y)\operatorname{Cov}(X-Y,X)=D(X)-\operatorname{Cov}(X,Y)
遇到线性组合的协方差,先把两个位置分别拆成和式,再逐项配对展开。
和、差的方差:D(X+Y)=D(X)+D(Y)+2Cov⁡(X,Y)D(X+Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)D(X−Y)=D(X)+D(Y)−2Cov⁡(X,Y)D(X-Y)=D(X)+D(Y)-2\operatorname{Cov}(X,Y)反过来由方差求协方差:Cov⁡(X,Y)=D(X+Y)−D(X)−D(Y)2\operatorname{Cov}(X,Y)=\frac{D(X+Y)-D(X)-D(Y)}{2}Cov⁡(X,Y)=D(X)−D(X−Y)+D(Y)2\operatorname{Cov}(X,Y)=\frac{D(X)-D(X-Y)+D(Y)}{2}
D(X±Y)D(X\pm Y) 中的交叉项符号与协方差前面的符号一致,不要写成 D(X−Y)=D(X)+D(Y)+2Cov⁡(X,Y)D(X-Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)。
随机变量与自身函数的协方差:Cov⁡(X,aX+b)=aD(X)\operatorname{Cov}(X,aX+b)=aD(X)Cov⁡(X,g(X))=E[Xg(X)]−E(X)E[g(X)]\operatorname{Cov}(X,g(X))=E[Xg(X)]-E(X)E[g(X)]例如:Cov⁡(X,X2)=E(X3)−E(X)E(X2)\operatorname{Cov}(X,X^2)=E(X^3)-E(X)E(X^2)由柯西–施瓦茨不等式,协方差满足:∣Cov⁡(X,Y)∣≤D(X)D(Y)|\operatorname{Cov}(X,Y)|\le\sqrt{D(X)D(Y)}这也是相关系数满足 ∣ρXY∣≤1|\rho_{XY}|\le1 的依据。
Cov⁡(X,g(X))\operatorname{Cov}(X,g(X)) 一般不为 00。XX 与自身的函数通常不独立,不能套用“独立则协方差为零”。

相关系数

当 D(X)>0,D(Y)>0D(X)>0,D(Y)>0 时,定义相关系数:ρXY=Cov⁡(X,Y)D(X)D(Y)\rho_{XY}= \frac{\operatorname{Cov}(X,Y)}{\sqrt{D(X)D(Y)}}协方差的大小受变量量纲和尺度影响,相关系数是标准化后的无量纲指标,更适合比较相关程度。相关系数的性质:−1≤ρXY≤1-1\le\rho_{XY}\le1若 ρXY=0\rho_{XY}=0,称 X,YX,Y 不相关。不相关等价于:Cov⁡(X,Y)=0⟺E(XY)=E(X)E(Y)\operatorname{Cov}(X,Y)=0 \quad\Longleftrightarrow\quad E(XY)=E(X)E(Y)当且仅当存在常数 a≠0,ba\ne0,b,使:Y=aX+b(以概率 1)Y=aX+b\quad(\text{以概率 }1)时,∣ρXY∣=1|\rho_{XY}|=1。其中 ρXY=1\rho_{XY}=1 对应正线性关系,ρXY=−1\rho_{XY}=-1 对应负线性关系。
若 X,YX,Y 独立且二阶矩存在,则:X,Y 独立⟹X,Y 不相关X,Y\text{ 独立}\quad\Longrightarrow\quad X,Y\text{ 不相关}反方向一般不成立。例如 X∼U(−1,1)X\sim U(-1,1),Y=X2Y=X^2,则 Cov⁡(X,Y)=0\operatorname{Cov}(X,Y)=0,但 X,YX,Y 明显不独立。
若 (X,Y)(X,Y) 服从二维正态分布,则不相关与相互独立等价:ρXY=0⟺X,Y 相互独立\rho_{XY}=0\quad\Longleftrightarrow\quad X,Y\text{ 相互独立}

常见分布的数字特征

二项分布、泊松分布和正态分布的数字特征最常考。正态分布的两个参数本身就是均值和方差。

矩

kk 阶原点矩:E(Xk)E(X^k)kk 阶中心矩:E([X−E(X)]k)E\left([X-E(X)]^k\right)特别地:E(X) 为一阶原点矩,D(X) 为二阶中心矩E(X)\text{ 为一阶原点矩},\qquad D(X)\text{ 为二阶中心矩}混合原点矩与混合中心矩分别为:E(XkYl),E([X−E(X)]k[Y−E(Y)]l)E(X^kY^l),\qquad E\left([X-E(X)]^k[Y-E(Y)]^l\right)协方差就是二阶混合中心矩。

条件数学期望

条件期望 E(X∣Y)E(X\mid Y) 是随机变量 YY 的函数,不再是常数。若 Y=yY=y:离散型:E(X∣Y=y)=∑ixiP(X=xi∣Y=y)E(X\mid Y=y)=\sum_i x_iP(X=x_i\mid Y=y)连续型:E(X∣Y=y)=∫−∞+∞xfX∣Y(x∣y) dxE(X\mid Y=y)=\int_{-\infty}^{+\infty}x f_{X\mid Y}(x\mid y)\,dx全期望公式:E(X)=E[E(X∣Y)]E(X)=E[E(X\mid Y)]连续型形式:E(X)=∫−∞+∞E(X∣Y=y)fY(y) dyE(X)=\int_{-\infty}^{+\infty}E(X\mid Y=y)f_Y(y)\,dy条件期望具有线性性质:E(aX+bZ∣Y)=aE(X∣Y)+bE(Z∣Y)E(aX+bZ\mid Y)=aE(X\mid Y)+bE(Z\mid Y)全方差公式:D(X)=E[D(X∣Y)]+D[E(X∣Y)]D(X)=E[D(X\mid Y)]+D[E(X\mid Y)]
E(X∣Y=y)E(X\mid Y=y) 表示在 Y=yY=y 的条件下 XX 的平均值;E(X∣Y)E(X\mid Y) 则是关于 YY 的随机变量。书写时要区分。

高频题型与易错点

求 E[g(X)]E[g(X)] 或 E[g(X,Y)]E[g(X,Y)] 时,通常直接按定义求和或积分,不必先求 g(X)g(X) 的分布。
当题目已经给出 E(X)E(X) 和 E(X2)E(X^2) 时,直接使用:D(X)=E(X2)−[E(X)]2D(X)=E(X^2)-[E(X)]^2
求 D(X+Y)D(X+Y) 时先展开:D(X+Y)=D(X)+D(Y)+2Cov⁡(X,Y)D(X+Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)不要默认 D(X+Y)=D(X)+D(Y)D(X+Y)=D(X)+D(Y)。
按以下顺序尝试:
  1. 优先用 Cov⁡(X,Y)=E(XY)−E(X)E(Y)\operatorname{Cov}(X,Y)=E(XY)-E(X)E(Y)。
  2. 出现线性组合时,先按线性运算拆开,再逐项求协方差。
  3. 已知方差时,用 D(X±Y)D(X\pm Y) 与协方差的互化公式反求。
  4. 判断相关性时,先看协方差是否为零,再决定是否使用独立性。
比较相关程度时不要直接比较协方差,改用无量纲的相关系数 ρXY\rho_{XY}。
独立可以推出不相关,但不相关不能推出独立;只有在二维正态分布等特殊结构下,两者才等价。
Last modified on October 25, 2026