大数定律和中心极限定理#

马尔可夫不等式、李雅普诺夫中心极限定理不考

可以参考:Jiepeng’s notes(Chapter 5 大数定律与中心极限定理)

目录

• 依概率收敛：区间概率
• 大数定律：收敛值
• 中心极限定理：分布近似（n较大近似）
• TBC:跳过几道例题

$E((X-E(X))^2) = Var(X)$ (可以自行推导)

依概率收敛：区间概率#

• 马尔可夫不等式：k阶矩的期望
• 切比雪夫不等式：方差
• 两者差别？
• 两者理解：本质都是描述依概率收敛、落在收敛值附近区间的概率计算

大数定律：收敛值#

• 服从大数定律的条件
• 切比雪夫大数定律：独立，相同期望相同方差
• 辛钦大数定律：独立同分布（切比雪夫的特殊情况）
  • $X_i$独立同分布，$E(X_i) = \mu,$则当$n\to +\infty$时，有依概率收敛：${1\over n}\sum_{i=1}^n X_i \xrightarrow{p} \mu$
• 本质是计算依概率收敛于何值
• 具体计算时转化为求某随机变量的期望
• 贝努力大数定律：频率
• 大数定律意义：证明频率稳定于概率，可以估计概率

中心极限定理：分布近似（n较大近似）#

• 中心极限定理：独立同分布（设相同均值为$\mu$，相同方差为$\sigma^2$）
  • 条件：已知$X_i$独立同分布。则满足： $\sum_{i=1}^n X_i \sim N(n\mu,n\sigma^2)$以及 $\bar{X} = {1\over n}\sum_{i=1}^n X_i \sim N(\mu,{\sigma^2\over n})$
• 棣莫弗—拉普拉斯: 当$n$充分大时，二项分布近似为正态分布：$B(n,p)\sim N(np,np(1-p))$
• 共同要求：独立同分布；n充分大（“大数”）
• 用中心极限定理近似正态分布：不用依概率不等式求区间概率的原因：n较大，不方便计算（？

TBC:跳过几道例题#