数理统计基本概念#

部分估计整体。

可以参考:Jiepeng’s notes(Chapter 6 统计量与抽样分布)

目录

• 数理统计基本概念
  • 随机样本与统计量——抽样
  • 三类抽样分布
    • 卡方分布
    • t分布
    • F分布
  • 正态总体下的抽样分布

样本方差$S^2$定义为${1\over {n-1} }{\sum_{i=1}^n (X_i - \bar{X})^2 },$n是样本个数。

注意： 注意区别于总体方差！（总体方差是$\sigma ^2 = Var(X)$）

所以易知：

• 样本标准差：$S$
• 总体标准差：$\sigma$

样本方差的标准化形式： ${\sum_{i=1}^n(X_i - \bar{X})^2\over \sigma^2}$ 样本数据与总体均值的偏差： ${\sum_{i=1}^n(X_i - \mu)^2\over \sigma^2}$

数理统计基本概念#

随机样本与统计量——抽样#

重要：样本数字特征概念VS总体数字特征概念的区分 ： 样本总体方差估计：用$S^2$或者$B_2$，前者更加适合，因为是无偏估计。

三类抽样分布#

$\chi^2$分布， t-分布， F分布

卡方分布#

• 由定义，若$X_i$相互独立且$X_i$~$N(0,1)$，则$\chi_n^2 = \sum_{i=1}^n X_i^2$
  • 因此有（标准化相关）：若$X_i$~$N(\mu,\sigma^2)$，则$\chi_n^2 = {\sum_{i=1}^n (X_i - \mu)^2\over \sigma^2} = \sum_{i=1}^n {(X_i - \mu)^2\over \sigma^2}$
• 期望为$n$，方差为$2n$
• $y$的含义是服从$\chi^2$分布的随机变量，即$\chi^2$ ~ $\chi^2 (n)$中的$\chi^2$
• 可加性（独立）
• $\chi_a ^2$为$\chi^2 (n)$分布的上$\alpha$分位数
• 很多分布都可以转化为$\chi^2$分布，或利用$\chi^2$分布来求解
• 与标准正态分布（转换）息息相关
• 概率密度：

t分布#

• 定义：$X\sim N(0,1)$，$Y\sim \chi^2(n)$，且$X,Y$相互独立，则$T = {X\over \sqrt{Y/n}}$称$T\sim t(n)$
• $t_{\alpha}$为$t(n)$分布的上$\alpha$分位数
  • $t_\alpha(n) = - t_{1-\alpha}(n)$
• 概率密度：

F分布#

• 定义：$X\sim \chi^2(n_1), Y\sim \chi^2(n_2)$，二者独立，则$F = {X/n_1\over Y/n_2}$称$F\sim F(n_1, n_2)$
• $n_1$第一自由度，$n_2$第二自由度
• $F_\alpha (n_1,n_2)$为$F(n_1,n_2)$分布的上$\alpha$分位数
• $F_\alpha (n_1,n_2) = F_{1-\alpha} ^{-1} (n_2,n_1) = {1\over F_{1-\alpha}(n_2,n_1)}$
  • 若$F\sim F(n_1,n_2)$，则${1\over F}\sim F(n_2,n_1)$
• 概率密度：
• 当$n > 45$时，$t_\alpha(n) \approx z_\alpha$

正态总体下的抽样分布#

• 若$X_i\sim N(\mu,\sigma^2),\bar{X}$是样本均值，$S^2$是样本方差
  • $\bar{X}\sim N(\mu,{\sigma^2\over n})$（由独立分布的中心极限定理可推）
    • （推导：$\bar{X} = {1\over n}\sum_{i=1}^n X_i$，再利用方差和期望计算性质来求:）
    • $E(\bar{X}) = E({1\over n}\sum_{i=1}^n X_i) = {1\over n}\sum_{i=1}^nE(X_i) = {1\over n}\times {n\times \mu} = \mu$
    • $D(\bar{X}) = D({1\over n}\sum_{i=1}^n X_i) = {1\over n^2}\sum_{i=1}^nD(X_i) = {1\over n^2}\times n\times \sigma^2 = {\sigma^2 \over n}$
    • 两个结论和服从分布一定要牢记
  • ${(n-1)S^2 \over \sigma^2}\sim \chi^2(n-1)$（怎么推）
    • $E(S^2) = E({1\over (n-1)}\sum_{i=1}^n)(X_i - \bar{X})^2$
      • $= {1\over n-1}\sum_{i=1}^n E(X_i ^2 - \bar{X}^2)$
      • $= {1\over n-1}$ $(\sum_{i=1}^2 E(X_i ^2) - nE(\bar{X}^2))$
      • $= {1\over n-1}(\sum_{i=1}^n (\sigma^2 + \mu^2) - n({\sigma^2 \over n} + \mu^2))$
      • $= \sigma^2$
    • $D(S^2) = {2\sigma^4\over n-1}$
      • 推导：
      • 从${(n-1)S^2 \over \sigma^2}\sim \chi^2(n-1)$出发，知$D({(n-1)S^2 \over \sigma^2}) = {\sigma^2 \over{n-1}}$
      • 因此把$D$里面常数提取出来就得到结果。

• $\bar{X}$与$S^2$相互独立
• $t$分布：${\bar{X} - \mu \over \sqrt{S^2 / n}} = {\bar{X} - \mu \over S/\sqrt{n}} \sim t(n-1)$

${(n-1)S^2 \over \sigma^2}\sim \chi^2(n-1)$为什么是$\chi^2(n-1)$而不是$\chi^2(n)$

有没有发现和$S^2$相关的一般都带点$n-1$

例题： 解释：

第一问由$S^2$的分布结论直接推出。$\bar{X}$看起来很陌生，实际上可以转化为$S^2$的公式 第二问就更熟悉了，服从$\chi^2$分布章节的第一点结论（正态分布标准化）

这里的$S_w ^2$称为$X,Y$的组内方差，一般形式有：$S_w ^2 = {\sum_{i=1}^n (n_i-1) S_i^2\over \sum_{i=1}^n(n_i-1)}$ 例题： （1）利用公式结论，用$\bar{X},\bar{Y},S_1$来表示$t$分布公式里的标准变量，然后代入标准公式，与（1）题干公式比较，得到a,k的值（化归，标准化比较） 注意n是有具体值的 （2）思路同（1），也是化归+代入，注意最后F的两个参数$n_1,n_2$不要写反！