大数定理
频率和平均值具有稳定性。
设 \(X_n\) 是一组随机变量序列，若存在随机变量 \(X\)，使得对任意的正数 \(\epsilon\)，恒有： $$ \lim_{n\to \infty}P{|X_n-X|<\epsilon }=1 $$ 则称随机变量序列 \(\{X_n\}\) 依概率收敛于随机变量 \(X\)，记作 \(X_n \xrightarrow{P} X\)。
切比雪夫大数定理
随机变量的数字特征#方差的性质 切比雪夫不等式： $$ P{|X-\mu|\ge\epsilon}\le\frac {\sigma^2}{\epsilon^2} $$
设 \(X_1, X_2, \dots, X_n\) 是由相互独立的 r.v. 所构成的序列，\(E(X_k)=\mu_k\)，且 \(D(X_k)\le C\)。则对 \(\forall \epsilon>0\)，都有： $$ \lim_{n\to\infty}P { |\frac{1}{n}\sum^n_{k=1}X_k-\frac{1}{n}\sum^n_{k=1}\mu_k |<\epsilon }=1 $$
伯努利大数定理
\(n\) 重伯努利实验中，\(\forall \epsilon>0\)，有： $$ \lim_{n\to \infty}P { |\frac{n_A}{n}-p |<\epsilon }=1 $$
辛钦大数定理
设 r.v. \(X_1, X_2, \dots, X_n\) 相互独立，服从同一分布，且 \(E(X_k)=\mu\)。则 \(\forall \epsilon>0\)，有： $$ \lim_{n\to \infty}P{ |\frac{1}{n}\sum_{k=1}^{n}X_k-\mu|<\epsilon}=1 $$
中心极限定理
独立同分布的中心极限定理
设 r.v. \(X_k \, (k=1,2,\dots)\) 相互独立，服从同一分布，\(E(X_k)=\mu, D(X_k)=\sigma^2\)，则： $$ Y_n=\frac{\sum_{k=1}^{n}X_k-n\mu}{\sqrt{n}\sigma} \to N(0,1) $$
李雅普诺夫定理
设随机变量 \(X_1, X_2, \dots, X_n\) 相互独立，\(E(X_k)=\mu_k, D(X_k)=\sigma^2_k\)，记 \(B_n^2=\sum_{k=1}^n\sigma^2_k\)，则： $$ Z_n=\frac{\sum_{k=1}^n X_k-\sum_{k=1}^n\mu_k}{B_n} \text{ 服从 } N(0,1) $$
林德贝格中心极限定理
设随机变量 \(X_1, X_2, \dots\) 相互独立，具有有限的数学期望和方差，\(E(X_k)=\mu_k, D(X_k)=\sigma_k^2\)，记 \(B_n^2=\sum^n_{k=1}\sigma_k^2\)。
林德贝格条件为：\(\forall\epsilon>0\) 有 $$ \lim_{n\to\infty}\frac{1}{B_n^2}\sum^n_{k=1}\int_{|x-\mu_k|>\epsilon B_n}(x-\mu_k)^2f_k(x)dx=0 $$ $$ \lim_{n\to \infty} P {\max_{1\le k\le n}\frac{|X_k-\mu_k|}{B_n}>\epsilon }=0 $$
马尔可夫不等式
单边的切比雪夫不等式
\(E(X)=0, D(X)=\sigma^2\)，则： $$ P{X\ge a}\le \frac{\sigma^2}{\sigma^2+a^2} $$