各种分布

①：01分布 B（Binary）

二项分布

$X\sim B(n,p)$X∼B(n,p)
$E\left(X\right)=np$E(X)=np
$D\left(X\right)=np(1-p)$D(X)=np(1−p)

②：泊松分布 P（Poisson）

$X\sim P\left(\lambda \right)$X∼P(λ)
$E\left(X\right)=D\left(X\right)=\lambda$E(X)=D(X)=λ
$p\{x=k\}=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$p{x=k}=k!λk​e−λ

理解

因为概率和为1
$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}{e}^{-\lambda }=1$k=0∑∞​k!λk​e−λ=1
所以：
$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}=e^{\lambda }$k=0∑∞​k!λk​=eλ
其实是 $e^{\lambda }$eλ的泰勒展开变形

③：均匀分布 U（Uniform）

$X\sim U(a,b)$X∼U(a,b)
$E\left(X\right)=\frac{a+b}{2}$E(X)=2a+b​
$D\left(X\right)=\frac{(b-a{)}^2}{12}$D(X)=12(b−a)2​

④：指数分布 E（Exponential）

$X\sim E\left(\lambda \right)$X∼E(λ)
$E\left(X\right)=\frac{1}{\lambda }$E(X)=λ1​
$D\left(X\right)=\frac{1}{{\lambda }^2}$D(X)=λ21​
$X\sim f\left(x\right)=\{\begin{array}{c}\lambda e^{-\lambda x},x>0\\ 0,x\le 0\end{array}$X∼f(x)={λe−λx,x>00,x≤0​

要背一哈积分

$px>t={\int }_t^{+\infty }\lambda e^{-\lambda t}dt=e^{-\lambda t}$px>t=∫t+∞​λe−λtdt=e−λt

无记忆性

$px>t+s\mid x>s=\frac{p(x>t+s,x>s)}{p(x>s)}=\frac{p(x>t+s)}{p(x>s)}=\frac{e^{-\lambda (t+s)}}{e^{-\lambda s}}=e^{-\lambda t}$px>t+s∣x>s=p(x>s)p(x>t+s  ,  x>s)​=p(x>s)p(x>t+s)​=e−λse−λ(t+s)​=e−λt

⑤： 正态分布 N（Normal）

$X\sim N(\mu ,{\sigma }^2)$X∼N(μ,σ2)
$E\left(X\right)=\mu$E(X)=μ
$D\left(X\right)={\sigma }^2$D(X)=σ2
$X\sim f\left(x\right)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$X∼f(x)=2π ​σ1​e−2σ2(x−μ)2​

标准正态

$X\sim N(0,1)$X∼N(0,1)
用 $\phi \left(x\right)$φ(x)来表示
$\phi \left(x\right)\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}$φ(x)2π ​1​e−2x2​

分布函数

用 $\varphi$ϕ来表示
有个对称性的性质：
$\varphi \left(x\right)=1-\varphi (-x)$ϕ(x)=1−ϕ(−x)

一.独立事件

1

①：
$\overline{A\cup B}=\bar{A}\cap \bar{B}$A∪B=Aˉ∩Bˉ
②：
$\overline{A\cap B}=\bar{A}\cup \bar{B}$A∩B=Aˉ∪Bˉ
③：
$\overline{A-B}=\bar{A}\cup B$A−B​=Aˉ∪B
这个感觉有点少见

2

①：
$p\left(B\mid A\right)=p\left(B\mid \bar{A}\right)=p\left(B\right)$p(B∣A)=p(B∣Aˉ)=p(B)

证明：

$p\left(B\mid A\right)=\frac{p\left(AB\right)}{p\left(A\right)}=\frac{p\left(A\right)p\left(B\right)}{p\left(A\right)}=p\left(B\right)$p(B∣A)=p(A)p(AB)​=p(A)p(A)p(B)​=p(B)
$p\left(B\mid \bar{A}\right)$p(B∣Aˉ)同理

②：
$p\left(A\mid B\right)=1-p\left(\bar{A}\mid \bar{B}\right)$p(A∣B)=1−p(Aˉ∣Bˉ)
这个怎么来的？？？

二.复合概率密度函数

$X\sim f\left(x\right),Y\sim g\left(f\right(x\left)\right)$X∼f(x),Y∼g(f(x))

定义法

$f_Y\left(y\right)=F_Y^{\prime }\left(y\right)$fY​(y)=FY′​(y)
而
$F_Y\left(y\right)=p(Y\le y)=p\left(g\right(x)\le y)={\int }_{g\left(x\right)\le y}{f}_x\left(x\right)dy$FY​(y)=p(Y≤y)=p(g(x)≤y)=∫g(x)≤y​fx​(x)dy

一个结论

根据王式安老师说的，好像是个定理，要研究生的课才上
如果：
$X\sim f\left(x\right),F\left(x\right)$X∼f(x),F(x)
并且有 $Y=F\left(X\right)$Y=F(X)这个代换，那么
$Y\sim U(0,1)$Y∼U(0,1)

简略理解证明

$Y\sim F_Y\left(y\right)=p(Y\le y)=p\left(F\right(X)\le y)=p(X\le F^{-1}(y\left)\right)=F\left(F^{-1}\right(y\left)\right)=y$Y∼FY​(y)=p(Y≤y)=p(F(X)≤y)=p(X≤F−1(y))=F(F−1(y))=y

$f_x\left(x\right),f_X\left(x\right),f_x\left(X\right),f_X\left(X\right)$fx​(x),fX​(x),fx​(X),fX​(X)

协方差

$Cov(X,Y)=E\left\{\right[X-E\left(X\right)\left]\right[Y-E\left(Y\right)\left]\right\}=E\left(XY\right)-E\left(X\right)E\left(Y\right)$Cov(X,Y)=E{[X−E(X)][Y−E(Y)]}=E(XY)−E(X)E(Y)

协方差的性质

①：
$Cov(aX,bY)=abCov(X,Y)$Cov(aX,bY)=abCov(X,Y)
②：
$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$Cov(X1​+X2​,Y)=Cov(X1​,Y)+Cov(X2​,Y)
用协方差来计算和的方差
$D(X\pm Y)=D\left(X\right)\pm 2Cov(X,Y)+D\left(Y\right)$D(X±Y)=D(X)±2Cov(X,Y)+D(Y)

相关系数

${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D\left(X\right)D\left(Y\right)}}$ρXY​=D(X)D(Y) ​Cov(X,Y)​

大数定理 中心定理

切比雪夫不等式

$p(\mid X-E(X)\mid \ge \epsilon )\le \frac{D\left(X\right)}{{\epsilon }^2}$p(∣X−E(X)∣≥ε)≤ε2D(X)​

切比雪夫大数定理 辛钦大数定理

大数定理这一节，截个王式安老师的图：

伯努利大数定理可以看成是上面两个的特殊情况
反正就是求期望就完事了~

中心定理

意思就是说加起来近似正态分布

样本及抽样分布

样本均值

$\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$X=n1​i=1∑n​Xi​

样本方差

$S^2=\frac{1}{n-1}\sum _{i-1}^n(X_i-\bar{X}{)}^2$S2=n−11​i−1∑n​(Xi​−X)2
样本方差阔以化为两种形状：
①：
$\frac{1}{n-1}\sum _{i-1}^n(X_i-\bar{X}{)}^2=\frac{1}{n-1}[\sum _{i=1}^n{X}_i^2-n{\bar{X}}^2]$n−11​i−1∑n​(Xi​−X)2=n−11​[i=1∑n​Xi2​−nX2]
过程：
$S^2=\frac{1}{n-1}\sum _{i-1}^n(X_i-\bar{X}{)}^2=\frac{1}{n-1}\sum _{i-1}^n(X_i^2-2X_i\bar{X}+{\bar{X}}^2)=\frac{1}{n-1}[\sum _{i-1}^n{X}_i^2-2\bar{X}\sum _{i=1}^n{X}_i+\sum _{i=1}^n{\bar{X}}^2]=\frac{1}{n-1}[\sum _{i-1}^n{X}_i^2-2\bar{X}\cdot n\bar{X}+\sum _{i=1}^n{\bar{X}}^2]=\frac{1}{n-1}(\sum _{i-1}^n{X}_i^2-n{\bar{X}}^2)$S2=n−11​i−1∑n​(Xi​−X)2=n−11​i−1∑n​(Xi2​−2Xi​X+X2)=n−11​[i−1∑n​Xi2​−2Xi=1∑n​Xi​+i=1∑n​X2]=n−11​[i−1∑n​Xi2​−2X⋅nX+i=1∑n​X2]=n−11​(i−1∑n​Xi2​−nX2)
②：
$\frac{1}{n-1}\sum _{i-1}^n(X_i-\bar{X}{)}^2=\sum _{i=1}^n(X_i-\mu {)}^2-n(\bar{X}-\mu {)}^2$n−11​i−1∑n​(Xi​−X)2=i=1∑n​(Xi​−μ)2−n(X−μ)2
过程：
$\frac{1}{n-1}\sum _{i-1}^n(X_i-\bar{X}{)}^2=\frac{1}{n-1}\sum _{i-1}^n[(X_i-\mu )-(\bar{X}-\mu ){]}^2=\frac{1}{n-1}\sum _{i-1}^n\left[\right(X_i-\mu {)}^2-2(X_i-\mu )(\bar{X}-\mu )+(\bar{X}-\mu {)}^2]=\sum _{i=1}^n\left[\right(X_i-\mu {)}^2-(\bar{X}-\mu {)}^2]=\sum _{i=1}^n(X_i-\mu {)}^2-n(\bar{X}-\mu {)}^2$n−11​i−1∑n​(Xi​−X)2=n−11​i−1∑n​[(Xi​−μ)−(X−μ)]2=n−11​i−1∑n​[(Xi​−μ)2−2(Xi​−μ)(X−μ)+(X−μ)2]=i=1∑n​[(Xi​−μ)2−(X−μ)2]=i=1∑n​(Xi​−μ)2−n(X−μ)2

这儿有篇苏剑林写的关于无偏估计的：为啥是n-1

$E\left(\bar{X}\right)=E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^{n}E\left(\frac{1}{n}{X}_i\right)=\sum _{i=1}^n\frac{1}{n}\mu =\mu$E(X)=E(n1​i=1∑n​Xi​)=i=1∑n​E(n1​Xi​)=i=1∑n​n1​μ=μ
$D\left(\bar{X}\right)=D\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^{n}D\left(\frac{1}{n}{X}_i\right)=\sum _{i=1}^n\frac{1}{n^2}D\left(X_i\right)=\sum _{i=1}^n\frac{1}{n^2}{\sigma }^2=\frac{{\sigma }^2}{n}$D(X)=D(n1​i=1∑n​Xi​)=i=1∑n​D(n1​Xi​)=i=1∑n​n21​D(Xi​)=i=1∑n​n21​σ2=nσ2​
$E\left(S^2\right)=\frac{1}{n-1}\left[\sum _{i=1}^{n}E\right(X_i^2)-nE({\bar{X}}^2\left)\right]=\frac{1}{n-1}\left[\sum _{i=1}^n\right(D\left(X_i\right)+E^2\left(X_i\right))-n(D\left(\bar{X}\right)+E^2\left(\bar{X}\right)\left)\right]=\frac{1}{n-1}\left[\sum _{i=1}^n\right({\sigma }^2+{\mu }^2)-n(\frac{{\sigma }^2}{n}+{\mu }^2\left)\right]=\frac{1}{n-1}[n{\sigma }^2+n{\mu }^2-{\sigma }^2-n{\mu }^2]=\frac{1}{n-1}\left[\right(n-1\left){\sigma }^2\right]={\sigma }^2$E(S2)=n−11​[i=1∑n​E(Xi2​)−nE(X2)]=n−11​[i=1∑n​(D(Xi​)+E2(Xi​))−n(D(X)+E2(X))]=n−11​[i=1∑n​(σ2+μ2)−n(nσ2​+μ2)]=n−11​[nσ2+nμ2−σ2−nμ2]=n−11​[(n−1)σ2]=σ2

开方分布

$X\sim {\chi }^2\left(n\right)$X∼χ2(n)
$E\left(X\right)=n$E(X)=n
$D\left(X\right)=2n$D(X)=2n
还有一个关于 开方分布 与 样本方差 的一个定理，感觉经常用，但是证明很麻烦，是书上P143，证明在章末附录
$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$σ2(n−1)S2​∼χ2(n−1)

t分布

$X\sim N(0,1)Y\sim {\chi }^2\left(n\right)$X∼N(0,1)Y∼χ2(n)
$T=\frac{X}{\sqrt{Y/n}}$T=Y/n ​X​
$t_{1-\alpha }\left(n\right)=-t_{\alpha }\left(n\right)$t1−α​(n)=−tα​(n)
关于 t分布 与 样本方差 的一个定理
$T=\frac{\bar{X}-\mu }{\sqrt{S^2/n}}\sim t(n-1)$T=S2/n ​X−μ​∼t(n−1)