条件概率

在同一个样本空间Ω中的事件或者子集A与B，如果随机从Ω中选出的一个元素属于B，那么这个随机选择的元素还属于A的概率就定义为在B的前提下A的条件概率。从这个定义中，我们可以得出

\\\(P(A|B) = |A∩B|/|B|\\\)

分子、分母都除以|Ω|得到

\({\displaystyle P(A|B)={\frac {P(A\cap B)}{P(B)}}} P(A|B)={\frac {P(A\cap B)}{P(B)}}\)
有时候也称为：后验概率

伯努利试验

伯努利试验（Bernoulli trial）是只有两种可能结果的单次随机试验，即对于一个随机变量X而言，

\({\displaystyle Pr[X=1]\;=\;p} Pr[X=1]\;=\;p\)
{\displaystyle Pr[X=0]\;=\;1-p} Pr[X=0]\;=\;1-p

1.每一次试验的结果不会受其它实验结果的影响。事件之间相互独立。
2.多次试验且每次事件发生的概率没有相互之间的影响。

伯努利过程

伯努利过程是一个由有限个或无限个的独立随机变量 X1, X2, X3 ,…, 所组成的离散时间随机过程，其中 X1, X2, X3 ,…, 满足如下条件：

对每个 i, Xi 等于 0 或 1;
对每个 i, Xi = 1 的概率等于 p.

换言之，伯努利过程是一列独立同分布的伯努利试验。每个Xi 的2个结果也被称为“成功”或“失败”。所以当用数字 0 或 1 来表示的时候，这个数字被称为第i个试验的成功次数。

与伯努利过程相关的随机变量有：

前 n 个试验的成功次数服从二项分布。
要得到 r 次成功所需要的试验次数服从负二项分布。
要得到 1 次成功所需要的试验次数服从几何分布，这是负二项分布的一个特例。

例1：
假定太阳升起这一事件服从一个未知参数A的伯努利过程,且A是[0,1]内均匀分布,则利用已给定的历史数据,太阳明天能升起这一事件的后验概率为
\(P(Xn+1|Xn=1,Xn-1=1,…,X1=1)=P(Xn+1,Xn=1,Xn-1=1,…,X1=1)/P(Xn=1,Xn-1=1,…,X1=1)=A^(n+1)在[0,1]内对A的积分/A^n在[0,1]内对A的积分=(n+1)/(n+2)\)
即已知太阳从第1天到第n天都能升起,第n+1天能升起的概率接近于1.

负二项分布

负二项分布是统计学上一种离散概率分布。“负二项分布”与“二项分布”的区别在于：“二项分布”是固定试验总次数N的独立试验中，成功次数k的分布；而“负二项分布”是所有到成功r次时即终止的独立试验中，失败次数k的分布。

当 {\displaystyle r} r是整数时，负二项分布又称帕斯卡分布，其概率质量函数为 {\displaystyle f(k;r,p)={k+r-1 \choose r-1}\cdot p^{r}\cdot (1-p)^{k}!} f(k;r,p)={k+r-1 \choose r-1}\cdot p^{r}\cdot (1-p)^{k}!。它表示，已知一个事件在伯努利试验中每次的出现概率是 {\displaystyle p} p，在一连串伯努利试验中，一件事件刚好在第 {\displaystyle r+k} r+k次试验出现第 {\displaystyle r} r次的概率。

取 {\displaystyle r=1} r=1，负二项分布等于几何分布。其概率质量函数为 {\displaystyle f(k;1,p)=p\cdot (1-p)^{k}!} f(k;1,p)=p\cdot (1-p)^{k}!。

例2：
有个盒子里面装了n个不同颜色的球，每次你从中选取一个并将其放回，问：平均需要多少次使得所有颜色的球都被取过。

解：
定义状态：为已经得到x个不同颜色的球的期望值，则：
所以