概率论笔记

<<计算机应用与可靠性工程中的概率统计>>

引言

样本空间

样本空间: 一个随机试验的全部可能结果,S

可列无穷: 与自然数一一对应 + 有限 == 可数/离散样本空间

事件

事件是某些样本点的集合, 单独进行的随机试验称为试验

  • 普通事件: {样本空间}
  • 不可能事件, 互斥事件
  • 基本事件 : {一个元素}
  • 基数, 补集, Venn图, 树图, 坐标系

概率公理

Kolmogorov公理

  1. $P(A) \ge 0$
  2. P(S) = 1
  3. A,B互斥, P(AUB) = P(A) + P(B)
    • 容斥: P(AUB) = P(A) + P(B) - P(A∩B)
    • SDP 不交积和法

概率空间(S,F,P) : 可测的

解决问题基本步骤

  1. 定义样本空间S : 互斥,完全穷尽
  2. 概率分配
  3. 确定所感兴趣的事件(图示法简化)
  4. 计算所需概率

条件概率

$$P(s|B) = \begin{cases}\frac{P(s)}{P(B)}, & \text{if s $\in$ B } \0, & \text{if $s$ $\notin$ B}\end{cases}$$

$$P(A|B) = \begin{cases} P(B)P(A|B) &\text{if P(B) $\neq$ 0}\ P(A)P(B|A)&\text{if P(A) $\neq$ 0}\0&else\end{cases}$$

独立事件

$P(A|B) = P(A)$ or $$P(A \cap B) = P(A) \cap P(B)$$

  1. 如果AB互斥, 那么P(A) = 0 or P(B) = 0
  2. 如果与自己相互独立: P(A) = 0 or P(A) = 1
  3. 不具有传递性
  4. $\overline{A}$ 继承A的独立集..
  5. 两两独立$\subseteq$ 相互独立

可靠度

可靠度乘积法则, 并联冗余, 可靠性框图(RBD), 故障树(顶事件)

  • 容斥公式
  • SDP公式
  • 二元决策图
  • 因子调节

Bayes法则

事件空间: 实验结果与S’元素之间关系在于多对一

全概率定理: $P(A) = \sum P(A|B_{i})P(B_i)$

Bayes法则: $$P(B_j|A) = \frac {P(B_j\cap A)}{P(A)} =\frac{P(A|B_j)P(B_j)}{\sum P(A|B_i)P(B_i)}$$

  • A已经发生,但是不知道互斥,完全穷尽$B_j$哪个发生时候
  • 后验概率: 交换了A先发生和B先发生的顺序,也就是当知道P(A or $\overline{A}$|B),P(A or $\overline{A}$|$\overline{B}$) 求P(B|A)

Bernoulli试验

恰好k个 $p(k) =C(n,k) p^kq^{n-k}$

至多k个$P_w = \sum C(n,k)(1-p)^ip^{n-i}$

至少k个 $P_{k|n} = \sum p(i)$

非齐次Bernouli实验(每次成功概率不同): $P{k|n} = 1 - \sum{|i|>k}(\prod_{i in I} Ri)(\prod{i\notin I} R_i)$

广义Bernouli实验(不止两种可能): $p(n_1,n_2…n_k) = \frac{n!}{n_1!n_2!…n_k!}p_1^{n_1}p_2^{n_2}…p_k^{n_k}$

离散型随机变量

  • 随机变量指的是一种可能结果对应某一数值的映射法则
  • 逆像 $A_x = {s \in S|X(s) = x}$ 随机变量样本点的集合
  • PMF质量概率函数/离散密度函数$P_X(x) =PX(X=x) \sum{X(s)=x}P(s)$
  • 分布函数$PX(X\in x) = \sum{x_i\in A}P_X(x_i)$
    • CDF累计分布函数/改路分布函数 $F_X(t) = P(-\infty < X \leq t)$
  1. Bernoulli分布

X只能取0/1

$p_X(0) = p_0 = P(X = 0) = q$

$p_X(1) = p_1 = P(X = 1) = p$

  1. 二项分布

    $b(k;n,p) = C(n,k)p^k(1-p)^{n-k} \simeq \frac 1{\sqrt{2\pi npq}}e^-\frac{(k-np)^2}{2npq}$ (PMF正态近似)

    $B(t;n,p) = \sum_{i=0}^{\lfloor t \rfloor}C(n,k)p^k(1-p)^{n-k}$

  2. 几何分布: 第一次成功已完成的实验次数

    无记忆性

    PMF: $Fz(t) = \sum{i=1}^{\lfloor t \rfloor}p(1-p)^{i-1} = 1-(1-p)^{\lfloor t\rfloor}$

    修正几何分布PMF $P_X(i) = p(1-p)^i$

  3. 负二项分布: 第T次实验为第r次成功

  4. 泊松分布: 在时间段t内到达k个任务的概率

    • (当p非常小n非常大可以用来估计二项分布的PMW)
    • $e^{-\alpha}\frac{\alpha^k}{k!} \approxeq C(n,k) p^kq^{n-k} , \alpha = np $

      1. 超几何分布: 无放回抽样
  1. 离散均匀分布, 常值分布, 示性随机变量

概率生成函数

$$
G_x(z) = \sum p_iz^i
$$

  1. Bernoulli分布 $G(z) = 1-p-pz$
  1. 二项分布 $G(z) = (pz+1-p)^n$

  2. 几何分布: 第一次成功已完成的实验次数

    修正几何分布PMF $G(z) = \frac{p}{1-z(1-p)}$

  3. 泊松分布: 在时间段t内到达k个任务的概率 $G(z) = e^{-\alpha(1-z)}$

  4. 常值分布: $G(z) = z^i$

  5. 示性随机分布$G(z) = p(A’) + P(A)_z$

随机变量的独立性

边缘PMF $P_x(x) = \sum P(U_j {X=x,Y=y_j})$

独立: $P_{x,y} = P_xP_y$

文章目录
  1. 1. 引言
    1. 1.1. 样本空间
    2. 1.2. 事件
    3. 1.3. 概率公理
    4. 1.4. 解决问题基本步骤
    5. 1.5. 条件概率
      1. 1.5.1. 独立事件
    6. 1.6. 可靠度
    7. 1.7. Bayes法则
    8. 1.8. Bernoulli试验
  2. 2. 离散型随机变量
    1. 2.1. 概率生成函数
    2. 2.2. 随机变量的独立性