Probability Notes 6 伯努利过程和泊松过程

6 伯努利过程和泊松过程(Bernoulli Processes and Poisson Processes)

6.1 伯努利过程(Bernoulli Process)

  • 伯努利过程是互相独立的伯努利随机变量X_1,X_2,dots的一个序列,随机变量X_i满足:
    P(X_i=1)=P(text{success at the ith trail})=p
    P(X_i=0)=P(text{failure at the ith trail})=1-p

6.2 与伯努利过程有关的随机变量

  •  二项随机变量(参数np),描述n次试验中成功的次数S的概率:
    p_{S}(k)=(begin{matrix} n  k end{matrix})p^k(1-p)^{n-k},~~~~~k = 0,1,dots,n
    mathbb{E}[S]=np
    var(S)=np(1-p)
  • 几何随机变量(参数p),描述直至T次试验才出现第一次成功的概率:
    p_T(t)=(1-p)^{t-1}p,~~~~~t=1,2,dots
    mathbb{E}[T]=frac{1}{p}
    var(T)=frac{1-p}{p^2}

6.3 伯努利过程的独立性属性

  • X_1,X_2,dots是一个伯努利过程,给定时间n,则该过程的未来(随机变量序列X_{n+1},X_{n+2},dots)也是一个伯努利过程,并且与过程的过去(X_{1},X_{2},dots,X_{n})相互独立
  • X_1,X_2,dots是一个伯努利过程,给定时间n,令在此后首次出现成功的时间为bar{T},则bar{T}-n满足几何分布,参数为p,并且与随机变量X_1,dots,X_n独立

6.4 伯努利过程的另一种描述

  • 从相互独立且共同参数为p的一个几何随机变量序列T_1,T_2,dots开始,将这些随机变量理解为两次成功试验之间的时间间隔,即:
    T_1,T_1+T_2,T_1+T_2+T_3这些时刻的试验是成功的,其余时刻均为失败

6.5 第k次成功时刻

  • k 次试验成功的时刻Y_k等于前k次成功试验之间的时间间隔之和,即:
    Y_k=T_1+T_2+dots+T_k
  • 随机变量Y_k的分布成为k阶帕斯卡(Pascal)分布,其概率质量函数为:
    p_{Y_{k}}(t)=(begin{matrix} t-1  k-1 end{matrix})p^k(1-p)^{t-k},~~~~~t=k,k+1,dots
    期望与方差分别为:
    mathbb{E}[Y_k]=mathbb{E}[T_1]+dots +mathbb{E}[T_k]=frac{k}{p}
    var(Y_k)=var(T_1)+dots +var(T_k)=frac{k(1-p)}{p^2}

6.6 二项分布的泊松近似(Poisson Approximation to the Binomial)

  • 参数为lambda的泊松随机变量Z的概率质量函数为:
    p_Z(k)=e^{-lambda}frac{{lambda}^k}{k!},~~~~~k = 0,1,2,dots
    期望和方差为:
    mathbb{E}[Z]=lambda
    var(Z)=lambda
  • 给定一个非负整数k,令p=frac{lambda}{n},则在nrightarrow infty时二项随机变量概率质量函数p_S(k)=frac{n!}{(n-k)!k!}p^k(1-p)^{n-k}收敛于p_Z(k)
  • 一般地,n较大且p较小的情况下,泊松随机变量的概率质量函数是二项随机变量概率质量函数的一个很好的近似

6.7 泊松过程

  •  一个到达过程(arrival process)若要是一个柏松过程,则需要满足如下属性:
  1. 时间齐性(Time-homogeneity):
    对于任意长度为tau的时间区间,发生k次到达的概率P(k,tau)相同
  2. 独立性:
    任何一个时间区间内的到达次数与区间外的到达情况无关
  3. 小区间属性:
    lim_{tau rightarrow 0}时,P(k,tau)满足:
    P(0,tau)=1-lambdatau+o(tau)
    P(1,tau)=lambdatau+o_1(tau)
    P(k,tau)=o_k(tau),~~~~~~text{for}~k=2,3,dots
    其中o(tau),dots{o_k(tau)}tau的函数并且满足:
    lim(taurightarrow 0)frac{o(tau)}{tau}=0
    lim(taurightarrow 0)frac{o_k(tau)}{tau}=0

6.8 与柏松过程有关的随机变量

  • 柏松随机变量,参数lambdatau,描述一个到达频率为lambda的柏松过程中,任意一个间隔为tau的时间区间中到达发生的次数N_{tau}
    概率质量函数p_{N_tau}(k)=P(k,tau)=e^{-lambdataufrac{(lambdatau)^k}{k!}},~~~~k=0,1,dots
    期望mathbb{E}[N_tau]=lambdatau
    方差var(N_tau)=lambdatau
  • 指数随机变量,参数lambda,描述直至第一次到达所需要的时间T
    概率密度函数f_T(t)=lambda e^{-lambda t},~~~tge{0}
    期望mathbb{E}[T]=frac{1}{lambda}
    方差var(T)=frac{1}{{lambda}^2}

6.9 柏松过程的独立性

  • 对于一个柏松过程,给定时刻t data-recalc-dims=0" />,则t之后的过程也是一个柏松过程,并且独立于t时刻之前的过程
  • t是一个给定时刻,bar{T}是时刻t之后第一次到达的时刻,则bar{T}-t满足参数为lambda的指数分布,并且独立于t时刻之前的过程

6.10 柏松过程的另一种描述

  • T_1,T_2,dots,是相互独立且为具有共同参数lambda的指数随机变量序列,T_1,T_2,dots表示各次到达之间的时间间隔
  • 到达发生在时刻T_1,T_1+T_2,T_1+T_2+T_3dots

6.11 k次成功时刻

  • k阶厄兰随机变量(Erlang of order k),描述第k次到达时间Y_kY_k等于前k次到达之间的时间间隔的和
    Y_k=T_1+T_2+dots+T_k
  • mathbb{E}[Y_k]=mathbb{E}[T_1]+dotsmathbb{E}[T_k]=frac{k}{lambda}
  • var(Y_k)=var(T_1)+dots+var(T_K)=frac{k}{{lambda}^2}
  • f_{Y_k}(y)=frac{{lambda}^ky^{k-1}e^{-lambda y}}{(k-1)!},~~yge{0}

6.12 随机个随机变量之和的属性

  • N,X_1,X_2,dots是相互独立的随机变量,N取值为非负整数,令Y=X_1+X_2dots+X_N
  • X_i为参数为p的伯努利随机变量
    N为参数为m,q的二项随机变量
    Y为参数为m,pq的二项随机变量
  • X_i为参数为p的伯努利随机变量
    N为参数为lambda的柏松随机变量
    Y为参数为lambda p的柏松随机变量
  • X_i为参数为p的几何随机变量
    N为参数为q的几何随机变量
    Y为参数为pq的几何随机变量
  • X_i为参数为lambda的指数随机变量
    N为参数为q的几何随机变量
    Y为参数为lambda q的指数随机变量

Leave a Reply

Your email address will not be published. Required fields are marked *