1140503102450451连续时间马尔可夫链 联系客服

发布时间 : 星期四 文章1140503102450451连续时间马尔可夫链更新完毕开始阅读c1712c38aef8941ea66e053d

n骣lM!琪琪mM-n)! Pn=桫(n,n=0鬃,?M,

M骣lM!1+?琪琪m(M-n)!n=1桫因此,不在使用的机器的平均台数为

nM骣lM!琪n?琪Mm(M-n)!n=1桫 ?nPn= nM骣n=1lM!1+?琪琪m(M-n)!n=1桫假设我们想知道长时间之后一部指定的机器在工作的时间的比。为此等价地我们

计算它在工作的极限概率:

P{该机器在工作}=?P{该机器在工作|n部为工作}Pn

n=0M =?M-nPn Mn=0M5.6 时间可逆性

考虑一个遍历的连续时间马尔可夫链。且假定已进行了无限长时间;例如,假定它从时间t=-?开始。这样一个过程将是平稳的,我们说它处于稳态之中。(产生平稳过程的另一方法是假设在时刻t=0的初始状态按极限概率选取)在时刻t开始让我们把时间方向倒过来跟踪这过程。为了确定这逆向过程的概率结构,首先我们注意到在某时刻(譬如说t)处于状态i的条件下,处于状态的时间已超过s的概率正是e-vis。这是因为

P{[t-s,t]内过程全处于状态i|X(t)=i} =P =t|iPt}} i{(X)={[t-,s]内过程全处于状态P{X(t)=i}P{X(t-s)=i}e-vis

=e-vis

其中P{X(t-s)=i}=P{X(t)=i}=Pi。

换言之,逆时间退回去,过程处于状态i的时间也服从指数分布,参数为vi。此外,如同在第四章4.7节中证明的,逆向过程所到达的状态序列构成一个离散时间马尔可夫链,其转移概率Qij为

Qij=pjPji pi因此从上式可见逆向过程是一个连续时间马尔可夫链,离开每一个状态的转移速率与正向过程相同,一部转移概率为Qij。所以,连续时间马尔可夫链在时间逆向过程与原过程具有相同的概率结构的意义下是时间可逆的,如果嵌入链是时间可逆的——即如果对一切i,j piPij=pPj j现在利用

Pi=?pivi ¥pjj=0vjj

可见上面的条件等价于对一切i1 PPjvj PiviPi=j或等价地,对一切i1j

P=Pjq j (5.6.1) iqij由于Pi是处于状态i的时间的比率,且处于状态i的过程以速率qij转移到j,所以时间可逆条件就是过程直接从状态i到状态j的速率等于它直接从j到i的速率。应当注意到这正是遍历的离散马尔可夫时间可逆所需的同一条件(见第四章

4.7节)。

应用上述时间可逆的条件得出有关生灭过程的下列命题。 命题5.6.1

遍历生灭过程在稳态下是时间可逆的。 证明 为证此命题,我们必须证明生灭过程从状态i到状态i+1的速率等于它从i+1到i的速率。既然在任意长为t的时间内从i转移到i+1的次数与从i+1转移i到的次数相差不过1(因为从i到i+1的两次转移之间过程必须返回到i,且只能通过i+1回到i,反之亦然)。从而由于t时这种转移的次数趋于无穷,得从i到i+1的转移的速率等于从i+1到i的速率。

命题5.6.1可用于证明M/M/s系统的输出过程是泊松过程,把它叙述为一个系。

系5.6.2

考虑一个M/M/s系统,其中顾客依照速率l为的泊松过程来到,且受到s个服务员中任一个的服务——每一个服务时间服从参数为m的指数分布。若

l

证明 以X(t)记时刻t系统中的顾客数。因为M/M/s过程是一生灭过程,从命题5.6.1得{X(t),t30}是时间可逆的。依正向时间向前,X(t)增加1的时刻组成一泊松过程,因为它们正是顾客到来的时刻,因此由时间可逆性,按逆向时间X(t)增加1的时刻也组成一泊松过程。但是它们正好是原过程顾客离开的时刻(见图5.6.1)。因此离去的时刻构成一速率为l的泊松过程。

考虑一个连续时间马尔可夫链,其状态空间是S。我们说马尔可夫链被截于集ADS,若对一切i?A,j?A改变qij=0,所有其它的qij保留不变。于是从状态类A中转移出来是不允许的。一个有用的结果是被截得的时间可逆链仍然是时间可逆的。

命题5.6.3

具有极限概率Pj(j?S)的时间可逆链,若截于集ADS,被截所得仍不可约,则是时间可逆的且有极限概率。

PjA=Pj/?Pj,j?A (5.6.2)

j?A证明 我们必须证明,对i?A,j?A

AA Piqij=Pjqij

或等价地,对i?A,j?A

P i=Pjqiqij但因原链由假设是时间可逆的,所以上式成立。 例5.6(a)考虑一个M/M/1排队系统,在该系统中当来客发现系统中已有N人便不进去而消失。这有限容量的M/M/1系统可看成是M/M/1被截所得,从而是时间可逆的,极限概率为

骣l琪?琪mi=0桫其中我们利用了上面例5.5(a)的结果。

N Pj=(lm)ji,0#jN