§5.2科尔莫戈罗夫微分方程.ppt

《§5.2科尔莫戈罗夫微分方程.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、§5.2科尔莫戈罗夫微分方程时间离散的马尔可夫链一步转移矩阵n步转移矩阵初始概率+一步转移概率有限维的概率分布时间连续的马尔可夫链来说，讨论像离散的马尔可夫链那样的n步转移概率是十分复杂的，因为时间是连续的，任意的一个时间段内都会存在无数步转移概率，所以我们需考虑在某个时间段内的状态转移概率，下面我们首先讨论转移概率pij(t)的可微性。故引理5.1设齐次马尔可夫过程满足正则条件，则对于任意固定的i,j∈I,pij(t)是关于t的一致连续函数。证明：设h>0,由连续时间齐次马尔可夫链的C-K方程(定理5.1)得因此得又对于h<0,同样有综

2、上所述有即pij(t)是关于t的一致连续函数证毕由正则条件及一致连续的定义知因此以下我们恒假设齐次马尔可夫过程满足正则条件定理5.3设pij(t)是齐次马尔可夫过程的转移概率，则下列极限存在。（1）由泰勒公式得带入①式得①②证明：由正则性知pij(t)在(0,∞)中都有有穷的连续导数p'ij(t),故可用泰勒公式求极限称qij为齐次马尔可夫过程从状态i到状态j的转移速率或跳跃强度。证明：由定理5.1，有由于上式中的求和是在有限集中进行的，去可与极限交换顺序即推论对有限齐次马尔可夫过程有即对于状态空间无限的齐次马尔可夫过程，一般只有若连续时

3、间的齐次马尔可夫链具有有限的状态空间，即I={0,1,2.....n}则其转移速率可构成如下形式的矩阵：转移速率矩阵特点:①每一行的元素之和为零。②对角线上的元素小于等于零。③非对角线上的元素大于等于零。在此我们想利用转移速率矩阵Q推出任意时间间隔t的转移概率所满足的方程组，从而可以求解出转移概率。由上节中的切普曼—科尔莫戈罗夫方程有上式可以等价于两边同时除以h后，令h趋于零时取极限，应用转移速率的定义得上式的左边是pij(t)的导数，现假设右边可交换极限和求和的顺序，就得到科尔莫戈罗夫向后方程，下面就证明极限和求和可以交换顺序。定理5.

4、4（科尔莫戈罗夫向后方程）则对一切i,j及t≥0有证明：我们只需证极限和求和可以交换顺序，现在对于任意固定的N,有因为上式对一切N成立，可见为求其上极限，注意对于N>i,由于pkj(t)≤1，所以假设上述不等式对一切N>i成立，令N趋向于∞，我们得到∴由上下极限定义知有上极限与下极限相等上式中pij(t)满足的微分方程称为科尔莫戈罗夫向后方程，我们之所以在这里称它为向后方程式因为在计算时刻t+h的状态概率分布的时候我们选取时刻h的状态取条件，即当我们选取时刻t的状态去条件，可以导出另外一组方程，称为科尔莫戈罗夫向前方程，即再此我们假设这里

5、的极限和求和的顺序能交换顺序，因此上式我们就可以化简为但是上式的极限和求和的交换不是恒成立的，所以上式并不是恒成立的式子，但是对于我们后面考虑的全部生灭过程和全部有限的状态模型都是成立的。定理5.5(科尔莫戈罗夫向前方程)在适当的正则条件下有利用向前方程（或者向后方程）和初始条件，可以解得pij(t)。费勒证明出了向前和向后方程求解出来的结果一样在实际的应用中，当固定最后的所处状态j时，研究pij(t)时，采用向后方程相对简单；当固定状态i，研究pij(t)时，采用向前方程相对容易。下面我们将向前方程和向后方程写成矩阵的形式，即上式中的Q

6、矩阵为而矩阵P'(t)的元素是矩阵P(t)的元素的导数，而这样上述的求转移概率矩阵问题就转移为矩阵微分方程的求解问题了，其转移概率由其转移速率矩阵Q决定，若Q是一个有限维矩阵，其解为定理5.6齐次马尔可夫过程在t时刻处于状态j∈I的绝对概率pj(t)满足下列方程：证明：由定理5.2，有将向前方程的两边同时乘以pi，并对i求和得故与离散的马尔可夫链类似，我们也讨论pij(t)当t趋于无穷时的极限分布于平稳分布的有关性质。定义5.4设pij(t)为连续时间马尔可夫链的转移概率，若存在时刻t1和t2，使得pij(t)>0,pji(t)>0则称状

7、态i与j是互通的。若所有状态都是互通的，则称此马尔可夫链为不可约的。下面我们来讨论齐次马尔可夫链的绝对概率应该满足怎样的方程。定理5.7设连续时间的马尔可夫链是不可约的，则有下列性质：（1）若它是正常返的，则极限存在且等于πj>0,j∈I.这里πj是方程组的唯一非负解。此时称{πj，j∈I}是该过程的平稳分布，并且有（2）若它是零常返的或非常返的，则对于连续时间的马尔可夫链状态的常返性，非常返性，零常返和正常返的概念和离散的马尔可夫链是类似的，我们可以参考上一章的定义得到。