马尔科夫链模型.ppt

《马尔科夫链模型.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、马尔可夫链模型马氏链模型系统在每个时期所处的状态是随机的从一时期到下时期的状态按一定概率转移下时期状态只取决于本时期状态和转移概率已知现在，将来与过去无关（无后效性）描述一类重要的随机动态系统（过程）的模型马氏链(MarkovChain)——时间、状态均为离散的随机转移过程通过有实际背景的例子介绍马氏链的基本概念和性质例1.人的健康状况分为健康和疾病两种状态，设对特定年龄段的人，今年健康、明年保持健康状态的概率为0.8,而今年患病、明年转为健康状态的概率为0.7，1健康与疾病人的健康状态随着时间的推移会随机地发生转变保险公司要对投保人未来的健康状态作出估计,以制订保险金和

2、理赔金的数额若某人投保时健康,问10年后他仍处于健康状态的概率Xn+1只取决于Xn和pij,与Xn-1,…无关状态与状态转移状态转移具有无后效性120.80.20.30.7n0a2(n)0a1(n)1设投保时健康给定a(0),预测a(n),n=1,2…设投保时疾病a2(n)1a1(n)0n时状态概率趋于稳定值，稳定值与初始状态无关3…0.778…0.222…∞7/92/90.70.770.777…0.30.330.333…7/92/9状态与状态转移120.80.20.30.710.80.220.780.221230.10.0210.80.250.180.65例2.健康

3、和疾病状态同上，Xn=1~健康,Xn=2~疾病p11=0.8,p12=0.18,p13=0.02死亡为第3种状态，记Xn=3健康与疾病p21=0.65,p22=0.25,p23=0.1p31=0,p32=0,p33=1n0123a2(n)00.180.1890.1835a3(n)00.020.0540.0880a1(n)10.80.7570.7285设投保时处于健康状态，预测a(n),n=1,2…不论初始状态如何，最终都要转到状态3；一旦a1(k)=a2(k)=0,a3(k)=1,则对于n>k,a1(n)=0，a2(n)=0,a3(n)=1,即从状态3不会转移到其

4、它状态。状态与状态转移001500.12930.03260.8381马氏链的基本方程基本方程马氏链的两个重要类型1.正则链~从任一状态出发经有限次转移能以正概率到达另外任一状态（如例1）。w~稳态概率马氏链的两个重要类型2.吸收链~存在吸收状态（一旦到达就不会离开的状态i,pii=1）,且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态（如例2）。有r个吸收状态的吸收链的转移概率阵标准形式R有非零元素yi~从第i个非吸收状态出发，被某个吸收状态吸收前的平均转移次数。Discussions2钢琴销售的存贮策略钢琴销售量很小，商店的库存量不大以免积压资金一家商

5、店根据经验估计，平均每周的钢琴需求为1架存贮策略：每周末检查库存量，仅当库存量为零时，才订购3架供下周销售；否则，不订购。估计在这种策略下失去销售机会的可能性有多大，以及每周的平均销售量是多少。背景与问题问题分析顾客的到来相互独立，需求量近似服从波松分布，其参数由需求均值为每周1架确定，由此计算需求概率存贮策略是周末库存量为零时订购3架周末的库存量可能是0,1,2,3，周初的库存量可能是1,2,3。用马氏链描述不同需求导致的周初库存状态的变化。动态过程中每周销售量不同，失去销售机会（需求超过库存）的概率不同。可按稳态情况（时间充分长以后）计算失去销售机会的概率和每周的平

6、均销售量。模型假设钢琴每周需求量服从波松分布，均值为每周1架存贮策略：当周末库存量为零时，订购3架，周初到货；否则，不订购。以每周初的库存量作为状态变量，状态转移具有无后效性。在稳态情况下计算该存贮策略失去销售机会的概率，和每周的平均销售量。模型建立Dn~第n周需求量，均值为1的波松分布Sn~第n周初库存量(状态变量)状态转移规律Dn0123>3P0.3680.3680.1840.0610.019状态转移阵……模型建立状态概率马氏链的基本方程正则链稳态概率分布w满足wP=w已知初始状态，可预测第n周初库存量Sn=i的概率n,状态概率第n周失去销售机会的概率n充分大时模

7、型求解从长期看，失去销售机会的可能性大约10%。1.估计在这种策略下失去销售机会的可能性D0123>3P0.3680.3680.1840.0610.019模型求解第n周平均售量从长期看，每周的平均销售量为0.857(架)n充分大时需求不超过存量,销售需求需求超过存量,销售存量思考：为什么这个数值略小于每周平均需求量1(架)?2.估计这种策略下每周的平均销售量敏感性分析当平均需求在每周1(架)附近波动时，最终结果有多大变化。设Dn服从均值为的波松分布状态转移阵0.80.91.01.11.2P0.0730.0890.1050.