资源描述：
《信息熵在对未来信息的预测应用综述.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、信息爛在对未来信息的预测应用综述一、引言：预测未来信息的准确性无疑是当今社会人类最为关注的焦点之一，无论是在以市场经济为主体的经济时代对市场的预测，在证券市场对未来股市走势的预测以及在供应链市场对其上下游销售和库存等的预计，信息的是否准确都关系到对应行业的兴衰成败，因此，采用何种方式收集和把握相对准确的信息是一个企业是否能够发展一个社会能够进步的关键。未来的信息是不确定的，我们可以通过经验预测其走势。然而这种预测的准确性是否有保证，是否达到了一定范围内的置信度。对此，信息爛的引入为这类问题的解决提供了一条
2、途径，将预测信息的概率化，预期结果的定量化，为预测信息的相对可靠性提供了探障。二、信息爛的基本理论（一）爛的相关概念爛是一个状态函数，系统的状态一旦确定，其爛值就保持不变。也就是说，，其改变量的大小仅与研究对象的起始和终止状态有关，，而与其经历的途径无关。爛作为描述复杂系统结构的物理量，在复杂系统理论中受到越来越多的关注，成为研究复杂系统的一个重要丁•具［，］o爛概念内涵丰富，源远流长，在不同领域都得到深化和泛化，仅定义就有儿十种，但一般说來，基本上就分为物理爛和信息爛〔0。（二）信息和信息爛的引入信息作
3、为科学的概念，有它自身的特殊性，有着确切的含义，并可定量度量。爛最初作为热力学中的一个十分重要的态函数有着确切的物理意义。现如今，它的应用已远远超出这一范畴，广泛运用到信息论、控制论等其它领域中。由此而岀现了信息爛。熬红(2001)认为，信息爛并没有脱离物理爛而单独存在，它和物理爛可用一统一表达式来表示，它们具有一定联系⑺。1929年，匈牙利科学家L.Szilard提出了爛与信息不确定性的关系，进一步拓宽了爛的内涵。1948年，贝尔实验室的C.Shannon创立了信息论，他把通讯过程屮信源讯号的平均信息量
4、称为爛，从而使得爛概念的应用领域乂获得了新的扩展，这就是这里所说的信息爛。信息嫡是一个数学上颇为抽象的概念，在这里把信息炳理解成某种特定信息的出现概率(离散随机事件的出现概率)。一个系统越是有序，信息嫡就越低；反Z,—个系统越是混乱，信息爛就越高。信息爛也可以说是系统有序化程度的一个度量。热力学爛和信息爛都可以作为描述系统紊乱程度的测度，但一个物理系统的热力学爛是它的无组织程度的度量，是系统无序状态的描述，是状态无序性的表现。而信息爛表征物理系统运动状态的不确定性(无序性)通过通信收到消息后，这种不确定性
5、的减少就获得信息，因此，如果信源的状态是完全确定的(完全有秩序)，那么信息爛就等于零。有秩序的信源其炳小，无秩序的信源其爛大,所以信息爛也是紊乱程度的一种度量。信息爛也是动态的，如当消息通过系统传输到收信者后，信源的爛耍改变〔I。信息爛H(X)是随机变量X的概率分布函数，所以乂称爛函数。如果概率分布p(xi),i=1,2,q,贝！］信息爛函数又可以写成p=(pl,p2,pq)的函数形式，记为H(P)。H=-工pjlog?P乍H(P,P2，・・.,Pq)=i=lq因为概率空间的完备性，即£"心1所以H(p
6、)是(q・l)元函数，当q=2时,/=!因为pl+p2=l,若令其屮一个概率为p,贝忧一个概率为(l・p)⑸。(%1)信息爛的计算根据CharlesH.Bennett对Maxwell'sDemon的解释，对信息的销毁是一个不可逆过程，所以销毁信息是符合热力学第二定律的。而产生信息，则是为系统引入负(热力学)爛的过程。所以信息爛的符号与热力学爛应该是相反的。一般而言，肖一•种信息出现概率更高的吋候，表明它被传播得更广泛，或者说，被引用的程度更高。我们可以认为，从信息传播的角度来看，信息爛可以表示信息的价值。
7、这样我们就有一个衡量信息价值高低的标准，可以做出关于知识流通问题的更多推论。信源的平均不定度。在信息论中信源输出是随机量，因而其不定度可以用概率分布来度量。记H(X)=H(P1,P2,…，Pn)=P(xi)logP(xi),这里P(xi),i=l,2,n为信源取第i个符号的概率。P(xi)=l,H(X)称为信源的信息爛。爛的概念来源于热力学。在热力学中爛的定义是系统可能状态数的对数值，称为热爛。它是用来表达分子状态杂乱程度的一个物理量。热力学指出，对任何已知孤立的物理系统的演化，热爛只能增加，不能减少。然
8、而这里的信息爛则相反，它只能减少，不能增加。所以热爛和信息炳互为负量。且已证明，任何系统耍获得信息必须耍增加热炳来补偿，即两者在数量上是有联系的。可以从数学上加以证明，只耍H(X)满足下列三个条件：%1连续性：H(P,1-P)是P的连续函B(O0,且QI,Q2>0,则有H(P1,Pn-1,Q1,Q2)=H(P1,…,Pn-l
