信息度量的故事

《信息度量的故事》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、摘自《少年百科知识文库》中“年轻的信息科学”片段今天约好由叔叔向小伙伴们介绍信息科学的基础知识！“叔叔，您刚才讲到的这么多内界，我觉得似乎都是有关信息本质的定性化的内容，那么，信息是否有定量化方而的性质呢？”“有的，最常见的就是我们对信息的度S。信息像其它事物一样，是有其数S大小的。我们通常是用尺来度量物体的长度，以‘米’作单位：用秤来度量物质的重量，以‘千克’作单位；用温度计來度量物体的温度，通常以‘摄氏度’作单位，等等。”“那么，怎样來度量信息的大小呢？它以什么作单位呢？由于长期以來，人们对信息的认识是模糊的，虽然历史上人们曾经设法度:k信息，但是方法很不科学。只是

2、经过儿千年的漫氏历程以后，到了20世纪20年代，才找了度量信息的科学方法。遗憾的是，这种科学方法，现在还有许多人不知道，他们还是沿用过去的老办法来度量信息。因此，在我们谈度量信息这一W题时，有必要先谈谈过去度量信息的老办法，它力什么不科学，然后再谈度量信息的科学方法。”“叔叔，过去量度信息用的是什么方法呢？”细敏急不可待地问道。“为了说明这个问题，我先给你们讲个故事。”叔叔看到小伙伴如此感兴趣，情不自禁地笑了。他接着说：“传说，在我国春秋战国时期，魏王命令大臣庞葱到赵国的首都邯郸去办一件事情。临行前，庞葱对魏玉说；如果忽然有人向大王报告说，城里大街上有一只老虎，大王相信

3、吗？魏玉说：不相信。庞葱说：再有一个人又来报告，城里大街上发现了老虎，大王相信吗？魏王说：我还是不人相信。庞葱说：第三个人乂来报告说，老虎正在城里大街上奔跑，大王相信吗？魏王说：那我就相信了。庇葱说：很清楚，街上没有老虎，三个人说有老虎，大王就相信了。邯郸离这里比大街离王宮远得多，而在大王面前说我闲话的恐怕不止三个人，大王可要好好考虑考虑啊……”“从这个故事来看，魏王是用消息的多少来度量信息的。一个人说谎，他不信。三个人说谎，他就信了。把消息混同为信息，用消息的多少来衡信息的多少，这就是人们儿千年来度量信息的古老方法。”“人们往往以为，收到的消息数量越多，获得的信息就越

4、多。其实，这是很不科学的。因为信息不等于消息。信息只是消息中所包含的内荇，消息只是信息的形式，这两者是有区别的。有客观内容的消息包含着信息，没有客观内容的消息并不包含信息。你得到的消息全是谎言、废话，或者是你已经知道的东西，那还有什么信息呢？相反，你只得到一条简短的消息，但其中包含许多客观内容，都是你以前所没有听到过的，那你就获得了比较多的信息。所以，川收到的消息的多少来衡量获得的信息的多少，是没有办法量度出信息的多少的。”“然而，千百年來，很少有人明白这个道理。人们习惯于用收到的消息的多少来衡量信息。这一方而是由于科学的发展还没有达到今天的地步，另一方而也巾于信息包含

5、在消息里,它们难解难分，何况在许多情况下，的确是消息的数量多，则它所包含的信息也多。”“当然，过去的人也不是一点不懂消息的多少并不等于信息的多少的道理。连古人也知道谎言传的人再多也不会变成真理。例如，刚才说到的庞葱就讲出了信息不等于消息的看法。可见，早在2000年前，我国就有人认识到不能用消息的多少来量度信息。”“到了20世紀20年代，人们对这个问题才开始有了深刻的认识。到了40年代，信息论的奠基人、美国数学家香农又详细讨论了信息的M度问题。从此，人们从技术上找到了S:度信息的一些科学方法。”“按照他们的观点，人们在没有获得任何信息之前，信源对收集者一定存在着某种不确定

6、性。也就是说，信息从信源发出，但在收信者没接收到信息之前，对信源存在着一定量的不确定性。所谓不确定，就是收集者对信源的认识不肯定、不知道。你对某件事物知道得越少，则存在的不确定性就越大，而你得到的信息假如能使不确定性消除得越多，你所获得的信息量就越多。”“例如，在一次英语考试之后发布成绩通知，如果通知说，某位平时英语很好的同学的成绩是优，同学们不会有太大的反应，因为这是他们意料之屮的事，这个通知使他们获得的信息y:不人。如果通知说，该同学的成绩是中，同学们就会感到有些反常，这个通知给他们提供的信息就比前一种情况所提供的信息量要大。假如通知说，该同学的成绩是不及格，那一定

7、会轰动全班，使大家感到惊讶。因力这是他们意想不到的事。这个通知给他们提供的信息量就更大了。这个例子说明，某一事物状态出现的可能性越小，它的不确定性就越大，报道这一事物状态出现的消息所提供的信息it就越大。如果某一消息报道的闪容是人人皆知、司空见惯的，或者是事先已经预料必然要发生的事，那么这个事物就是确定的。它的不确定性等于零，因此，这种消息的信息量也等于零。”丁大力为了巩固自己刚学到的概念，迫不及待地说：“叔叔，根据您刚冰讲到的，我的体会是，信息量的多少，是按照信息所消除的不确定性的大小来进行量度的。消除不确定性多，就是信息量大，反过来说