互信息原理在日常生活中的体现与应用

《互信息原理在日常生活中的体现与应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、万方数据第26卷第l期哈尔滨师范大学自然科学学报V01．26，No．12010NATURALSCIENCESJOURNALOFHARBINNORMALUNⅣERSITY互信息原理在日常生活中的体现与应用水卫彦宏，杨星，孟庆颖《哈尔滨师范大学)【摘要】基于信息论，例举出了日常生活中的一些实例，体现出互信息原理在日常生活中的应用．关键词：信息论；互信息O引言信息论是关于信息的本质和传输规律的科学的理论，是研究信息的计量、发送、传递、交换、接收和储存的一门新兴学科．美国科学家香农于1948年发表的著名论文《通信的数学理论》，奠定了信息的理论基础．他把信息定义为用

2、来减少随机不确定性的东西．随着科学技术，特别是信息技术的迅猛发展，在当今信息时代中，“信息”这个词汇逐步被人们所接受，并得到越来越广泛的应用．作为信息时代的大学生，不仅要学好信息论相关课程的专业知识，而且更应该把其中的先进思想应用于生活实践中，丰富解决实际问题的方法论．笔者以现实生活中的实例，论述了自信息和互信息思想在日常生活中的应用．1基本概念随机事件气的自信息，(气)定义为事件筏发生概率p(茗；)的对数的负值．即：1如i)≈l。g高一1。gP(筏)·，(气)在事件气发生以前，表示屯的不确定性；当事件茹；发生以后，则表示茗；所含有的信息量．一一个事件儿所

3、给出的关于另一个事件石；的是信息定义为互信息，用，(毛；，，；)表示收稿日期：2009一12一18·哈尔滨师范大学大学生创新基金资助(20090“)，(石；；，，。)=，(茁；)一，(龙；I儿)=l。92{；÷孚．互信息的引出是信息的传递得到了定量的表示，是信息论发展的一个重要的里程碑．2实例应用下面通过生活实例体现互信息原理在实际生活中的应用．2．1利用互信息进行中文姓名识别姓名作为一种特殊名词，有其特有的语言环境，如经常与称谓词(“老师”、“经理”等)、人类特有的动词(“说”、“走”等)接续出现．因此，可以通过对真实文本进行统计分析，利用中文姓名的上下

4、文互信息；内部互信息，定量描述姓名和其上下文信息的关联程度以及姓名用字之间的关联程度，同时建立相应的评价函数和交叉姓名评价函数，并在识别算法中引入动态过滤阈值来识别文本中的中文姓名．2．2利用互信息实现音乐风格的分类通过乐曲旋律在特定风格下的互信息量来实现音乐乐曲的分类．一段音乐可以看作是由若干个旋律模式依次连接组成的，这段音乐的互信息量由两部分组成：音乐中的各旋律模式埘分别与特定风格厂的互信息量，以及在风格厂F各旋律模式埘之间的互信息量．旋律段在特定风格下的互信息量体现乐曲的风格特征，互信息量值越大，风万方数据60哈尔滨师范大学自然科学学报2010年格特

5、征越显著．2．3天平称量中的互信息思想现有12枚金币，大小、形状、色泽全都相同，但其中混有一枚假币，假币与真币的质量不同．要求利用没有砝码的天平用尽可能少的步骤找出这枚假币．运用互信息的思想3步便可找出这枚假币．具体过程如下：先把12枚金币分为A，B，C3组，每组4枚，每组金币编号1—4．(若用6枚金币和6枚金币称量，那么天平必然不平衡，称量后得到的信息量为零．)第1次：拿A组和B组称．会出现2种情况：(1)天平平衡．此时可排除这2组，目标金币定在C组的4枚金币中．第2次，随意拿C组中的2枚金币(下文称其为l号和2号’．此时又有2种情况：①天平平衡．说明目

6、标金币只能是3号或4号．第3次，拿2号金币与3号金币称．如果平衡说明量盘，3号金币等重，即4号金币是目标金币．如果不平衡，说明3号金币是目标金币．②天平不平衡．说明目标金币是1号或2号．第3次，拿2号金币与3号金币称．如果平衡说明2，3号金币等重，即1号金币是目标金币．如果不平衡，说明2号金币是目标金币．(2)天平不平衡．此现象说明目标金币在A，B组的8枚金币中．第2次，因为是不平衡，所以肯定有一边低，一边高．不妨假设A组低，召组高(A组高，B组低道理相同)．那么若目标金币在A组中，则目标金币为重金币；若目标金币在B组中，则其为轻金币．取A组的1，2号和B

7、组的l号放置于天平一端；另一端放置A组3，4号和B组的2号．此时又会有2种情况：①天平平衡．说明天平上的6枚金币等重，那么目标金币只能是B组的3号或4号．第3次，拿召组3，4号称．联系上文提供的信息：若目标金币在B组，那么它一定是轻金币，所以3，4号谁轻谁就是目标金币．②天平不平衡，说明目标金币在天平上再联系前文提到的：(若目标金币在A组中，则目标金币为重金币；若目标金币在B组中，则其为轻金币)，那么只有在此次称量中重的那边的A组2枚金币和轻的那边的B组l枚金币才可能是目标金币．第3次，拿可能是目标金币的那2枚A组金币称．如果平衡，那么轻的那边的那枚B组金

8、币就是目标金币．如果不平衡，重的那枚就是目标金币．此例中一再运用互