信息论与编码技术之实验.doc

《信息论与编码技术之实验.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、前两个是别人的，后两个是自己的，学术交流，抛砖引玉。信息论与编码实验报告样板实验室名称：S1-306实验一　二维随机变量信息熵的计算教学实验报告[实验目的]掌握二变量多种信息量的计算方法。[实验要求]1．熟悉二变量多种信息量的计算方法，设计实验的数据结构和算法；2．编写计算二维随机变量信息量的书面程序代码。[实验内容]离散二维随机变换熵的计算说明：（1）利用random函数和归一化方法构造一个二维离散随机变量（X，Y）；（2）分别计算X与Y的熵、联合熵、条件熵：H（X）、H（Y）、H（X,Y）H（X

2、Y）、I（X

3、

4、Y）；（3）对测试通过的程序进行规范和优化；（4）编写本次实验的实验报告。[实验步骤]实验过程中涉及的各种熵的主要公式（或定义式）：1、离散信源熵(平均不确定度/平均信息量/平均自信息量)2、在给定某个yj条件下，xi的条件自信息量为I(xi/yj)，X集合的条件熵H（X/yj）为相应地，在给定X（即各个xi）的条件下，Y集合的条件熵H(Y/X)定义为:3、联合熵是联合符号集合XY上的每个元素对xiyj的自信息量的概率加权统计平均值，表示X和Y同时发生的不确定度。[实验体会]通过本次实验，掌握了离散信源熵、条件熵、

5、联合熵的概念和它们与信源统计分布或条件分布、联合分布之间的关系，并能进行计算。进一步加深了对各种信息熵的物理意义的理解。附：计算信源熵、联合熵和条件熵的程序代码清单：（可写入实验报告也可不写入）#include#include#include#include#includeusingnamespacestd;voidmain(){intk,n,t=0;doublea[4][4],b=0,c=0;srand((unsigned)ti

6、me(NULL));for(k=0;k<4;k++){for(n=0;n<4;n++){a[k][n]=rand()%100;t+=a[k][n];}}cout<<"从0到100间随机取得行列的random函数："<

7、n]/t;}cout<

8、ut<<"H(Y)=-∑p(Y)logp(Y)="<

9、Y)logp(X,Y)="<

10、Y）计算："<

11、}}}if(h==0){cout<<"H(X

12、Y)=-∑∑P(X,Y)log(P(X,Y)/P(Y))="<

13、Y）计算："<

14、Y）=H(X)-H(X

15、Y)="<