信息论与编码课程设计报告统计信源熵与香农编码.docx

《信息论与编码课程设计报告统计信源熵与香农编码.docx》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、信息论与编码课程设计报告统计信源熵与香农编码12020年4月19日文档仅供参考，不当之处，请联系改正。信息论与编码课程设计报告设计题目：统计信源熵与香农编码专业班级电信12-06学号学生姓名指导教师教师评分3月30日02020年4月19日文档仅供参考，不当之处，请联系改正。目录一、设计任务与要求2二、设计思路2三、设计流程图3四、程序运行及结果4五、心得体会6参考文献7附录：源程序8-0-2020年4月19日文档仅供参考，不当之处，请联系改正。一、设计任务与要求1.统计信源熵要求：统计任意文本文件中各字符（不区分大小写）数量，计算字符概率，并计算信源熵。2.香农编码要求：任意输入

2、消息概率，利用香农编码方法进行编码，并计算信源熵和编码效率。二、设计思路本次课程设计中主要运用C语言编程以实现任务要求，分析所需要的统计量以及相关变量，依据具体公式和计算步骤编写语句，组成完整C程序。1、信源熵定义：信源各个离散消息的自信息量的数学期望为信源的平均信息量，一般称为信源的信息熵，也叫信源熵或香农熵，有时称为无条件熵或熵函数，简称熵，记为H（）。计算公式：H(x)-p(xi)logp(xi)i2、香农编码过程：（1）将信源消息符号按其出现的概率大小依次排列为p1p2pn（2）确定满足下列不等式的整数码长Ki为lb(pi)Kilb(pi)1-1-2020年4

3、月19日文档仅供参考，不当之处，请联系改正。（3）为了编成唯一可译码，计算第i个消息的累加概率i1Pip(ak)k1（4）将累计概率Pi变换成二进制数。（5）取Pi二进制数的小数点后Ki位即为该消息符号的二进制码字。三、设计流程图1、统计信源熵开始读取给定文件判断文件是否打开而且不为空否是统计文本字符，直关闭文件至文本字符读完。统计同一字符(不分大小写)出现的次数-2-2020年4月19日