《信息论与编码课程设计报告统计信源熵与香农编码.docx》由会员分享，可在线阅读，更多相关《信息论与编码课程设计报告统计信源熵与香农编码.docx（5页珍藏版）》请在三一文库上搜索。
1、信息论与编码课程设计报告统计信源熵与香农编码12020 年 4 月 19 日文档仅供参考，不当之处，请联系改正。信息论与编码课程设计报告设计题目：统计信源熵与香农编码专业班级电 信 12-06学号学生姓名指导教师教师评分3 月 30 日02020 年 4 月 19 日文档仅供参考，不当之处，请联系改正。目 录一、设计任务与要求2二、设计思路2三、设计流程图3四、程序运行及结果4五、心得体会6参考文献7附录：源程序8- 0 -2020 年 4 月 19 日文档仅供参考，不当之处，请联系改正。一、设计任务与要求1.统计信源熵要求：统计任意文本文件中各字符（不区分大小写）数量，计算字符概率，并计算信
2、源熵。2.香农编码要求：任意输入消息概率，利用香农编码方法进行编码，并计算信源熵和编码效率。二、设计思路本次课程设计中主要运用C 语言编程以实现任务要求，分析所需要的统计量以及相关变量，依据具体公式和计算步骤编写语句，组成完整C 程序。1、信源熵定义：信源各个离散消息的自信息量的数学期望为信源的平均信息量，一般称为信源的信息熵，也叫信源熵或香农熵，有时称为无条件熵或熵函数，简称熵，记为H（）。计算公式：H ( x)-p( xi ) log p(xi )i2、香农编码过程：（ 1）将信源消息符号按其出现的概率大小依次排列为p1p2pn（ 2）确定满足下列不等式的整数码长Ki 为lb ( pi )Kilb ( pi )1- 1 -2020 年 4 月 19 日文档仅供参考，不当之处，请联系改正。（ 3）为了编成唯一可译码，计算第i 个消息的累加概率i1Pip( ak )k 1（ 4）将累计概率 Pi 变换成二进制数。（ 5）取 Pi 二进制数的小数点后K i 位即为该消息符号的二进制码字。三、设计流程图1、 统计信源熵开始读取给定文件判断文件是否打开而且不为空否是统计文本字符，直关闭文件至文本字符读完。统计同一字符 (不分大小写 )出现的次数- 2 -2020 年 4 月 19 日