《信息论与编码课程设计.docx》由会员分享，可在线阅读，更多相关《信息论与编码课程设计.docx（21页珍藏版）》请在三一文库上搜索。
1、河南理工大学课程设计报告书电气工程与自动化学院School of Electrical Engineering and Automation信息论与编码课程设计报告设计题目：统计信源,靖、香农编码与费诺编码专业班级：XXXXXXXXXXXX 姓 名：姓XXXXXXXXXX 学 号：XXXXXXXXXXXX 指导老师：XXXXXXXXXXXX 成 绩：时间：2015年3月31日河南理工大学课程设计报告书一、设计任务与要求2二、设计思路2三、设计流程图5四、程序及结果7五、心得体会11六、参考文献12附录131河南理工大学课程设计报告书一、设计任务与要求1 .统计信源靖要求：统计任意文本文件中各字
2、符（不区分大小写）数量，计算 字符概率，并计算信源燃。2 .杳农编码要求：任意输入消息概率，利用香农编码方法进行编码，并计算 信源炳和编码效率。3 .费诺编码要求：任意输入消息概率，利用费诺编码方法进行编码，并计算 信源炳和编码效率。二、设计思路1、统计信源靖：统计信源炳就是对一篇英文文章中的i种字符（包括标点符 号及空格，英文字母不区分大小写）统计其出现的次数 然后计算其出现的概率p（i）,最后由信源炳计算公式：（幻=一.（%）1。8（玉）fl-1算出信源靖”（幻。所以整体步骤就是先统计出文章中总的字符 数，然后统计每种字符的数目，直到算出所有种类的字符的个数, 进而算出每种字符的概率，再由
3、信源嫡计算公式计算出信源燃。 在这里我选择用Mat lab来计算信源靖，因为Mat lab中系统自带 了许多文件操作和字符串操作函数，其计算功能强大，所以计算7河南理工大学课程设计报告书信源炳很是简单。2、香农编码信源编码模型: 信源编码就是从信源符号到码符号的一种映射/,它把信源输出 的符号变换成码元序列/： q 山=1，2，/S : se a,.“4信源信源编码器Xi =%，4,/；码元5i = 1,2,qX:xexxr）码符号N次扩展信源无失真编码器凡是能载荷一定的信息量，且码字的平均长度最短，可分离 的变长码的码字集合都可以称为最佳码。为此必须将概率大的信 息符号编以短的码字，概率小的
4、符号编以长的码字，使得平均码字长度最短。能获得最佳码的编码方法主要有：香农(Shannon)、费诺(Fano)、哈夫曼(Huffman)编码等。香农第一定理: 离散无记忆信源为（防）p（s2）炳”，其N次扩展为s _ Ctx a2 % P J (/)()(%)_炳为H(S”，码符号集为X=&,，,毛)。先对信源SN进行编码，总可以找到一种编码方法，构成唯一可译码，使S中每个信源符号 所需的平均码长满足 1 工 H(S)logr N N log r且当n - 8时有1而与=芈d= ,(s)工是平均码长Z = p(6)4 ,N logr,-4是对应的码字长度。香农编码方法：(1)将信源消息符号按其
5、出现的概率大小依次排列：回之2之.也(2)确定满足下列不等式整数码长K,为一方 M)WK,KTZ?(Pj) + l(3)为了编成唯一可译码，计算第i个消息的累加概率为女】(4)将累加概率变成二进制数。(5)取二进制数小数点后K,位即为该消息符号的二进制码字。3、费诺编码方法(1)将信源消息符号按其出现的概率大小依次排列：外 % (2)将依次排列的信源符号按概率值分为两大组，使两个组的 概率之和近似相同，并对各组赋予一个二进制码元“0”和“1 ”。(3)将每一大组的信源符号再分为两组，使划分后的两个组的概率之和近似相同，并对各组赋予一个二进制符号“0”和“ 1(4)如此重复，直至每个组只剩下一个
6、信源符号为止。(5)信源符号所对应的码字即为费诺码。三、设计流程图1、统计信源炳用Mat lab读入一段转*计算这段文字的字符总数unm 统计每种字符的个数n(i)算出每种字符的概率p(i) 由信源靖计算公式，(X)= -2 (%)log (七)计算出信源 嫡;r-l2、香农编码开始)1 T/森入概率矩陟/将概率由大到小排列计算累加概率和概率的个数根据公式调用函数计算码长河南理工大学课程设计报告书用循环程序编码并调整输出格式计算信源炳和编码效率输出信源埼、编码效率和码字3、费诺编码开始）/介入概率矩陟/将概率由大到小排列计算累加概率和概率的个数在两组概率之和近似相等的条件下将概率分为两组，各赋
7、予0, 1两个码元将每一大组的的概率重复上一步操作，直到每组只剩一个概率四、程序及结果1、统计信源靖的Mat lab程序function h=entropy(p)cicf id=fopen(t shuju. txt, r) ;%打开 txt 文件ex,num=fscanf(fid, ,%c, inf)*读取二进制文件的数据，并将数据存入矩阵str1 = lower(ex)%将字符串中的大写字母转换成小写字母sort_strksort(strl);%按照字符的ASCI I值对字符中排序j=1;for i=1 ： Iength(sort_str 1)-1#th 字符串的种类if st romp (
8、sort.strl (i), sort_str1 (i+1) 二居比较两个字符串是？ 、相等，相等是 1, 否则0j=j+1;str2(j)=sort_str1 (i);endstr2(j+1)=sort_str1 (i+1);endfor i = 1: Iength(str2) % length函数获取字符串长度str_num =strf ind (sort_str1, str2 )；%strf ind (S1, S2):寻找 S2 是否匹配 S1,并返回 S2 的位置count1(i) = length(str_num);endstr2count=count 1 (3:end)p二coun
9、t, /sum(count)sum (-p. * I og2 (p)算信源熄7河南理工大学课程设计报告书待读取的英文:The Pressure of Graduate StudentsNow I am a post graduate student, I wiI I graduate next year, so I start to find jobs recently, I feel so much pressure, though I have good education, I still get rejection from the companies. The pressure of
10、 graduate students are so heavy, the competition is so fierce that many students can, t get the ideal jobs. They should ad just their strategies.The pressure of graduate students i s so heavy. On the one hand, they don t have exper i ence, so they don* t know how to get the job interview and miss ma
11、ny chances. On the other hand, there are more and more students have high education, some have received higher education, some have studies abroad which make their resumes stand out. Those average students don t have advantages over the above mentioned ones.Average students need to make their resume
12、s special ly, so they can have the chance. They can describe their character i st ic to fit the job, the employers wi I I see this and give you the chance. Students can also make their internship experience stand out, because the employers pay special attention to it.The job pressure is heavy for ev
13、ery graduate student, if the students take the wise strategy, they can have more chances to get the job.程序运行结果:总共出现的字符种类：,.abcdefghi jkImnoprstuvwxy每种字符对应出现的次数：206 1611020655355801133620每种字符出现的概率：0, 1672 0.02680.03410. 13070.00650.00410.01300.04460.06490.09171611781033420.01300. 00810.01700. 0292162
14、00. 0089 0.01620. 04710.0162214580. 06330. 05280.05190. 006564160. 00810. 04300.01300. 00240.01620.0032 信源烯：H（x）=4. 12502、香农编码程序function c=shannon(p)% p=0. 25 0. 25 0. 20 0. 15 0. 10 0. 05;% shannon(p);p, index=sort (p);p=f I ipl r (p) ;%从大到小n=length(p);pa=0;$累加概率for i=2：n#河南理工大学课程设计报告书3、费诺编码程序主程序fu
15、nction c=fano1 (p)% p=0. 25 0. 25 0. 20 0. 15 0. 10 0. 05% c=fano1(p)n=size(p, 2);if n=1c=cell(1,1);c二；returnendp, index二sort (p);5按概率排序p=f I i p I r (p);tota I =sum (p) ; %总机率acc=0;%累积概率flag=0;%是否到达尾部的标志for i=1：n-1newacc=acc+p(i);if abs(total-2 * newacc)=abs(totaI - 2*acc) flag=1;break；endacc=newac
16、c;endif flagi=n;endspl it=i从分界点对两边的码递归做fanoc1=fano1(p(1:split-1);c2=fano1(p(split：n)；c=ce I I (1, n)；舟添加前缀0, 1for i=1:split-1ci)=strcat ( O t d (il);endfor i = split:nci=strcat (1 1 c2i-spl it+1);end先将顺序调整回去c=f I i p I r (c);c(index)=c;河南理工大学课程设计报告书子程序function =fano2(c, p)for i=1: length(c)%求平均码长cou
17、nt (i) = length(ceI 12mat(c (i);endfpr intf (,信源信息炳：n)；H=sum (-p. *log2 (p)#信源烦fpr intf (平均码长：n)K=sum (count.*p) 与计算平均码长fprintf(.编码效率：n)w=H./K%计算编码效率fprintf (码字：n) c程序运行结果：p=0, 25 0. 25 0. 20 0. 15 0. 10 0. 05c=fano1 (p)fano2 (c, p)p =0. 25000. 25000. 20000. 15000. 10000. 0500c =00011011011101111信源信
18、息场:H = 2. 4232平均码长：K = 2. 4500编码效率：W = 0. 9891码字：C = 00011011011101111五、心得体会做这次课程设计前前后后花了三天时间，之前并没有用心 想，只是看了看网上的资料，看人家都是用什么方法解决的。我 看的有用C (包括C+和C#)语言的，有用Matlab的，还有用 别的什么软件的。由于我对Matlab编程还比较熟悉一点，最后 我还是选择用Matlab来做。一开始编程，我甚至连一些常用的 Mat lab函数都忘了，没什么想法后我在网上看了一些人用#河南理工大学课程设计报告书Mat lab编的程序，拿来仔细研究后也慢慢着编出了自己的程序
19、。 在编程过程中，遇到了各种问题问题，有时由于一个小问题不通, 我要反复琢磨半天，最后发现是在一个小地方上出错了，真是备 受煎熬，但这也是编程的乐趣所在，在这个过程中自己也学到了 许多编程知识和技巧。在编程过程中，我体会到了 Matlab功能的强大，我需要好 好学习一下，这对我以后在信号处理与仿真计算上有很大帮助。通过这次课程设计，我对信息论与编码技术中的一些基础知 识，如信源端、通信系统模型、信道与信源编码等知识又重新学 习了一下，感觉虽是学过的知识，但隔一段时间不看合上书自己 竟然什么也想不起来。学过的知识，觉得自己早就已经理解了的， 在实际用来解决问题时又是无从下手，需多看人家的例子，在
20、此 基础上才能用来解决自己的问题。我之所以自己一组，是想真学 到点东西，这过程中很累人，但这是因为自己当初没有提早准备, 还有就是自己知识也学的不扎实造成的，于是感悟到做什么事情 都要有计划地提早准备，不然会坐失良机，最后只能悔不当初。 六、参考文献1曹雪虹，张宗橙.信息论与编码（第二版）.北京：清华大学 出版社,2009. 22王薇,姚鑫锋.从零开始学MATLAB ,北京：电子工业出版社，2012.9附录1、统计信源炳的Mat lab程序function h=entropy(p) cicf id=fopen(* shuju. txtJr);先 打开 txt 文件ex, num =f scan
21、t (fid,inf)%读取二进制文件的数据,并将数据存入矩阵st r仁I ower (ex)字符串中的大写字母转换成小写字母sort_str1=sort(str1);%按照字符的ASCII值对字符串排序 j=1;for i=1: length(sort_str1)T%计算出字符串的种类if strcmp(sort_str1 (i), sort_str1 (i+1)=1%比较两个字符串是:：是 1,否则0j=j+1;str2(j)=sort_str1 (i); endstr2(j+1)=sort_str1 (i+1);endfor i = 1: Iength(str2)有length函数获取字
22、符串长度str_num =strf ind(sort_str 1, str2(i) ;%strf ind (S1, S2):寻找 S2 是否匹配 S1 ,并返回 S2 的位置count1(i) = length(str_num); endstr2count=count 1 (3:end) p二count, /sum(count) sum (-p. *log2 (p) 算信源焰2、香农编码程序function c=shannon(p)% p=0. 25 0. 25 0. 20 0.15 0. 10 0. 05；% shannon(p);p, index=sort (p);p=f I iplr (
23、p) ;%从大到小 n=length(p);pa=0;与累加极奉for i=2：npa(i)=pa(i-1)+p(i-1);endk=ce i I (-I og2 (p); %码长计算c=cel I (1,n) ；先生成元胞数组，存码字，是cell,跟上一行不一样 for i=1：nci= 11;tmp=pa(i);for j=1 :k(i)tmp=tmp * 2;if tmp=1tmp=tmp - 1;c(i) (j)= ,r；elsec (j)二 W;endendend%p%pa先交换回原来的顺序c=f I i p I r (c);c(index)=c;fpr intf (,信源信息炳：n
24、);H=sum(-p. *log2 (p)%H 算信源烦fprintf (平均码长：n)；K=sum(p.*k)*计算平均码长fprintf (编码效率：rf );w=H. /K%计算编码效率fpr intf (码字：n);shannon(p);信源信息端：H = 2. 42324、费诺编码程序主程序function c=fano1 (p)% p=0. 25 0. 25 0. 20 0. 15 0. 10 0. 05% c=fano1(p)n=size(p, 2);if n=1c=cell(1,1);c :一；returnendp, index二sort (p);5按戕率排序p=f I i p
25、 I r (p);total =sum (p)总概率acc=0小累积概率flag=0;*是否到达尾部的标志for i=1：n-1newacc=acc+p(i);if abs(total-2 * newacc)=abs(totaI - 2*acc)flag=1;break;endacc=newacc;endif flagi=n；endspl it=i从分界点对两边的码递归做fanoc1=fano1 (p(1 ：spl i t-1);c2=fano1(p(split：n);c=ce I I (1, n)；&忝加前缀0, 1for i=1:split-1ci=strcat (0c1 i);endfo
26、r i = split:nc(i1=strcat (* 1*,c2i-spIit+1)；end与将顺序调整回去c=f I i p I r (c);c(index)=c;子程序funct ion =fano2 (c, p)for i=1 ： length(c)%求平均码长count (i) = length(ceI 12mat(c(i);endfpr intf (,信源信息炳：n);H=sum (-p. *log2 (p)先计算信源烦fpr intf (,平均码长八n)K=sum (count. *p) *计算平均码长fprintf(编码效率：rf )w=H./K%计算编码效率fprintf (码字八n)c