《信息论考试卷及答案解析.docx》由会员分享，可在线阅读，更多相关《信息论考试卷及答案解析.docx（13页珍藏版）》请在三一文库上搜索。
1、考试科目名称：信息论单选（每空2分，共20分）1 .信道编码的目的是（C ）,加密编码的目的是（D ）A .保证无失真传输B.压缩信源的冗余度，提高通信有效性C.提高信息传输的可靠性D.提高通信系统的安全性2 .下列各量不一定为正值的是（D ）A.信源嫡B.自信息量C.信宿嫡D.互信息量3 .下列各图所示信道是有噪无损信道的是（B ）A.第6页共11页4.信源普考信奥符号科索ABCD在%4)=1/2 p(%)=l/4 双。3尸1/8 P(%)=U8000110110 11 00 110100001101 001 00015 .联合嫡H (XY)与嫡H (X)及条件嫡H (X/Y)之间存在关系正
2、确 的是(A )A. H(XY)=H(X)+H(Y/X)B. H(XY)=H(X)+H(X/Y)C. H(XY)=H(Y)+H(X)D.若X和Y相互独立，H (Y) =H (YX)6 . 一个n位的二进制数，该数的每一位可从等概率出现的二进制码元 (0, 1)中任取一个，这个n位的二进制数的自信息量为(C )A. 2nB. 1 bitC. n bitn D- 27 .已知发送26个英文字母和空格，其最大信源嫡为Ho = log27 = 4.76比 特/符号；在字母发送概率不等时，其信源嫡为 Hi = 4.03比特/符号； 考虑字母之间相关性时，其信源嫡为H2=3.32比特/符号；以此类推，极限
3、嫡H. =1.5比特/符号。问若用一般传送方式，冗余度为( B )A. 0.32B. 0.68C. 0.63D. 0.378 .某对称离散信道的信道矩阵为，信道容量为（B ）A.,，1 1 1 1、=log 4。2H (,)3 3 6 6B.,1111、=log 4 - H (一，,-,-)3 3 6 6C.1111-log2-H(-,-,-,-)3 3 6 6D.9 .下面不属于最佳变长编码的是（A.香农编码和哈夫曼编码B.费诺编码和哈夫曼编码C.费诺编码和香农编码D .算术编码和游程编码.综合（共80分）1.（10分）试写出信源编码的分类,并叙述各种分类编码的概念和特性。r非分组码码奇异码
4、I分组码 r非奇异码(5分)非唯一可译码非即时码唯一可译码,I即时码（非延长码）（1分）将信源消息分成若干组，即符号序列 xixi = (xi1xi2 xil - xiL),xil A=a1 , a2,，ai,，an每个符号序列xi依照固定码表映射成一个码字yi,yi = (yi1yi2 yil yiL),yil B-(bl, b2,，bi,，bm这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非 分组码中则不存在码表。(1分)奇异码和非奇异码若信源符号和码字是一一对应的，则该码为非奇异码。反之为奇异码。(1.5分)唯一可译码任意有限长的码元序列，只能被唯一地分割成一个个的码字，
5、便称为唯一可译码(1.5分)即时码：只要收到符号就表示该码字已完整，可以立即译码。即时码又称为非延长码，任意一个码字都不是其它码字的前缀部分，有时 叫做异前缀码。2. (15分)有一个二元二阶马尔可夫信源，具信源符号集为0,1,已知符号条件概率：p(0|00) = 1/2 p(1|00)=1/2p(0|01) = 1/3 p(1|01)=2/3p(0|10) = 1/4 p(1|10)=3/4p(0|11) = 1/5 p(1|11)=4/5求：(1) .信源全部状态及状态转移概率；(2) .画出完整的二阶马尔可夫信源状态转移图；(3) .求平稳分布概率。解：(1) .符号条件概率矩阵(5分)
6、(5分)司(0)5(00) 1/2P(ajlS)(01) jS3(10)1/31/4S4(11) J/5状态转移概率矩阵6S2 p(sj |s)=S3(2).61/201/4a2(1)1/22/33/44/5S21/203/40S301/301/5s,02/304/5(0)1/2S4(3).平稳分布概率工四21 -W1“ Wi Pij =Wj = 2W1 W2 W3 W4 =13635,(5分)W34二W11-W233-W341-W45=W2-W32W2 34-W45=W4W3=35W4=47一 131pg旺p(a唠6序羡35KM一1 3 2p(a2) =p(a2|s)p(Si)=i2 35
7、36 1 1 X35 461 4 K 35 576 3644_ +_ X_ +_ X35 435 579352635第13页共11页3. (20分)具有符号集 U =u0,uj的二元信源，信源发生概率为: 1，p(U0)= p, p(Ui) = 1 - p,0 p - Z信道如图 所示，接收符号集V =v0,vi,转移概率为：q(v。|u0)=1,q(Vi |uj = 1 q。发出符 号 与 接 收 符 号 的 失 真： d(U0,v。)= d(U1,V1)= 0,d(u1,v。)= d(u”1)=1。 一(1) .计算平均失真D ;(2) .率失真函数R(D)的最大值是什么？当q为什么值时可
8、达到该 一最大值？此时平均失真D是多大？(3) .率失真函数R(D)的最小值是什么？当q为什么值时可达到该 一最小值？此时平均失真D是多大？(4) .画出R(D)-D曲线。解：,，、，、，、， 八.1(1) .已知信源符号概率 P(U0) = P, p(u)=1-p,0(pW2 ;10转移概率矩阵q(Vj |U) = J .;_q 1 -q1 oo 1.-L 、iP0联合概率矩阵旧5(函(i_p)(i.q)JX p(Ui, Vj )d(Ui ,Vj) = p m0+0 x1+(1 p)q m1+(1 p)(1 q) m0 =(1 p)q。(5分)(2) . maxR(D)=R(Dmin)=H(
9、X)=-plogp-(1-p)log(1-p);当 q=0 时，Dmin=0,即得到 maxR(D)；一D =0。(5 分)(3) . minR(D)=R(Dmax)=0 ; 1 0当q=1时，转移概率矩阵q(Vj |uJ= 1 0 ,可使得到minR(D);一D =1-p0 (5 分)(4) .(5 分)/?(/.)4.（15分）一个平均功率受限制的连续信道，其通频带为 1MHz,信道上存在白色高斯噪声。(1) .已知信道上的信号与噪声的平均功率比值为20,求该信道的信道容量；(2) .信道上的信号与噪声的平均功率比值降至10,要达到相同的信道容量，信道通频带应为多大？(3) .若信道的通频
10、带增加至 2MHz时，要保持相同的信道容量， 信道通频带应为多大？解：(1) .已知 SNR=20PC =Wlog(1 ) =Wlog(1 SNR) =1 log 21 = 4.392Mbit/s N0W(5分)(2) .若 SNR=10, C=4.392Mbit/s；4.392 =Wlog(1 10)W=1.27MHz (5 分)(3) .若 W=2MHz , C=4.392Mbit/s；4.392 =2 log(1 SNR)SNR=3.582 (5 分)5.(20分)信源符号X有6种字母，概率为0.32, 0.22, 0.18, 0.16,0.08, 0.04。(1) .求符号嫡H (X)
11、;(2) .用费诺(Fano)编码法编成二进制变长码，求出平均码长和编 码效率；(3) .用香农(Shannon)编码法编成二进制变长码，求出平均码长 和编码效率；(4) .用哈夫曼(Huffma)编码法编成三进制变长码，求出平均码长和编码效率。解：(1) . H(X) = - p(ajlog p(q)=2.35bit/符号(5 分) i(2).费诺编码法编成二进制变长码(5分)信源符号符号概率P(ai)第1分组第2分组弟3分 组弟4分 组平均码长一K = Sogp(ai)码字a10.3200200a20.221201a30.1810210a40.16103110a50.081041110a6
12、0.0414111100, 01, 10, 110, 1110, 1111=97.9% R K 2.4(3).香农编码法编成二进制变长码(5分)信源符号符号概率p(a)累加1率Pi一平均K = -logp(aj |码字a10.320200a20.220.323010a30.180.543100a40.160.723101as0.080.8841110as0.040.9651111000, 010, 100, 101, 1110, 11110二9 =HX)=咨=82.7%R K 2.84(4).哈夫曼编码法编成三进制变长码(5分)信源符号符号概率p(a)第1分组第2分组平均码长一K = Flogp(aJ码字a10.320.32/0.5600.220.22/0.2810.180.18/ 00.2220.160.161 111a212a3200a4201a530200.08 0* 0.12 2a60.04 130211, 2, 00, 01, 020, 021Hl(X) H(X) 2.35L =、/=93.8%R K 1.58 log 3logmm=3, n=6,令 k=2m+k(m-1)=7, s=7-n=1所以第一次取m-s=2个符号进行编码