发布时间 : 星期二 文章湖南大学信息论与编码考试题二更新完毕开始阅读e0f8b57af111f18583d05a8a
湖南大学课程考试试卷
2010—2011学年 第一学期
课程名称：信息论与编码 试卷形式：闭卷
系名____________班级____________姓名____________学号____________ 试题 得分
一、 选择题（15分，每小题3分）
1、设有一个离散无记忆信源X，其符号数为n, 则有（ ）成立。
一 二 三 四 五 六 七 八 总分 专业：信息安全
密封线内不答题 A、H(X)?log2n; B、H(X)?log2n;
C、H(X)?2log2n; D、以上结论都不对。
?1/21/31/6??，则信1/61/21/32、设有一个离散无记忆信道，其信道矩阵为P??????1/31/61/2??道容量是（ ）。
111111A、 log23?H(,,); B、log23?H(,,)；
236362111111C、log25?H(,,)； D、log26?H(,,)。
2363623、若一离散无记忆信源的符号熵为H(X),对信源符号进行m元变长编码，一定存在一种无失真编码方法，其码字平均长度K满足（ ）。
A、1?H(X)H(X)H(X)H(X)?K??K?； B、1?； log2mlog2mlog2mlog2mH(X)H(X)?K； D、K?。 log2mlog2mC、1?——第1页——
____________号学______ __题___答_名不姓_内___线___封____密_级班____________名系
4、设X是一个离散无记忆信源，X2、X3、X4分别是其2、3、4次扩展信源。由变长无失真信源编码定理知，对上述4个信源进行二元香农变长编码，则对（ ）进行编码时，编码效率最高。
A、X； B、X2； C、X3； D、X4。
5、关于信息率失真函数R(D)，下列说法正确的是（ ）。
A、R(D)函数表示信源X和允许的失真度D给定的情况下，需要由
信源传送给信宿的最小信息率；
B、R(D)函数表示信源和允许的失真度D给定的情况下，需要由信
源传送给信宿的最大信息率；
C、R(D)函数的取值范围是（-∞，0）； D、以上说法都不对。
二、填空题（30分，每空2分）
1、信息率是信息科学的基础理论之一。它主要研究_____性和_____性问题，为具体实现提供理论依据。
2、1959年，信息论的奠基人香农在《保真度准则下的离散信源编码定理》系统地提出了信息_________定理和________________定理。
3、对于有记忆信源，需要引入_________概率来反映发出符号序列内各个符号之间的记忆特征，且通常通过限制记忆长度，便分析和处理简化。 4、马尔可夫信源是一种特殊的有记忆信源。若条件概率与时间起点无关，则称为__________马尔可夫链。
——第2页——
____________号学______ __题___答_名不姓_内___线___封____密_级班____________名系
5、由数据处理定理，若随机变量X,Y,Z构成一个马尔可夫链，则下列平均互信息量满足I(X;Y) I(X;Z)。(填≤,=,或≥)
6、信道容量需要考虑信道中干扰的影响，输出信号和输入信号之间没有固定的函数关系，而是只有____________依赖关系。
7、根据信道中所受噪声种类的不同，可以分为随机差错信道和______差错信道，后者的噪声、干扰是前后相关，错误成串出现的。
8、信息_____________函数是指在保真条件下信源信息率可以被压缩的最低限度，反映信源本身的特性。
9、设一离散平稳无记忆信源的输出随机变量序列为X?(X1X2XL),若该信
源的信息率失真函数是R(D),并选定有限失真函数。对于任意允许平均失真度
D?0,和任意小的??0，当信息率R R(D)，只要信源序列长度L足够
长，一定存在一种编码方式，使译码后的平均失真度D D??。。 10、从信息论的角度看，信道编码是第二层次的编码，即________控制编码。 11、从系统的角度，运用纠/检错码进行差错控制的基本方式可以分为3类：前向纠错、____________和__________。
三、（15分）设有一个信源X={A，B，C，D，E}，其中各符号出现的概率和占用的概率区间如下表所示。设一由长度为4的信源序列经算术编码后输出值为0.7805，试求此信源序列。 符号 A B C D E ——第3页——
____________号学______ __题___答_名不姓_内___线___封____密_级班____________名系
概率 0.1 0.2 0.1 0.4 0.2 概率区间 [0, 0.1] [0.1, 0.3] [0.3, 0.4] [0.4, 0.8] [0.8, 1.0]
?xx2?、（20分）设信源??X??P(X)??1四???1信道，接受符号集为?3??，通过某?44??Y??yy，信道转移矩阵（a(y?10?12?ij?pj/xi)）为??，试求： ?01?1. H(X),H(Y)；（6分）
2. 求联合熵H(XY)、信道疑义度H(X/Y)和噪声熵H(Y/X)；（5分） 3. 接收到Y后所获得的平均互信息量是多少；（4分）
4. 若改变信源的概率分布，则收到Y后能获得的最大信息量是多少，并
且求出此时信源的概率分布。（5分）
五、信源编码（20分）
?X???x1x2??xx1x2x2x1x2x2?有无记忆信源??P(X)?????31??和??X2??1x131?? ?4P2???934???(X)???16161616????1?2?3?4????9331??。 ??16161616??1、对X编二进制最优哈夫曼码，计算平均码长和编码效率；（6分） 2、对X2编最优二进制哈夫曼码的平均码长和编码效率；（8分） 3、比较（1）、（2）中平均码长和编码效率的变化，说明对扩展信源进行编码对平均码长和编码效率的影响。（6分）
——第4页——