1、南京工程学院试卷 B一 填空题（本题15空，每空1分，共15分） 1 一信源有六种输出状态a，b，c，d，e，f，先验概率分别为Pa=0.5，P b=0.25，P c=0.125，P d=Pe=0.05，P f=0.025。消息“ababba ”中所包含的信息量为（ ）bit， “fddfdf”所包含的信息量为（ ）bit。6bit长度的消息序列信息量的期望值为（ ）bit。2 限失真信源编码定理指出，当信息率 R 与信息率失真函数 R(D)满足（ ）关系时，只要信源序列长度 L（ ） ，一定存在一种编码方法，其译码失真D+。3 一袋中有手感完全相同的3个黑球和3个白球，每次从中随机取一个球，
2、取出的球放回袋中。用 Xi 表示第 i 次取出的球的颜色，i=1,.,6，则 H(X1)=（ ）bit/符号；H(X 2)=（ ）bit/符号；H(X 2/X1)=（ ）bit/符号。4 克劳夫特不等式为（ ） ，满足此不等式的变长码不一定是唯一可译码，因此它是唯一可译码的（ ）条件。5 设以8000 样值/秒的速率抽样一个语音信号，每个抽样点以 M=28=256级均匀量化。且抽样值取各量化值的概率相等，且抽样间相互独立，则每抽样的信息熵为（ ）bit/符号，信源的信息输出率为（ ）bps 。6 如某线性分组码的最小汉明距 dmin=6，其最大的检错能力为（ ） ，最多能纠正（ ）个错。则线性
3、分组码的检纠错能力与 dmin 的关系是（ ） 。二 判断题（本题 10 小题,每小题 1 分,共 10 分）（1） 对于离散信源而言，条件熵总是小于无条件熵。 （ ）（2） 互信息具有对称性，即 I(U;V)=I(V;U)。 （ ）（3） R(D)函数是 D 的连续函数，也是关于 D 的上凸函数。（ ）（4） 如 X 可以唯一确定 Y，则 H(Y/X)=0。（ ）（5） 完备码是一种监督位得到充分利用的码。 （ ）（6） 单符号离散信源在所有符号等概出现时，其熵值最大。对于连续信源，也有类似的结论，连续信源均匀分布时具有最大熵。 （ ）（7） 马尔可夫序列的联合概率具有时间推移不变性。 （
4、）（8） 当信道固定时，平均互信息 I（X，Y）是信源先验概率分布的上凸函数。 （ ）（9） 若码 =101111，=111100，则 和 之间的汉明距离为3。（ ）（10）若 X 与 Y 独立，则 H(Y/X)=H(X/Y)。 （ ）三 名词解释（本题4小题,每小题5分,共20分） 1 最大似然译码准则2 率失真函数3 自由距离4 伴随式四 计算题（本题3小题，共25分）1 一组 CRC 循环冗余校验码，其生成多项式为（X 6+X3+1） 。假设发送段发送的信息帧中所包含的信息是（100110） 。试求：1）信息多项式 m(x)=？2）附加在信息位后的 CRC 校验码。 （2+3=5分）2
5、已知一个二元信源连接一个二元信道，如图所示。其中，试求：I(X,Y)，H(X,Y)，H(X/Y)，和 H(Y/X)。 （12分）x1 0.98 y10.02 0.2x2 0.8 y2五 综合题（本题 3 小题，共 30 分）1 设有离散无记忆信源 X，其概率分布为 P（X）=0.4，0.18，0.1，0.1，0.07 ，0.06，0.05，0.04 ，求：1）信源符号熵 H（X） ；2）用哈夫曼编码编成二元变长码，并计算其编码效率；3）如要求译码错误小于10 -6，采用定长编码达到90%的编码效率，需要多少个信源符号一起编码？4）在相同的信源、编码效率和译码差错的条件下，试比较定长和变长编码。（2+3+3+2=10分）2 一个马尔可夫过程的基本符号为0，1，2 ，三个符号等概出现，并具有相同的转移概率。试：1）画出一阶马尔可夫过程的状态图；2）求稳态下的一阶马尔可夫信源熵；3）求出信源的冗余度。 （3+3+4=10分）
