1、湖南涉外经济学院 20112012 学年度第 1 学期期末课程信息论与编码考核试卷专业班级： 电子信息工程 考核方式：闭卷 考试时量： 120 分钟 试卷类型： A题 号 一 二 三 四 五 六 七 八 九 十 合计 复核人应得分 20 40 40 100实得分学部 专业年级 学号 姓名 考场号 座位号 装订线外不要答题得分 评卷人 复核人一、 填空选择题（每题 4 分，共 20 分）1、自信息量的公式为 。)(log)(2ii apaI2、连续信源输出信号的峰值功率受限时，_均匀_分布的熵最大；连续信源输出信号的平均功率受限时，_正态_分布的熵最大。3、当 X 和 Y 相互独立时，互信息为（
2、 B ） 。A、 1 B、 0 C、某一个正数4、信源为 X，信宿为 Y，条件熵 H（X|Y）称为（ B ） 。A、噪声熵 B、信道损失熵5、信道编码定理：对于一个离散无记忆信道，若其信道容量为 C，输入信源符号长度为 L，当信息传输速率（ A ）时，总可以找到一种编码方法，当 L 足够长时，译码的错误概率为任意小正数。A、 R C B、 RC得分 评卷人 复核人 二、常规题（1 小题 25 分+2 小题 15 分，共 40 分）1已知 X，Y0，1 ， XY 构成的联合概率为： P（00）=P（11）=，P（01） =P（10）= ，( ), 计算：88358.1log2（1） 熵 H（X）
3、 ，H（Y） ；（2） 条件熵 H（X/Y） ，H（Y/X） ；（3） 互信息 I（X；Y） 。1. 解：1) p(x=0)=p(x=1)=p(y=0)=p(y=1)=0.5H(X)=H(Y)=1 (8 分)2) H(XY)=H(X)+H(Y|X)=H(Y)+H(X|Y)H(XY)=-2( )=1.811383log1l822H(Y|X)= H(X|Y)= 1.8113-1=0.8113 (12 分)3) I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)=H(X)+H(Y)-H(XY)=2-1.8113=0.1887 (5 分) 2. 求下列信道的信道容量和最佳分布。( )58.1
4、3log2第 1 页 共 4 页 第 2 页 共 4 页21,6,313,61,21)/(XYP2.解： 该信道为对称信道，最佳分布是等概率分布 p(X)= (7 分)3,信道容量：C= (8 分5409.612(4log),.(log2212 HpHss得分 评卷人 复核人三、综合题（每小题 20 分，共 40 分）1. 在电话信道中常允许多路复用。一般电话信号的带宽为 3.3kHz。若信噪功率比为 20dB，求电话通信的信道容量。( )658.10log21解： (4 分)20lgWNPX(4 分)10X香农定理： )/(12)10(log3.log3 202秒比 特NPCX2. 给定声音样值 X 的概率密度为拉谱拉斯分布，求它的熵 H（X） ，并证明它小于同样xexpx,21)(|方差的正态变量的连续熵( )。2(log1)(,(2eYmNY2.解： EX=0(2 分)(5 分)2DX(5 分)eHlog(正态分布: )2(log1(,2eYmNY(4 分)4)22 DX0log1)(eH得分 评卷人 复核人四、得分 评卷人 复核人五、得分 评卷人 复核人六、得分 评卷人 复核人七、得分 评卷人 复核人八、得分 评卷人 复核人九、得分 评卷人 复核人十、得分 评卷人 复核人十一、得分 评卷人 复核人十二、第 3 页 共 4 页 第 4 页 共 4 页
