1、一、设 X、Y 是两个相互统计独立的二元随机变量，其取-1 或 1 的概率相等。定义另一个二元随机变量 Z，取 Z=YX（一般乘积） 。试计算：1.H（Y） 、H（Z） ； 2.H（YZ） ； 3.I（X;Y） 、I（Y;Z） ；二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 1. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 3. 求极限熵；三、在干扰离散对称信道上传输符号 1 和 0，已知 P（0）=1/4,P(1)=3/4,试求：1. 信道转移概率矩阵 P 2.信道疑义度 3.信道容量以及其输入概率分布四、某信道的转移矩阵 ，求信道容量，最佳输入概率分布。.6.3五、求下列各
2、离散信道的容量（其条件概率 P(Y/X)如下：）六、求以下各信道矩阵代表的信道的容量答案一、设 X、Y 是两个相互统计独立的二元随机变量，其取-1 或 1 的概率相等。定义另一个二元随机变量 Z，取 Z=YX（一般乘积） 。试计算：1.H（Y） 、H（Z） ；2.H（XY） 、H（YZ） ；3.I（X;Y） 、I（Y;Z） ；解：1. =1bit/符号2i1 11Pyloglogl22ii（ ） =-（ ） （ ）Z=YX 而且 X 和 Y 相互独立= 1()(1)()PPX（ Z） ) = 2 1PY（ =-） 1 122故 H(Z)= =1bit/符号ii1(z)log()i2.从上式可以
3、看出:Y 与 X 的联合概率分布为:H(YZ)=H(X)+H(Y)=1+1=2bit/符号3. X 与 Y 相互独立，故 H(X|Y)=H(X)=1bit/符号I（X;Y）=H(X)-H(X|Y)=1-1=0bit/符号I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-H(YZ)-H(Z)=0 bit/符号二、如图所示为一个三状态马尔科夫信源的转移概率矩阵 2. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布； 3. 求极限熵；解：1.状态转移图如右图 2.由公式 ,可得其三个状态的稳态概率为：31()()|)jijiipEPE12322331123()()()()4()()()4PEPEP
4、 1233()7()7PE3.其极限熵:3ii1312121H=-|E=0+0+777428+.5bt/7iPHH（ ） （ X） （ ， ， ） （ ， ， ） （ ， ， ）符 号P(Y,Z) Y=1 Y=-1Z=1 0.25 0.25Z=-1 0.25 0.25三、在干扰离散对称信道上传输符号 1 和 0，已知 P（0）=1/4,P(1)=3/4,试求：2. 信道转移概率矩阵 P 2.信道疑义度 3.信道容量以及其输入概率分布010.90.10.10.901解：1.该转移概率矩阵为P= 0.912.根据 P（XY）=P（Y|X） P（X ） ，可得联合概率P（XY） Y YX=0 9/4
5、0 1/40X=1 3/40 27/40P(Y=i) 12/40 28/40由 P（X|Y）=P(X|Y)/P(Y)可得P(X|Y) Y=0 Y=1X=0 3/4 1/28X=1 1/4 27/28H(X|Y)=- ijijij(xy)log|=0.9+12.503=.4bit/P， （ ） 符 号3.该信道是对称信道，其容量为：C=logs-H=log2-H（0.9,0.1）=1-0.469=0.531bit/符号这时，输入符号服从等概率分布，即01()2XP四、某信道的转移矩阵 ，求信道容量，最佳输入概率分布。1.06.30P解：该信道是准对称信道，分解为两个互不相交的子信道矩阵这里 0.63.1010.9NM2.1C=logr-H(P 的行矢量) -2k1log1(0.63.1)09log.-1l0.KNH， ，=0.174bit/符号这时，输入端符号服从等概率分布，即 =()XP12五、求下列各离散信道的容量（其条件概率 P(Y/X)如下：）六、求以下各信道矩阵代表的信道的容量
