第五章 信道编码定理,1.离散信道编码问题 2.信道译码 3.Fano不等式和信道编码逆定理,1.离散信道编码问题,送给纠错编码器的消息是经过最佳信源编码后,信息速率为比特/秒的离散二元或q元数字序列。 分组码每K个信息数字为一组,计算出N个编码数字,称这些数字为一个码字。通常N为整数。 卷积码 输出的n0长码段不仅依赖于当前的k0位信息数字,还依赖于前m个信息段的信息数字,即总共与(m1)k0个信息数字有关。,纠错编码器,RK/N,码率 误组率 误比特率,2.信道译码问题,译码错误概率,译码准则,最小错误概率译码:是pe(y)最小 最大后验概率译码:选 最大,最大似然译码,所有Q(m)相同,最大对数似然译码,最小汉明距离译码,汉明距离 d(x,y), x,y中分量不同的数目 码字先验等概 K元对称信道,最小汉明距离译码,判决区域,Ym:lnp(y|xm)lnp(y|xm) 给定m,错误概率,高斯信道,Fano不等式和信道编码逆定理,Fano不等式,信道编码逆定理,离散平稳源有M个字母熵为HL(U),信道容量为C,当HL(U)(N/L)C时,误码率为非零值,信道编码定理,R0,存在编译码方法,当N足够大,pe,