1、信道编码分组码(1),Efficiency vs. Reliability,Efficiency Average code length as small as possible Reliability The ability to recover from errors in the transmission,Coding,Decoding,Information source,Source coding,Channel coding,Information channel,Channel decoding,Source decoding,Destination,提要 概述-纠错码与差错控制
2、方式 信道编码的一般原理 几种简单实用的编码 汉明码 线性分组码及其描述 循环码及其编译码 BCH码与RS码简介 卷积码的编码及Viterbi译码算法 交织码, TCM, 级连码及Turbo码,线性分组码Linear Block Codes,戴书第5章, 1 概述 什么是信道编码(channel coding)? 差错控制编码(error-control coding)-信道编码又称为差错控制编码,简称为纠错编码,即在信息序列中按一定的规则附加若干监督码元,以便对信息传输(或存储)起检错与纠错作用,目的在于提高通信(或存储)的可靠性,减低误误码率。 纠错码为什么具有纠检错能力?-引入了冗(多)
3、余度多余度可靠性 信息传输速率(或带宽 ) 有效性,冗余度=1/3, 差错控制能力与什么因素关? 编码规则(包括码及码参数的选择) 差错控制方式 译码方法 不同信道宜采用不同的编码方案信道的分类-随机干扰信道,突发干扰信道,混合信道 差错控制方式(error-control schemes):前向纠错(FEC) 自动请求重传(ARQ) (1)自动请求重传(Automatic Repeat Request-ARQ)ARQ: 收端(检错)发现误码通过反馈信道向发端发出重发指令发端重发。 ARQ一般分为三种类型:等待ARQ,退N步ARQ,选择ARQ。, 等待ARQ,Stop-And-Wait ARQ
4、 (SAW ARQ),Transmitting Data,1,3,2,3,Time,Received Data,1,2,3,Time,ACK,ACK,NAK,Output Data,1,2,3,Time,Error,Retransmission,ACK: Acknowledge NAK: Negative ACK, 退N步ARQ,Go-Back-N ARQ (GBN ARQ),Transmitting Data,1,Time,Received Data,NAK,Output Data,Time,Error,Go-back 3,2,3,4,5,3,4,4,5,6,7,5,1,Time,2,3,4
5、,4,5,Error,NAK,Go-back 5,1,2,3,4,4,5, 选择ARQ,Selective-Repeat ARQ (SR ARQ),Transmitting Data,1,Time,Received Data,NAK,Error,Retransmission,2,3,4,5,3,6,7,8,9,7,1,Time,2,4,3,6,8,7,Error,NAK,Retransmission,5,9,Buffer,1,Time,2,4,3,6,8,7,5,9,Output Data,1,Time,2,4,3,6,8,7,5,9,(2)前向纠错(FEC-Forward Error Cor
6、rection):收端不仅能检错,而且能自动纠错,故实时性能好,传输效率高,无须反馈信道。,(3)混合ARQ(混合纠错法):FEC+ARQ发生少量误码时,收端能自动纠正,超出其纠错能力时,则要求重传,故传输效率与可靠性都可以做得很高。 纠错码的分类:,应用: 通信(深空通信、卫星通信、移动通信、光纤通信、数据通信,Cable Modem, ADSL Modem等)。 计算机:计算机网络(LANs, MANs, WANs, Internet);软件检测;磁盘/光盘纠错;内存纠错; 数字电视、数字广播、DVB、DAB; CD、DVD等, 2 信道编码的一般原理 如何通过增加冗余度来实现纠、检错?
7、例1 气象台预报天气信码 监督元 码字 (偶校验)传输中错一位晴 00 0 (000)100,010,001云 01 1 (011) 111,001,010 阴 10 1 (101) 001,111,100雨 11 0 (110) 010,100,111许用码字 禁用码组可检一位错,之所以能检错,是因为引入了冗余(禁用码组),例2 附加两个监督元,设只有“晴”、“雨”两种信息信码 监督元 码字 传输中错一位晴 0 00 (000)100,010,001 0雨 1 11 (111) 011,101,110 1可纠1位错 若传输中错2位 ,(000)110,011,101(111) 001,010
8、,100 可检查出2位错。 上述例子说明: 附加监督元可实现检(纠错),监督元越多,码的纠、检错能力越强。 为了提高纠、检错能力,必须有适当的编译码规则。,例如,在例2中,若编码规则为晴 011, 雨 000, 则无纠错能力。当发生1位错时: (011)111,001,010 (000) 001,100,010 则不能纠1位错,但仍能检1位错。 分组码及其纠检错能力 (1)分组码及其描述 定义把消息序列分成等长的组(每组k个信息码元),每组再附加若干(r=n-k)个监督元,从而构成n=k+r长的码字,这种编码方法就叫做分组编码,所有码字的集合便构成一个(n, k)分组码。 描述分组码的几个参数
9、: 码长n 信息长k 码率(编码效率):R=k/n, 最小距离d0决定码的纠、检错能力(2)汉明距离d与最小距离d0 重量:一个码组中非“0”位的数目,例如,01011, w=3 汉明距离:两个码组中对应位数值不同的位数,用d表示,例如, 000和111, d=3 最小(汉明)距离:一个码中汉明距离的最小数值,用d0表示.设一个码由4个码字组成,它们分别是000,011,101,110,其重量分别是0,2,2,2,最小距离为2。,对于线性码,最小距离就等于最小重量。 (3)纠、检错能力与最小距离d0之间的关系(n, k, d0)分组码的纠检错能力: 只用于检错(ARQ):能检出,个错误;, 只
10、用于纠错(FEC),能纠正,个错误;, 用于既纠t个错,又检e个错(te) (混合ARQ),几何解释:,A 只检e个错,B 只纠t个错,A,B,C 检e个错,同时纠t个错(te), 发B,若错位数小于等于t离B近译成B; 发A,若发生小于等于e位错不会落入球B内可检; 发A,若错误数大于等于e+1落入球B内译成B 不可检,信道编码的理论依据 信道编码定理:只要码率R小于信道容量C,就存在码长为n、码率为R的分组码,当采用最大似然译码算法译码时,随着码长的增加,错误概率可任意小,即,(对于卷积码,也有类似结果)其中,A是大于0的系数, E(R)是一个正实函数,称为误差指数. 注最大似然译码: 设
11、(n, k)码中的所有码字均等概发送,当收到某个接收序列R时,译码器便从全部码字中选择一个码字Ci作为译码结果,使得,最大. 最大似然译码器是一种,最佳译码器, 译码器输出的错误概率最小.,分析: C1C2E 1(R)E 2 (R) P1P2 C一定,n一定,R E(R) P R一定,C一定,n P ,降低错误概率的方法: 增大信道容量C(增加带宽W,或增大平均功率S); R一定时,可增大码长n; n一定时,可降低码率R。,例 将一个二进制信源(0、1随机产生)接到一个错误转移概率为0.1的二元对称信道(BSC)上,若不用信道编码,误码率便为0.1, 现以码长为4, 码率为1/2进行分组编码,
12、试观察其编码效果。 解:因n=4, R=1/2, 故k=2, 构成(4,2)分组码设码字C=(C3, C2, C1, C0),且编码规则为,假设在前三位中只发生一位错,第四位无错, 正确译码概率:,设译码后码元正确概率为, 则,复习思考题 信道编码的作用是什么?纠错码为什么具有纠检错能力? 差错控制方式通常有哪几类?其原理是什么?各有什么优缺点? 信道编码的理论依据是什么?要降低误比特率,可采用哪几种措施? 4 说明(n, k, d0)分组码具有怎样的纠检错能力。, 3 几种简单的实用编码 奇偶校验码 二维奇偶校验码字 定比码 重复码 奇偶校验码:是一种只有一个监督元的(n, n-1)分组码,
13、在奇校验码中,码字中“1”的数目为奇数;而在偶校验码中,码字中“1”的数目为偶数。 (1)编码规则: 奇校验码 :, 偶校验码 :,例 将晴、云、阴、雨这四种天气状况分别编成奇检验与偶校验码。,解: 天气 代码 偶检验码 奇校验码晴 00 000 001云 01 011 010阴 10 101 100雨 11 110 111,(2)检错能力:能检出奇数个错误,但不能检出偶数个错误。 例 设信息序列为00000,分别将其编为偶检验码与奇检验码,当差错序列分别为101100和011000时,判断其是否能检错。 解: 偶校验: 发送码字为000000当差错序列为101100时,接收码组为101100
14、,可检;当差错序列为011000时,接收码组为011000,不可检;, 奇校验: 发送码字为000001当差错序列为101100时,接收码组为101101,可检;当差错序列为011000时,接收码组为011001,不可检; (3)不可检错误概率(不要求):对于BSC,一个n长码字在BSC上传输,发生m位错误的概率为, 采用奇偶校验码后,例如,当n=4,时,,若不用编码,则,采用编码后,奇偶校验码-适用于随机错误信道,采用ARQ进行检错。,二维奇偶检验码(水平垂直检验码,方阵码)(1)编码规则:把信息序列排成一个阵列,然后分别将每行每列编成奇偶校验码。发送时,按顺序逐列发送;接收后,再逐行逐列检
15、测。,(2)码率:,(3)检错能力: 能检出行(列)中奇数个错误; 能检出部分偶数个错误; 能检出长度小于等于m(行数)的突发错误; 恰好位于矩形4个角上的错误无法检出。 (4)适用范围:突发错误信道或混合信道(采用ARQ)。,定比码:每个码字中“1”的数目是固定的,即“1”与“0”数目之比为一定值,故称为定比码。在数学上又称为“n中取m码”。 (1)常用定比码:5中取3码(用于中文电报),7中取4码 例 中文电报 汉字4位阿拉伯数字每位用一个5中取3码的码字来表示 数字 码字 数字式 码字1 01011 6 101012 11001 7 111003 10110 8 011104 11010
16、 9 100115 00111 0 01101,五 邑 大 学0063 6712 1129 1331 01101 01101 10101 10110 10101 11100 01011 11001 01011 01011 11001 10011 01011 10110 10110 01011,(1)编码效率:,对于5中取3码,,(3)检错能力与不可检查错误概率(不要求推导) 检错能力:可检出所有奇数个错误和部分偶数个错误; 不可检错误概率:不能检出的情况- “1”“0”, “0”“1”成对出现,其中,出现一对的概率最大,两对以上概率较小,可忽略,因而只须估算出现一对时的情况。一个码字中有m个1,故1变成0的概率为,一个码字中有n-m个0,故0变成1的概率为,所以,定比码的不可检错误概率可近似为,