ImageVerifierCode 换一换
格式:PPT , 页数:27 ,大小:331KB ,
资源ID:10782594      下载积分:10 金币
快捷下载
登录下载
邮箱/手机:
温馨提示:
快捷下载时,用户名和密码都是您填写的邮箱或者手机号,方便查询和重复下载(系统自动生成)。 如填写123,账号就是123,密码也是123。
特别说明:
请自助下载,系统不会自动发送文件的哦; 如果您已付费,想二次下载,请登录后访问:我的下载记录
支付方式: 支付宝    微信支付   
验证码:   换一换

加入VIP,免费下载
 

温馨提示:由于个人手机设置不同,如果发现不能下载,请复制以下地址【https://www.docduoduo.com/d-10782594.html】到电脑端继续下载(重复下载不扣费)。

已注册用户请登录:
账号:
密码:
验证码:   换一换
  忘记密码?
三方登录: 微信登录   QQ登录   微博登录 

下载须知

1: 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。
2: 试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓。
3: 文件的所有权益归上传用户所有。
4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
5. 本站仅提供交流平台,并不能对任何下载内容负责。
6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

版权提示 | 免责声明

本文(4-第四讲_信道容量及其计算.ppt)为本站会员(精品资料)主动上传,道客多多仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知道客多多(发送邮件至docduoduo@163.com或直接QQ联系客服),我们立即给予删除!

4-第四讲_信道容量及其计算.ppt

1、第四讲,41 信道容量42 信道容量的计算方法,信道容量及其计算,1、常见的简单DMC离散信道:,二元对称信道 (DSC):输入符号X取值于0,1, 输出符号取值于0,1,传递概率为,41 信道容量,二元删除信道 (BEC):输入符号X取值于 0, 1,输出符号取值于 0, 2, 1,传递概率为,0,1,q,1-p,1-q,p,1,2,0,删除信道的必要性,2、 信道容量定义,信息传输率:信道中平均每个符号所能传送的信息量。R = I(X;Y) = H(X)-H(X|Y) (bit/符号),有时我们需要关心单位时间内(一般为秒为单位)平均传输的信息量,若平均传输一个符号需要 t 秒,则信道每秒

2、平均传输的信息量为(速率),I(X;Y)是输入随机变量的概率分布的上凸函数,所以对于固定的信道,总存在一种信源分布,使传输每个符号平均获得的信息量最大,也就是说,每一个固定信道都有一个最大的信息传输率。信道容量定义为信道中每个符号所能传递的最大信息量,也就是最大 I (X;Y)值。,此时输入的概率分布称为最佳输入分布。,信道容量C与输入信源的概率无关(C只对应着一种信源概率分布,即最佳概率分布),它只是信道传输概率的函数(不同的转移概率对应不同的信道),只与信道的统计特性有关,所以信道容量是完全描述信道特性的参量。,信道容量表示了信道传送信息的最大能力,这个量在信息论研究中有重要意义。编码定理

3、将证明:传送的信息量R必须小于信道容量C,否则传送过程中将会造成信息损失;若RC,就可以通过编码方法保证将全部信息几乎无误地传送倒收端。,42 信道容量的计算,(1)、对称信道的容量,对称信道:信道矩阵的每一行都是由同一概率分布的不同排列组成,并且每一列也是同一元素集的不同的排列组成。,1/3,1/3,1/6,1/6,1/3,1/3,1/6,1/6,行,列,1/2,1/3,1/6,1/6,1/3,1/2,1/3,1/6,1/2,行,列,而以下两个矩阵不是对称的,而是准对称的。 (行对称而不是列对称),1/3,1/3,1/6,1/6,1/3,1/3,1/6,1/6,二元对称信道的容量:,例:,0

4、. 7,0. 1,0. 2,0. 2,0. 1,0. 7,对于对称信道,由于信道是对称的,上边的条件熵与x无关,所以,对于对称信道,输入符号的概率分布为等概时,输出符号也一定是等概的。,例:,( P 95例3. 5 ),输出符号集个数,(2)、准对称信道的容量,准对称信道:信道矩阵(列)的子阵是对称矩阵。,定理:达到准对称离散信道信道容量的输入分布为等概分布。,r是输入个数,n是不相交子集数,Nk是行之和,Mk是列之和,解:达到信道容量的输入分布为等概分布。,此时输出分布为:,例:求二元对称删除信道的C。(例3.8中特例 ),1-q,q,q,1-q,0,1,2,(与公式计算的结果相同),此时平

5、均互信息就是信道容量,此例题可作为后面:一般信道容量充分必要条件定理 的例子。该定理说明:只要信源每个符号对于输出端 Y提供相同的互信息(概率为零的除外),则此时 平均互信息就是信道容量。,定理:一般离散信道的平均互信息 I(X;Y) 达到极大 值的充要条件是:输入概率矢量满足其中 是信道输入x=k时,关于信道输 出一个字母的平均互信息,即,(3)、一般DMC容量的计算,一般信道容量的计算方法 (拉格朗日乘子法),定理1:如果信道的输入随机序列为通过信道传输,接收到的随机序列为若信道是无记忆的,即满足则,(4)、扩展信道的信道容量,证明:设信道输入输出序列X和Y的一个取值为,因为信道是无记忆的:,另一方面,这里用到(全概率公式),定理2:如果信道的输入随机序列为通过信道传输,接收到的随机序列为若信源是无记忆的,即满足则,所以,如果信道和信源都是无记忆的,则,(5)、信道的组合,并联信道:两个或更多个信道并行,同时分别传送;,信道1 p(j|k),信道2 p(j|k),定理:独立并行信道的容量为各分信道容量之和。,级联信道:信道1的输出作为信道2的输入。,和信道:随机选取信道1或信道2传送,(并信道)。,定理:和信道的容量满足下式,第四讲 信道容量及其计算结 束,

本站链接:文库   一言   我酷   合作


客服QQ:2549714901微博号:道客多多官方知乎号:道客多多

经营许可证编号: 粤ICP备2021046453号世界地图

道客多多©版权所有2020-2025营业执照举报