1、2019/6/10,1,习题课,3.1 试证明长度不超过N的D元不等长码至多有D(DN1)/(D1)个码字。 3.1的解答 长度等于k的D元码字至多有Dk个，其中k=1N。 因此长度不超过N的D元码字至多有,2019/6/10,2,3.2 以上是一个离散无记忆信源。若对其输出的长为100的事件序列中含有两个和更少个al的序列提供不同的码字。 (a) 在等长编码下，求二元码的最短码长N。 (b) 求错误概率(误组率)。 3.2的解答 (a) 长为L=100的事件序列中含有两个和更少个al的序列，其个数为,2019/6/10,3,习题课,(b) 含有两个和更少个al的序列拥有不同的码字，它们的译码
2、不会出现错误。因此错误概率(误组率)不会超过“含有三个以上al的序列”出现的概率。而“含有三个以上al的序列”出现的概率等于,2019/6/10,4,习题课,3.2的注解 事实上，在对“含有两个或更少个al的长为100的序列”提供不同的码字之后,还有210-596=428个富余的码字。这些富余的码字如果提供给其中428 个“含有恰好三个al的长为100的序列”，作为它们各自的不同码字。则错误概率不会超过,2019/6/10,5,3.9 设离散无记忆信源如上。试求其二元和三元Huffman码。 3.9的解答 二元Huffman码为：,2019/6/10,6,习题课,三元Huffman码为：,20
3、19/6/10,7,第一种三元异字头码（用Huffman编码法） 平均码长为2 ， 方差为0。,2019/6/10,8,第二种三元异字头码（用Huffman编码法） 平均码长为10.2+20.6+30.2=2， 方差为(1-2)20.2+(2-2)20.6+(3-2)20.2=0.4。,2019/6/10,9,3.13 设DMS为如上的概率分布。 各ai相应编成码字0，10，110和111。试证明对足够长的信源输出序列，相应的码序列中0和1出现的概率相等。 3.13的证明 设有一个足够长的信源输出序列，因而相应的码序列也足够长。在码序列中随机地取一个符号X，以下只需要证明P(X=0)=1/2。记 Aj=“X是aj的码字中的符号”，j=14。 根据全概率公式，,2019/6/10,10,习题课,2019/6/10,11,习题课,
