1、大多数信源是有记忆信源，即其输出的符号之间有明显的相关性（依赖关系）。 m阶Markov信源是指：其输出的符号之间记忆长度为m，即当前输出的符号与前m个符号有关，而与更早时刻的输出无关（或相关性可忽略）。 例：一个二阶Markov信源,基于上下文的自适应算术编码,0,2,1,0,1,2,0,1,1,2,0,2,0,2,1,S,0,2,1,1/3,1/3,1/3,1/2,1/4,1/4,1/2,1/2,1/4,1/4,0,1/2,3/4,1/8,1/8,2/5,1/5,2/5,“上下文”,0,2,1,S,1/2,1/4,1/4,0,2,1,1/2,1/4,1/4,0,2,1,1/2,1/4,1/
2、4,固定模式算术编码。如对符号序列 “00121020” 进行,离散无记忆扩展信源：,0,2,1,0,1,2,0,1,1,2,0,2,0,2,1,S,0,2,1,1/3,1/3,1/3,1/2,1/4,1/4,1/2,1/2,1/4,1/4,0,1/2,3/4,1/8,1/8,2/5,1/5,2/5,基于上下文的自适应算术编码。如对符号序列 “00121020” 进行,离散有记忆m阶Markov信源：,零阶条件概率：p(0)=1/3; p(1)=1/3; p(2)=1/3;一阶条件概率：p(0/0)=1/2; p(1/0 )=1/4; p(2/0)=1/4;p(0/1)=1/4; p(1/1)
3、=1/2; p(2/1)=1/4;p(0/2)=1/4; p(1/2)=1/4; p(2/2)=1/2;二阶条件概率：p(0/00)=3/5; p(1/00)=1/5; p(2/00)=1/5;p(0/01)=1/4; p(1/01)=1/4; p(2/01)=1/2;p(0/02)=1/4; p(1/02)=1/4; p(2/02)=1/2;p(0/10)=1/2; p(1/10)=1/4; p(2/10)=1/4;p(0/11)=1/5; p(1/11)=3/5; p(2/11)=1/5;p(0/12)=1/4; p(1/12)=1/4; p(2/12)=1/2; p(0/20)=1/2; p(1/20)=1/4; p(2/20)=1/4;p(0/21)=1/2; p(1/21)=1/4; p(2/21)=1/4;p(0/22)=1/5; p(1/22)=1/5; p(2/22)=3/5;,设计任务：,
