1、联想学习,无监督学习,网络具有在经常一同出现的模式之间学习其中关联的能力。,联想：系统中输入和输出之间的任何联系。,刺激：输入模式。,响应：输出模式。,简单联想网络,1, 有刺激0, 无刺激,1, 有响应0, 无响应,香蕉联想器,无条件刺激:无需学习的先天的特征,条件刺激:后天学习到的特征,1, 检测形状0, 不检测形状,1, 检测汽味0, 不检测汽味,无监督的Hebb规则,向量形式：,训练序列（按时间顺序）：,局部学习规则：仅用到和更新与条件刺激相关的权值,香蕉识别例子,初始权值：,训练序列重复下列两组输入：,第一次迭代 (视觉检测失败)：,a = 1,训练中无条件刺激的权值不变，更新有条件
2、刺激的权值：,单独的汽味不产生响应，Hebb规则不改变权w,例子,第二次迭代 (视觉检测成功)：,第三次迭代 (视觉检测失败)：,现在两种检测中只要有一个工作正常就能对香蕉作出响应。,汽味刺激和响应同时发生，Hebb将增加它们之间的权值：,此时已建立了香蕉汽味和对它的反应之间的联想：,Hebb规则的问题,权能任意地增大，导致与生物系统矛盾（突触不能无限制地增大）。 没有机制使权减小。如果输入或输出有噪声，将导致权值缓慢增加，直至最后网络对任何刺激都作出响应。,带衰减的Hebb规则,这阻止了权值矩阵无界地增大。最大权值能够通过设置ai和pj为1（最大化学习），然后求解稳态权值（此时，新旧权值相同
3、）得到：,例子：香蕉联想器,第一次迭代(视觉检测失败)：,第二次迭代 (视觉检测成功)：,g = 0.1,a = 1,例子,第三次迭代 (视觉检测失败)：,Hebb规则,带衰减的Hebb规则,权值也持续增加，但增量变小，仅为0.9而非1.0,带衰减的Hebb规则的问题,联想将衰减如果刺激不时常有的话。,如果 ai = 0, 有,如果 g = 0.1, 可得,所以没有刺激每次迭代权会减衰减10%。,Instar (识别网络),Instar与感知机相似，但它重点考虑进行模式识别的能力,Instar 操作,Instar满足下式时成为活跃：,or,对于规格化的向量(有相同的长度，即模相同)，最大的内积
4、发生在权向量与输入向量的夹角为零时 输入向量等于权向量。,权矩阵的行代表被识别的模式。,向量识别,如果设,Instar 只有在 q = 0时活跃。,如果设,Instar 将在一定的角度范围内活跃。,随着b的增加，将有更多的模式(在q角的一个大范围内) 能激活Instar。,Instar 规则,带衰减的Hebb规则：,Instar规则 只有在神经元活跃时学习和遗忘才发生：,或设置等于,向量形式：,图的表示,Instar活跃的情况(ai = 1)：,或,Instar不活跃的情况(ai = 0 )：,权向量沿着旧的权向量和 输入向量连线向输入向量 方向移动。,例子,训练,第一次迭代 (a=1):,进
5、一步训练,网络在视觉检测失效的情况下,也能根据测量值识别桔子。,Kohonen 规则,学习发生在神经元的下标 i 是集合 X(q) 的元素时。在第14章 我们将看到它可用来训练在一个给定邻域里所有神经元。,for,Kohonen 规则：,Instar 规则：,Outstar (回忆网络),Outstar 操作,如果我们希望每当有某种刺激(p = 1)输入时Outstar能回忆一个 特定的模式a*。可以设置：,那么，当 p = 1时，模式a*被正确回忆出：,权矩阵的一列设置为要回忆的模式向量来构造回忆网络 (权矩阵的一行设置为目标模式向量来设计识别网络)。,Outstar 规则,w,i,j,q,(,),w,i,j,q,1,(,),a,a,i,q,(,),p,j,q,(,),g,p,j,q,(,),w,i,j,q,1,(,),+,=,在instar规则中，我们使得Hebb规则中的权值衰减项与网络的输出成比例。而在outstar规则中，我们使得权值衰减项与网络的输入成比例。,如果设置衰减速度 g 等于学习速度a ，有：,向量形式：,在instar中，权的行向量沿着旧的权向量和输入向量连线向输入向量方向移动。而在outstar中，当学习发生时，权的列向量沿着旧的权向量和输出向量连线向输出向量方向移动。,例子 菠萝回忆,定义,迭代 1,a = 1,收敛,
