1、1李凡（MZ12663）人工神经网络的发展与应用1、神经网络发展1）启蒙时期启蒙时期开始于 1980 年美国著名心理学家 WJames 关于人脑结构与功能的研究，结束于 1969 年 Minsky 和 Pape发表的感知器(Perceptron)一书。早在 1943 年，心理学家 McCulloch 和数学家 Pitts 合作提出了形式神经元的数学模型(即 MP 模型)，该模型把神经细胞的动作描述为：1 神经元的活动表现为兴奋或抑制的二值变化；2 任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3 任何抑制性突触有输入激励后，使神经元抑制；4 突触的值不随时间改变；5 突触
2、从感知输入到传送出一个输出脉冲的延迟时问是 05ms。可见，MP 模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看 MP 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此，MP 模型被认为开创了神经科学理论研究的新时代。1949 年，心理学家 D0Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则Hebb 规则，为神经网络的学习算法奠定了基础。1957 年，计算机学家FrankRosenblatt 提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑
3、的感知学习能力，Rosenblatt 认为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。1962 年 Widrow 提出了自适应线性元件(Adaline)，它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。2）低潮期人工智能的创始人之一 Minkey 和 pape经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于 1969 年出版了很有
4、影响的Perceptron)一书，该书提出了感知器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起低潮的更重要的原因是：20世纪 7O 年代以来集成电路和微电子技术的迅猛发展，使传统的冯诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的 SGrossberg 教授和赫尔辛基大学的 Kohonen 教授，仍致力于神经网络的研究，分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型(SOM)。以上开创性的研究成果和工作
5、虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。3)复兴时期20 世纪 80 年代以来，由于以逻辑推理为基础的人工智能理论和冯诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们怀疑当前的冯诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近人脑的计算模型，于是又形成了对神经网络研究的热潮。1982 年，美国加州理工学院的物理学家JohnJHopfield 博士发表了一篇对神经网络研究的复苏起了重要作用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和各种算法概括起来，塑造出2一种新颖的强有力
6、的网络模型，称为 Hopfield 网络。他引入了“计算能量函数” 的概念，给出了网络稳定性依据。从而有力地推动了神经网络的研究与发展。1986 年，Rumelhart及 Cun 等学者提出了多层感知器的反向传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。这一时期，大量而深入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。4)新时期1987 年 6 月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会(INNS)，并于1
7、988 年在美国波士顿召开了年会，会议讨论的议题涉及到生物、电子、计算机、物理、控制、信号处理及人工智能等各个领域。自 1988 年起，国际神经网络学会和国际电气工程师与电子工程师学会(IEEE)联合召开了每年一次的国际学术会议。这次会议后不久，美国波士顿大学的 StephenGrossberg 教授、芬兰赫尔辛基技术大学的 Teuvo Kohonen 教授及日本东京大学的甘利俊一教授，主持创办了世界第一份神经网络杂志Neural Network)。随后，IEEE 也成立了神经网络协会并于 1990 年 3 月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。从 1987 年以来，神
8、经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发展。神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。神经网络的应用已渗透到模式识别、图像处理、非线性优化、语音处理、自然语言理解、自动目标识别、机器人专家系统等各个领域，并取得了令人瞩目的成果。2、人工神经网络的应用(1)信息领域信息领域神经网络作为一种新型智能信息处理系统，其应用贯穿信息的获取、传输、接收与加工利用等各个环节。1)信号处理神经网络广泛应用于自适应信号处理和非线性信号处理。前者如信号的自适应滤波、时间序列预测、谱估计、噪声消除等
9、；后者如非线性滤波、非线性预测、非线性编码、调制解调等。2)模式识别模式识别涉及模式的预处理变换和将一种模式映射为其他类型的操作。神经网络不仅可以处理静态模式如固定图像、固定能谱等，还可以处理动态模式如视频图像、连续语音等。3)数据压缩在数据传送存储时，数据压缩至关重要。神经网络可对待传送的数据提取模式特征，只将该特征传出，接收后再将其恢复成原始模式。(2) 自动化领域神经网络和控制理论与控制技术相结合，发展为神经网络控制。为解决复杂的非线性不确定、不确知系统的控制问题开辟了一条新的途径。1)系统辨识在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模型。多年来控制领域对于复杂的非线性对
10、象的辨识，一直未能很好的解决。神经网络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具有复杂的非线性、不确定性和确知对象的辨识问题开辟了一条有效途径。2)神经控制器控制器在实时控制系统中起着“大脑” 的作用，神经网络具有自学习和自适应等智能特点，因而非常适合于做控制器。对于复杂非线性系统神经控制器所达到的控制效果往往明显好于常规控制器。3)智能检测所谓智能检测一般包括干扰量的处理，传感器输入特性的非线性补偿，零点和3量程的自动校正以及自动诊断等。这些智能检测功能可以通过传感元件和信号处理元件的功能集成来实现。在综合指标的检测(例如对环境舒适度这类综合指标的检测 )中，以神
11、经网络作为智能检测中的信息处理元件便于对多个传感器的相关信息(如温度、湿度、风向和风速等)进行复合、集成、融合、联想等数据融合处理，从而实现单一传感器所不具备的功能。(3)工程领域1)汽车工程汽车在不同状态参数下运行时，能获得最佳动力性与经济性的档位称为最佳档位。利用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自动提取蕴含在其中的最佳换档规律。另外，神经网络在汽车刹车自动控制系统中也有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受到最小冲击实现平稳刹车而不受路面坡度和车重的影响。神经网络在载重车柴油机燃烧系统方案优化中也得到了应用，有效的降低了油耗和排
12、烟度，获得了良好的社会经济效益。2)军事工程神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。例如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一般正确率可达95。3)化学工程神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开展，取得了不少成果。例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射光谱和质谱与化合物的化学结构问建立某种确定的对应关系方面的成功应用。（4）经济领域人工神经网络在经济领域的应用主要有：1)价格预测影响商品和服务价格变动的因素是复杂、多变的，传统的统计经济学方法存在不适合动态系统、建模复杂等局限性，难以对价格变动作出科学的预测，人工
13、神经网络容易处理不完整的、模糊不确定或规律性不明显的数据，所以用人工神经网络进行价格预测是可行的，且有着传统方法无法比拟的优势。从市场价格的确定机制出发，寻求影响商品住宅价格的因素并采用 BP 人工神经网络定量分析这些影响因素，对商品住宅价格的变动趋势进行科学预测，并取得了满意的效果。商品住宅价格影响因素选取及相关数据收集是进行价格预测的关键。影响商品住宅价格变动的因素是复杂、多变的，很难将所有因素纳入分析研究。但是在政治、经济比较平稳的时期，商品住宅价格的变动是由一些基本因素决定的。基于稳定性、数据可获得性以及代表性三大原则。该文选择了以下因素：家庭户数、人均可支配收入、住宅建造成本、一年期
14、贷款利率、城市化水平。同时为了消除通货膨胀对数据波动的不利影响，将2）风险评估商业银行的风险管理问题是我国加入 WTO 后的一个突出问题。目前。信用风险仍然是我国商业银行最主要的风险。我国商业银行目前正处在转轨时期，用传统方法评估信用风险难以达到满意的效果，而神经网络学习能力强，容错性好，具有很强的鲁棒性，适合评价信息不全的系统。文僻根据我国的具体现实，运用人工神经网络技术。构造出适合中国的信用风险模型，并对某国有银行提供的数据进行了实证研究。文嘲对人工神经网络及其应用于信贷风险分析的可行性进行了论述，着重对构建商业银行信贷风险分析的人工神经网络模型进行了深入细致的研究。文 01 将人工智能方
15、法用于解决投资风险管理问题，研究了用人工神经网络方法进行风险评价的可行性，确定了神经网络投资风险评价模型的结构和算法，计算出了节点间的权重分布。利用该模型进行了实证分析，取得满意效果。3、人工神经网络的发展趋势与展望4人工神经网络是对人脑信息处理方式的模拟，但是目前的对人脑处理信息方式中一些实质性问题还没有取得突破性进展。由于人们对人脑完整工作过程几乎没有什么认识，连一个稍微完善的可令人接受的假设也没有，这造成神经网络研究始终缺乏一个明确的大方向。这方面如果不能有所突破，神经网络研究将始终限于模仿人脑局部功能的缓慢摸索过程当中，而难以达到研究水平的质的飞跃。在数学研究方面，当今神经网络理论的发
16、展，已经客观要求有关数学领域必须有所发展，并大胆预期一种更简洁、更完善和更有效的非线性系统表达与分析的数学方法是这一领域数学发展的主要目标之一。因此与人工神经网络技术发展相关的数学领域的发展至关重要。从神经网络发展过程看，理论研究经常走在前列，有时会超出实际使用阶段。虽然说理论研究和实际应用可以相辅相成，但实际需求总是科技发展的主要推动力。目前，在神经网络实用上，虽然有不少实际应用成果报道，如智能控制、模式识别及机器人控制等，但真正成熟的应用还比较少见。故而在神经网络的应用上应寻求新的突破。要真正实现神经网络计算机，神经网络芯片设计与生产技术必须有实质性的进展。目前，在单片上集成数百个神经元的
17、制作技术已经没有困难，但这种水平与神经网络实际应用的要求尚有较大距离。神经网络硬件设计和理论研究相比，要落后很多。因此，这也是神经网络研究发展的重要方向之一。对于神经网络控制技术的研究主要集中在以下几个方面：模糊神经网络的研究；模糊神经网络与遗传算法(GA)的结合；模糊神经网络与其他控制方法综台的选择；闭环系统稳定性的研究；新型神经网络和快速算法及其在控制系统中的应用的研究。尽管神经控制相对于常规控制在某些方面有无可比拟的优势，它可以用来处理常规控制方法难以处理的复杂非线性系统的控制问题，而这并不意味着对所有的非线性系统的控制问题，神经控制就一定比常规控制好。对有些可以用常规控制解决的非线性系统的控制问题，究竟采用哪一种方法好，目前尚无定论。因此，可将神经控制和常规控制用于相同的非线性系统，并对它们的控制效果进行比较研究。它可为人们选择合适的控制方案提供指导。
