1、1神经网络基础及其应用作业导 师: 高 新 波班 级: 研 2-061 班选课类型: 任 选 课姓 名: 鲁 保 华学 号: 0610220583电 话:159299288942浅谈人工智能、机器学习和计算智能的关系多年来,神经网络的研究取得了较大的进展,成为具有一种独特风格的信息处理学科。当然目前的研究还只是一些简单的神经网络模型。要建立起一套完整的理论和技术系统,需要作出更多努力和探讨。通过半年对神经网络基础及其应用学习,我在这里智能浅谈一下人工智能、机器学习和计算智能三者的关系。一、人工智能、机器学习和计算智能三者的概念(一)人工智能的概念著名的美国斯坦福大学人工智能研究中心尼尔逊教授对
2、人工智能下了这样一个定义:“ 人工智能是关于知 识的学科怎样表示知识以及怎样获得知识并使用知识的科学。” 而另一个美国麻省理工学院的温斯顿教授认为:“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”这 些说法反映了人工智能学科的基本思想和基本内容。即人工智能是研究人类智能活动的规律,构造具有一定智能的人工系统,研究如何让计算机去完成以往需要人的智力才能胜任的工作,也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术。人工智能(Artificial Intelligence,简称 AI)是计算机学科的一个分支,二十世纪七十年代以来被称为世界三大尖端技术之一(
3、空间技术、能源技术、人工智能)。也被认为是二十一世纪(基因工程、纳米科学、人工智能)三大尖端技术之一。这是因为近三十年来它获得了迅速的发展,在很多学科领域都获得了3广泛应用,并取得了丰硕的成果,人工智能已逐步成为一个独立的分支,无论在理论和实践上都已自成一个系统。人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,主要包括计算机实现智能的原理、制造类似于人脑智能的计算机,使计算机能实现更高层次的应用。人工智能将涉及到计算机科学、心理学、哲学和语言学等学科。可以说几乎是自然科学和社会科学的所有学科,其范围已远远超出了计算机科学的范畴,人工智能与思维科学的关
4、系是实践和理论的关系,人工智能是处于思维科学的技术应用层次,是它的一个应用分支。从思维观点看,人工智能不仅限于逻辑思维,要考虑形象思维、灵感思维才能促进人工智能的突破性的发展,数学常被认为是多种学科的基础科学,数学也进入语言、思维领域,人工智能学科也必须借用数学工具,数学不仅在标准逻辑、模糊数学等范围发挥作用,数学进入人工智能学科,它们将互相促进而更快地发展。(二)机器学习的概念学习是人类具有的一种重要智能行为,但究竟什么是学习,长期以来却众说纷纭。社会学家、逻辑学家和心理学家都各有其不同的看法。按照人工智能大师西蒙的观点,学习就是系统在不断重复的工作中对本身能力的增强或者改进,使得系统在下一
5、次执行同样任务或类似任务时,会比现在做得更好或效率更高。西蒙对学习给出的定义本身,就说明了学习的重要作用。机器能否象人类一样能具有学习能力呢?1959 年美国的塞缪尔(Samuel)设计 了一个下棋程序, 这个程序具有学习能力,它可以在不断4的对奕中改善自己的棋艺。4 年后,这个程序战胜了设计者本人。又过了 3 年,这个程序战胜了美国一个保持 8 年之久的常胜不败的冠军。这个程序向人们展示了机器学习的能力,提出了许多令人深思的社会问题与哲学问题。机器的能力是否能超过人的,很多持否定意见的人的一个主要论据是:机器是人造的,其性能和动作完全是由设计者规定的,因此无论如何其能力也不会超过设计者本人。
6、这种意见对不具备学习能力的机器来说的确是对的,可是对具备学习能力的机器就值得考虑了,因为这种机器的能力在应用中不断地提高,过一段时间之后,设计者本人也不知它的能力到了何种水平。什么叫做机器学习(machine learning)?至今,还没有统一的“机器学习” 定义 ,而且也很 难给出一个公认 的和准确的定义。为了便于进行讨论和估计学科的进展,有必要对机器学习给出定义,即使这种定义是不完全的和不充分的。顾名思义, 机器学习 是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是:机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。这里所说的“ 机器 ”,指的就是计算机;现
7、在是电 子计算机,以后还可能是中子计算机、光子计算机或神经计算机等等。机器学习可以总结归纳为如下模型:(三)计算机智能的概念5计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域,它的研究和发展正是反映了当代科学技术多学科交叉与集成的重要发展趋势。第一个对计算智能的定义是由贝兹德克(Bezdek)于 1992 年提出的。贝兹德克对这些相关术语给予一定的符号和简要说明或定义。他给出有趣的 ABC:AArtificial, 表示人工的(非生物的),即人造的BBiological, 表示物理的化学的(?)生物的CComputational, 表示数学计算机可以用下图表示 ABC 及其与神经网络(
8、NN )、模式识别(PR)和智能(I )之间 的关系。计算智能是一种智力方式的低层认知,它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识(精品),低层系统则没有。当一个系统只涉及数值(低层)数据,含有模式识别部分,不应用人工智能意义上的知识,而且能够呈现出:(1)计算适应性;(2)计算容错性;(3)接近人的速度;(4)误差率与人相近。6则该系统就是计算智能系统。二、三者的关系(一)人工智能与机器学习的关系1950 年英国数学家图灵(A.M.Turing,19121954)发表了”计算机与智能”的 论文中提出著名的 “图灵测试 ”,形象地提出人工智能应该达到的智能标准;图灵在
9、这篇论文中认为“ 不要问一个机器是否能思维,而是要看它能否通过以下的测试;让人和机器分别位于两个房间,他们只可通话,不能互相看见。通过对话,如果人的一方不能区分对方是人还是机器,那么就可以认为那台机器达到了人类智能的水平。图灵为此特地设计了被称为“图灵梦想” 的对话 。在这段对话中“询问者”代表人,“智者 ”代表机器,并且假定他 们 都读过狄更斯(C.Dickens)的著名小说匹克威克外传,对话内容如下:询问者:在 14 行诗的首行是“你如同夏日” ,你不觉得“春日”更好吗?智者:它不合韵。询问者:“冬日 ”如何?它可完全合韵的。智者:它确是合韵,但没有人愿意被比作“冬日” 。询问者:你不是说
10、过匹克威克先生让你想起圣诞节吗?智者:是的。询问者:圣诞节是冬天的一个日子,我想匹克威克先生对这个比喻不会介意吧。智者:我认为您不够严谨,“冬日” 指的是一般冬天的日子,而不是某个特别的日子,如圣诞节。7从上面的对话可以看出,能满足这样的要求,要求计算机不仅能模拟而且可以延伸、扩展人的智能,达到甚至超过人类智能的水平,在目前是难以达到的,它是人工智能研究的根本目标。人工智能研究的近期目标;是使现有的计算机不仅能做一般的数值计算及非数值信息的数据处理,而且能运用知识处理问题,能模拟人类的部分智能行为。按照这一目标,根据现行的计算机的特点研究实现智能的有关理论、技术和方法,建立相应的智能系统。例如
11、目前研究开发的专家系统,机器翻译系统、模式识别系统、机器学习系统、机器人等。而机器学习是要使计算机具有知识一般有两种方法;一种是由知识工程师将有关的知识归纳、整理,并且表示为计算机可以接受、处理的方式输入计算机。另一种是使计算机本身有获得知识的能力,它可以学习人类已有的知识,并且在实践过程中不总结、完善,这种方式称为机器学习。机器学习的研究,主要在以下三个方面进行:一是研究人类学习的机理、人脑思维的过程;和机器学习的方法;以及建立针对具体任务的学习系统。机器学习的研究是在信息科学、脑科学、神经心理学、逻辑学、模糊数学等多种学科基础上的。依赖于这些学科而共同发展。目前已经取得很大的进展,但还没有
12、能完全解决问题。(二)人工智能与计算智能的关系人工智能主要研究用人工的方法和技术,模仿、延伸和扩展人的智能,实现机器智能。有人把人工智能分成两大类:一类是符号智能,一8类是计算智能。符号智能是以知识为基础,通过推理进行问题求解。也即所谓的传统人工智能。计算智能是以数据为基础,通过训练建立联系,进行问题求解。人工神经网络、遗传算法、模糊系统、进化程序设计、人工生命等都可以包括在计算智能。 传统人工智能主要运用知识进行问题求解。从实用观点看,人工智能是一门知识工程学:以知识为对象,研究知识的表示方法、知识的运用和知识获取。计算智能是以生物进化的观点认识和模拟智能。按照这一观点,智能是在生物的遗传、
13、变异、生长以及外部环境的自然选择中产生的。在用进废退、优胜劣汰的过程中,适应度高的(头脑)结构被保存下来,智能水平也随之提高。因此说计算智能就是基于结构演化的智能。计算智能的主要方法有人工神经网络、遗传算法、遗传程序、演化程序、局部搜索、模拟退火等等。这些方法具有以下共同的要素:自适应的结构、随机产生的或指定的初始状态、适应度的评测函数、修改结构的操作、系统状态存储器、终止计算的条件、指示结果的方法、控制过程的参数。计算智能的这些方法具有自学习、自组织、自适应的特征和简单、通用、鲁棒性强、适于并行处理的优点。在并行搜索、联想记忆、模式识别、知识自动获取等方面得到了广泛的应用。典型的代表如遗传算
14、法、免疫算法、模拟退火算法、蚁群算法、微粒群算法,都是一种仿生算法,基于“从大自然中获取智慧” 的理念,通过人们对自然界独特规律的认知,提取出适合获取知识的一套计算工具。总的来说,通过自适应学习的特性,这些算法达到了全局优化的目的。9(三)机器学习与计算智能的关系机器学习是人工智能研究较为年轻的分支,它的发展过程大体上可分为 4 个时期。第一阶段是在 50 年代中叶到 60 年代中叶,属于热烈时期。第二阶段是在 60 年代中叶至 70 年代中叶,被称为机器学习的冷静时期。第三阶段是从 70 年代中叶至 80 年代中叶,称为复兴时期。机器学习的最新阶段始于 1986 年。机器学习的主要表现形式:
15、(1) 机器学习已成为新的边缘学科并在高校形成一门课程。它综合应用心理学、生物学和神经生理学以及数学、自动化和计算机科学形成机器学习理论基础。(2) 结合各种学习方法,取长补短的多种形式的集成学习系统研究正在兴起。特别是连接学习符号学习的耦合可以更好地解决连续性信号处理中知识与技能的获取与求精问题而受到重视。(3) 机器学习与人工智能各种基础问题的统一性观点正在形成。例如学习与问题求解结合进行、知识表达便于学习的观点产生了通用智能系统 SOAR 的 组块学习。类比学习与问题求解结合的基于案例方法已成为经验学习的重要方向。(4) 各种学习方法的应用范围不断扩大,一部分已形成商品。归纳学习的知识获
16、取工具已在诊断分类型专家系统中广泛使用。连接学习在声图文识别中占优势。分析学习已用于设计综合型专家系统。遗传算法与强化学习在工程控制中有较好的应用前景。与符号系统耦合的神经网络连接学习将在企业的智能管理与智能机器人运动规划中发挥作用。(5) 与机器学习有关的学术活动空前活跃。国际上除每年一次的10机器学习研讨会外,还有计算机学习理论会议以及遗传算法会议。通常我们用计算机,不仅要告诉计算机,要做什么,还必须详细地、正确地告诉计算机怎么做。也就是说,人们要根据任务的要求,以适当的计算机语言,编制针对该任务的应用程序,才能应用计算机完成此项任务。这样实际上是在人完全控制计算机完成的,是谈不上计算机有
17、“智能 ”。大家都知道,世界国际象棋棋王卡斯帕罗夫与美国 IBM 公司的RS6000(深蓝)计 算机系统于 1997 年 5 月 11 日进行了六局“人机大战” ,结果 “深蓝”以 3.5 比 2.5 的总比分获胜。比赛结束了给人们留下了深刻的思考;下棋要获胜要求选手要有很强的思维能力、记忆能力、丰富的下棋经验,还得及时作出反映,迅速进行有效的处理,否则一着出错满皆输,这显然是个“智能” 问题。尽管开 发“深蓝”计算机的 IBM专家也认为它离智能计算机还相差甚远,但它以高速的并行的计算能力(2r108 步秒棋的计算速度)。实现了人类智力的计算机上的部分模拟。从字面上看,“人工智能 ”就是用人工的方法在 计算机上实现人的智能,或者说是人们使计算机具有类似于人的智能。三、致谢最后深深的感谢杨老师对我们不辞辛苦的传道、授业、解惑。杨老师对神经网络基础及应用的深入浅出的讲解,使我初步奠定了学习神经网络的基础,为下一步研究生的学业增加了许多可以利用的学习方法。