《智能计算1.ppt》由会员分享,可在线阅读,更多相关《智能计算1.ppt(82页珍藏版)》请在三一文库上搜索。
1、1,计算与智能计算概述,2,计算与电子计算机 智能与智能计算机 智能计算 智能计算算法,计算与智能计算概述,3,计算与电子计算机,一、计算是一种将单一或复数之输入值转换为单一或复数之结果的一种思考过程。 广义的计算包括: 数学计算,逻辑推理,文法的产生式,集合论的函数,组合数学的置换,变量代换,图形图像的变换,数理统计等。 人工智能解空间的遍历,问题求解,图论的路径问题,网络安全,代数系统理论,上下文表示感知与推理,智能空间等。,4,计算与电子计算机,甚至包括数字系统设计(例如逻辑代数),软件程序设计(文法),机器人设计,建筑设计等设计问题。,随着数学和计算机技术的进展,计算的观念越来越显示其
2、在各个领域的威力,从计算的角度审视世界,认为从物理世界、生命过程直到人类智能都是可计算的(Computable),甚至整个宇宙完全是由算法(Algorithm)支配的。,5,计算与电子计算机,二、第一台电子计算机(ENIAC:Electronic Numerical Integrator and Computer) 1946年,在美国宾夕法尼亚大学莫尔学院产生; 重量30吨,占地170平方米,功率140千瓦; 电子管18000多个,继电器1500多个; 采用10进制,机器字长10位,运算最快速度5000次/秒; 工作方式:通过插件式“外接”线路实现的,尚未采用“程序存储”方式; 耗资48万美元
3、,历时3年,由Mauchly和Eckert领导的科研小组研制;,6,计算与电子计算机,Mauchly和Eckert等研制成功ENIAC电子数字计算机,为计算机学科发展奠定物质基础,但ENIAC计算机存在两个严重缺点: 没有存储器; 它用布线接板进行控制,甚至要搭接几天,计算速度也就被这一工作抵消了,7,计算与电子计算机,三、冯.诺依曼机 冯.诺依曼机: 采用程序存储方式,即在计算机中设置存储器,将符号化的计算步骤放在存储器中,然后依次取出存储的内容进行译码,并按照译码结果进行计算,从而实现计算机工作的自动化。,冯 诺依曼,8,熟悉计算机发展历史的人大都知道,美国科学家冯诺依曼被誉为“计算机之父
4、”,他是二十世纪最伟大的发明家之一。 数学史界却同样坚持认为,冯诺依曼是二十世纪最伟大的数学家之一,他在遍历理论、拓扑群理论等方面作出了开创性的工作,算子代数甚至被命名为“冯诺依曼代数”。,冯诺依曼,9,1931年匈牙利首都布达佩斯。身为犹太银行家的父亲在报纸上刊登启事,要为他11岁的孩子招聘家庭教师,聘金超过常规10倍。布达佩斯人才济济,可一个多月过去,居然没有一人前往应聘。因为这个城市里,谁都听说过,银行家的长子冯诺依曼聪慧过人,3岁就能背诵父亲帐本上的所有数字, 6岁能够心算8位数除8位数的复杂算术题,8岁学会了微积分。,冯诺依曼,10,父亲无可奈何,只好把冯诺依曼送进一所正规学校就读。
5、不到一个学期,他班上的数学老师走进家门,告诉银行家自己的数学水平已远不能满足冯诺依曼的需要。“假如不给这孩子深造的机会,将会耽误他的前途,”老师认真地说道,“我可以将他推荐给一位数学教授,您看如何?” 银行家一听大喜过望,于是冯诺依曼一面在学校跟班读书,一面由布达佩斯大学教授为他“开小灶”。,冯诺依曼,11,然而,这种状况也没能维持几年,勤奋好学的中学生很快又超过了大学教授,他居然把学习的触角伸进了当时最新数学分支集合论和泛函分析,同时还阅读了大量历史和文学方面的书籍,并且学会了七种外语。毕业前夕,冯诺依曼与数学教授联名发表了他第一篇数学论文,那一年,他还不到17岁。,冯诺依曼,12,考大学前
6、夕,匈牙利政局动荡,冯诺依曼便浪迹欧洲各地,在柏林和瑞士一些著名的大学听课。22岁时,他获瑞士苏黎士联邦工业大学化学工程师文凭。一年之后,轻而易举摘取布达佩斯大学数学博士学位。在柏林当了几年无薪讲师后,他转而攻向物理学,为量子力学研究数学模型,又使自己在理论物理学领域占据了突出的地位。风华正茂的冯诺依曼,靠着顽强的学习毅力,在科学殿堂里“横扫千军如卷席”,成为横跨“数、理、化”各门学科的超级全才。,冯诺依曼,13,1928年,美国数学泰斗、普林斯顿高级研究院维伯伦教授(O.Veblen)广罗天下之英才,一封烫金的大红聘书,寄给了柏林大学这位无薪讲师,请他去美国讲授“量子力学理论课”。冯诺依曼预
7、料到未来科学的发展中心即将西移,欣然同意赴美国任教。1930年,27岁的冯诺依曼被提升为教授;1933年,他又与爱因斯坦一起,被聘为普林斯顿高等研究院第一批终身教授,而且是6名大师中最年轻的一名。,冯诺依曼,14,1944年戈德斯坦来到阿贝丁车站,等候去费城的火车,突然看见前面不远处,有个熟悉的身影向他走过来。来者正是闻名世界的大数学家冯诺依曼。天赐良机,戈德斯坦感到绝不能放过这次偶然的邂逅,他把早已埋藏在心中的几个数学难题,一古脑儿倒出来,向数学大师讨教。数学家和蔼可亲,没有一点架子,耐心地为戈德斯坦排忧解难。听着听着,冯诺依曼不觉流露出吃惊的神色,敏锐地从数学问题里,感到眼前这位青年身边正
8、发生着什么不寻常的事情。他开始反过来向戈德斯坦发问,直问得年轻人“好像又经历了一次博士论文答辩”。最后,戈德斯坦毫不隐瞒地告诉他莫尔学院的电子计算机课题和目前的研究进展。,冯诺依曼,15,1945年6月,冯 诺依曼与戈德斯坦、勃克斯等人,联名发表了一篇长达101页的报告,即计算机史上著名的“101页报告”,直到今天,仍然被认为是现代计算机科学发展里程碑式的文献。报告明确规定出计算机的五大部件,并用二进制替代十进制运算。,冯诺依曼,16,是美国国家科学院、秘鲁国立自然科学院和意大利国立林且学院等院的院土。 1951年至1953年任美国数学会主席; 1954年他任美国原子能委员会委员; 1954年
9、夏,冯.诺依曼被诊断患有癌症,1957年2月8日,在华盛顿去世,终年54岁。,冯诺依曼,17,智能与智能计算机,一、智能(Intelligence):认知、识别、推理、决策、规划、解决问题、适应、学习、理解等内在而天然的才能。 认识和理解世界环境的能力 进行演绎和归纳推理、作出决策的能力 学习的能力 自我适应的能力,18,智能与智能计算机,智能是一种能力,即在给定问题-环境-目的的条件下,有针对性地获取和合理地处理问题与环境的信息,在此基础上结合目的信息明智地再生策略信息,并在给定环境条件下正确地利用策略信息成功地解决问题,满意地达到预定目的的能力。,19,智能与智能计算机,二、智能计算机 体
10、系结构:智能化的头脑和躯干 人机接口:智能化的五官和四肢 在体系结构方面:智能计算机是要试图打破冯诺依曼式计算机的存储程序式的框架,实现类似人脑结构的计算机体系结构,以期获得自学习、自组织、自适应、分布式的并行计算的功能。 在人机接口方面:文字识别、语音识别、语音合成、图像识别、机器翻译、自然语言理解,20,智能与智能计算机,数字计算机能不能模拟人的智能? 1937年A.丘奇和图灵分别独立地提出关于人的思维能力与递归函数的能力等价; H.德雷福斯等哲学家肯定地认为以图灵机为基础的数字计算机不能模拟人的智能。数字计算机-形式化的信息处理 怎样判断计算机是否具有智能?-图灵实验,21,Turing
11、图灵,艾伦麦席森图灵(Turing,1912年6月23日 - 1954年6月7日),英国数学家。 “计算机科学之父” 3岁那年,他进行了在科学实验方面的首次尝试把玩具木头人的胳膊掰下来种植到花园里,想让它们长成更多的木头人。 8岁时,图灵尝试着写了一部科学著作,题名关于一种显微镜。,22,1937年,伦敦权威的数学杂志又收到图灵一篇论文论可计算数及其在判定问题中的应用,作为阐明现代计算机原理的开山之作,被永远载入了计算机的发展史册。 这篇论文原本是为了解决一个基础性的数学问题:是否只要给人以足够的时间演算,数学函数都能够通过有限次运算求得解答?传统数学家当然只会想到用公式推导证明它是否成立,可
12、是图灵独辟蹊径地想出了一台冥冥之中的机器。,Turing图灵,23,图灵机,图灵想象的机器说起来很简单:使用一条无限长度的纸带,纸带被划分成许多方格,有的方格被画上斜线,代表“1”;有的没有画任何线条,代表“0”。该机器有一个读写器件,可以从带子上读出信息,也可以往空方格里写下信息。 图灵机,24,“巨人”计算机,第二次世界大战期间,图灵应征入伍,在战时英国情报中心“布雷契莱庄园” 从事破译德军密码的工作,与战友们一起制作了第一台密码破译机。 在图灵理论指导下,这个“庄园”后来还研制出破译密码的专用电子管计算机“巨人”(Colossus)。,25,“巨人”计算机,1944年2月,“巨人”计算机
13、正式启用。布雷契莱庄园依靠“巨人” 向英国和盟军指挥部发出了48000份“超级机密”电报,平均每小时破译的德国情报超过了11份。 由于“巨人”及时提供准确的情报,德军“海狼行动”遭到惨败,600余舰被击沉。 此外,“巨人”也在诺曼底登陆战役里发挥了巨大作用,以至有人认为:“巨人”参战改变了战争的进程。,26,ACE电脑,1945年,脱下军装的图灵,带着大英帝国授予的最高荣誉勋章,被录用为泰丁顿国家物理研究所高级研究员。由于有了布雷契莱的实践,他提交了一份“自动计算机”的设计方案,领导一批优秀的电子工程师,着手制造一种名叫ACE的电脑。 1950年,ACE电脑样机公开表演。,27,1950年,图
14、灵来到曼彻斯特大学任教,并被指定为该大学自动计算机项目的负责人。就在这年10月,他的又一篇划时代论文计算机与智能 发表。这篇文章后来被改名为机器能思维吗? Can a machine think?,Can a machine think?,28,图灵试验,试图通过让机器模仿人回答某些问题,判断它是否具备智能。图灵试验采用“问”与“答”模式,即观察者通过控制打字机向两个试验对象通话,其中一个是人,另一个是机器。要求观察者不断提出各种问题,从而辨别回答者是人还是机器。 图灵指出:“如果机器在某些现实的条件下,能够非常好地模仿人回答问题,以至提问者在相当长时间里误认它不是机器,那么机器就可以被认为是
15、能够思维的。”,29,图灵预测,2000年之前计算机有30%的概率蒙骗一个普通人达5分钟。 然而,AI研究者相信研究智能的根本原理远比复制智能更重要。,图灵预测,30,图灵测试对计算机的要求,自然语言处理 知识表示 自动推理 机器学习 完全图灵测试 计算机视觉 机器人技术,31,图灵测试,从表面上看,要使机器回答按一定范围提出的问题似乎没有什么困难,可以通过编制特殊的程序来实现。然而,如果提问者并不遵循常规标准,编制回答的程序是极其困难的事情。,32,图灵试验,问:你会下国际象棋吗? 答:是的。 问:你会下国际象棋吗? 答:是的。 问:请再次回答,你会下国际象棋吗? 答:是的。 你多半会想到,
16、面前的这位是一部笨机器。,33,图灵试验,问: 你会下国际象棋吗? 答:是的。 问:你会下国际象棋吗? 答:是的,我不是已经说过了吗? 问:请再次回答,你会下国际象棋吗? 答:你烦不烦,干嘛老提同样的问题。,34,图灵试验,上述两种对话的区别在于,第一种可明显地感到回答者是从知识库里提取简单的答案,第二种则具有分析综合的能力,回答者知道观察者在反复提出同样的问题。“图灵试验”没有规定问题的范围和提问的标准,如果想要制造出能通过试验的机器,以我们现在的技术水平,必须在电脑中储存人类所有可以想到的问题,储存对这些问题的所有合乎常理的回答,并且还需要理智地作出选择。,35,图灵预言,图灵曾预言,随着
17、计算机科学和机器智能的发展,20世纪末将会出现这样的机器。在这点上,图灵也过于乐观。但是,“图灵试验”大胆地提出“机器思维”的概念,为人工智能等领域确定了奋斗的目标,并指明了前进的方向。 遗憾的是,1954年6月8日,图灵英年早逝!,36,智能与智能计算机,1997年5月11日北京时间早晨4时50分,一台名叫“深蓝”的超级电脑在棋盘C4处落下最后一颗棋子,全世界都听到了震撼世纪的叫杀声“将军”!这场举世瞩目的“人机大战”,终于以机器获胜的结局降下了帏幕。(卡斯帕罗夫 ) “深蓝”是一台智能电脑,是人工智能的杰作。新闻媒体以挑衅性的标题不断地发问:电脑战胜是一个人,还是整个人类的智能?连棋王都认
18、了输,下一次人类还将输掉什么?智慧输掉了,人类还剩些什么?,37,智能与智能计算机,“深蓝”的技术指标: 32个CPU 每个CPU有16个协处理器 每个CPU有256M内存 每个CPU的处理速度为200万步/秒 每秒行棋速度:卡斯帕罗夫2步, “深蓝”2亿步。,38,技术创新浪潮的经济长波规律(康德拉捷夫),第一次浪潮,第二次浪潮,第三次浪潮,第四次浪潮,第五次浪潮,1785 1845 1900 1950 1990 1999 2020,创 新 步 伐,水力 纺织 铁,蒸汽 铁路 钢,电 化学品 内燃机,石油化学 电子 航空,数字网络 软件 新媒体,60年,55年,50年,40年,30年,机械化
19、,铁路化,电气化,电子化,数字化,智能计算,一、智能科学,39,科学发展大趋势,第一次浪潮,第二次浪潮,第三次浪潮,第四次浪潮,1990 2020 2050 2080 2100,创 新 步 伐,数字网络 软件 新媒体,生物基因 (蛋白质) 纳米材料,脑科学 智能技术,? ?,智能计算,40,21世纪: 智能科学科学发展大趋势 智能科学是一门交叉学科,主要由 脑科学 认知科学 人工智能 等学科共同研究智能行为的基本理论和实现技术。,智能计算,41,二、智能计算 1992年,美国学者James首次提出:智能计算是依靠生产者提供的数字、数据材料进行加工处理,而不是依赖于知识,也称为计算智能 (Com
20、putational Intelligence, CI)。 人工智能(Artificial Intelligence, AI)则是须用知识进行处理。,智能计算,42,1994年,James在Florida, Orlando, 94 IEEE WCCI会议上又阐述他的观点,智能有三个层次: 生物智能(Biological Intelligence, BI)由人脑的物理化学过程反映出来的,人脑是有机物,它是智能的基础。 人工智能(Artificial Intelligence, AI)是非生物的,人造的,常用符号来表示,AI的来源是人类知识的精华。 计算智能(Computational Intel
21、ligence, CI)是由数学方法和计算机实现的,CI的来源数值计算的传感器。,智能计算,43,从复杂性来看:BI AI CI ; 从所属关系来看:AI是CI到BI的过渡,因为AI中除计算算法之外,还包括符号表示及数值信息处理。模糊集合和模糊逻辑是AI到CI的过渡。,智能计算,44,智能计算是借助自然界(生物界)规律的启示,根据其规律,设计出求解问题的算法。 物理学、化学、数学、生物学、心理学、生理学、神经科学和计算机科学等学科的现象与规律都可能成为计算智能算法的基础和思想来源。 计算智能是以生物进化的观点认识和模拟智能,是基于结构演化的智能。,智能计算,45,计算智能主要包括三个领域: 神
22、经计算(Neural Computation) 模糊计算(Fuzzy Computation) 进化计算(Evolution Computing) 计算智能系统是在神经网络、模糊系统、进化计算三个分支发展相对成熟的基础上,通过相互之间的有机融合而形成的新的科学方法,也是智能科学与技术发展的崭新阶段。 计算智能也被认为是人工智能的一个分支。,智能计算,46,智能计算算法包括: 神经计算:人工神经网络 模糊计算:模糊逻辑、模糊推理、模糊系统 进化计算: 遗传算法 蚁群优化算法 粒子群算法等 (模拟退火算法),智能计算算法,47,一、神经计算(Neural Computation ) 神经计算科学是
23、人工智能的重要组成部分。 神经计算科学是“神经”+“计算”的科学,是在细胞的水平上模拟脑结构和脑功能的科学,是关于人工神经系统或人工神经网络的原理、结构和功能的科学。 人工神经网络(Artificial Neural Networks,ANN),智能计算算法,48,神经网络模型MP模型 在1943年沃仑麦卡洛克(Warrenc McCulloch)和沃尔特皮兹(Walter Pitts)研究表明,在原则上由非常简单的单元连接在一起组成的“网络”可以对任何逻辑和算术函数进行计算。因为网络的单元有些像大大简化的神经元,它现在常被称作“神经网络”。 McCulloch和Pitts建立神经网络数学模型
24、,通过模拟人脑实现智能,开创人工神经网络研究。,神经计算,49,Actions from thoughts,智能不仅要功能上模拟 而且要机理上模拟,神经计算,50,生物神经元,神经计算,51,突触的可塑性,神经计算,52,神经网络,神经计算,53,二、模糊计算(Fuzzy Computation) 模糊计算就是用数学手段把人脑对复杂事物进行模糊度量、模糊识别、模糊推理、模糊控制和模糊决策的本领移植到电子计算机上来,提高计算机的智能信息处理能力。 1965年美国自动控制论学者L.Zadeh教授开创模糊数学,就迅速与信息理论相结合发展成一门新的学科模糊计算。,智能计算算法,54,二、模糊计算(Fu
25、zzy Computation) 模糊集合、模糊逻辑及其运算 模糊逻辑推理 模糊判决方法,模糊计算,55,二、模糊计算(Fuzzy Computation) 模糊计算以模糊集理论为基础,它可以模拟人脑非精确、非线性的信息处理能力 模糊计算的本质特征是不确定性和不精确性。 模糊计算的整体性和泛性特征。,模糊计算,56,三、进化计算(Evolutionary Computation) “进化计算”是一类模拟生物进化过程与机制求解问题的自组织、自适应人工智能技术。 它起源于20世纪60年代: J. Holland针对机器学习问题所提出的遗传算法 I. Recenberg 和H. P. Schwefe
26、l 用于数值优化问题的进化策略 L. J. Fogel针对优化模拟系统所提出的进化规划,智能计算算法,57,自然界所提供的答案是经过长期的进化过程而获得的; 不必非常明确地描述问题的全部特征,只需要根据自然法则来产生新的更好解。 进化计算采用简单的编码技术来表示各种复杂的结构,并通过对一组编码表示进行简单的遗传操作和优胜劣汰的自然选择来指导学习和确定搜索的方向。,进化计算,58,进化算法发展历程 进化计算兴起于二十世纪五十年代末; 进化计算在20世纪六七十年代并未受到普遍的重视。其主要原因: 一是因为这些方法本身还不够成熟; 二是由于这些方法需要较大的计算量,而当时的计算机还不够普及且速度较慢
27、,这样便限制了它们的应用; 三是当时基于符号处理的人工智能方法正处于其顶峰时期,使得人们难以认识到其它方法的有效性及适应性。,进化计算,59,进化算法发展历程 到了80年代,人工智能方法的局限性越来越突出,并且随着计算机速度的提高和并行计算机的普及,已使得进化计算对机器速度的要求不再是制约其发展的因素。进化计算的不断发展及其在一些应用领域内取得的成功,已表现出了良好的应用前景。,进化计算,60,进化算法发展历程 由于进化计算在机器学习、过程控制、经济预测、工程优化等领域取得的成功,引起了各领域科学家们的极大兴趣,自80年代中期以来,世界上许多国家都掀起了进化计算的研究热潮。目前,有数种以进化计
28、算为主题的国际会议在世界各地定期召开,并已出版了两种以上专门关于进化计算的杂志。可以预料,随着进化计算理论研究的不断深入和应用领域的不断拓广,进化计算必将取得更大的成功。,进化计算,61,1、遗传算法(Michigan J. Holland) 1962年,J.Holland 在研究自适应系统时,提出系统本身与外部环境的相互作用与协调,涉及进化算法的思想。 1968年,他又提出模式理论,它是遗传算法的主要理论基础。 1975年,J.Holland出版了其开创性的著作“Adaptation in Natural and Artificial Systems”。 后来,J.Holland与他的学生们
29、将该算法加以推广并应用到优化及机器学习等问题之中,并且正式定名为遗传算法。,进化计算,62,遗传算法是一类通过模拟生物界自然选择和自然遗传机制的随机化搜索算法。 它是利用某种编码技术作用于称为染色体的二进制数串,其基本思想是模拟由这些串组成的种群的进化过程,通过有组织地然而是随机地信息交换来重新组合那些适应性好的串。 遗传算法对求解问题的本身一无所知,它所需要的仅是对算法所产生的每个染色体进行评价,并根据适应性来选择染色体,使适应性好的染色体比适应性差的染色体有更多的繁殖机会。,进化计算,63,遗传算法尤其适用于处理传统搜索方法难于解决的复杂的非线性问题,可广泛用于组合优化、机器学习、自适应控
30、制、规划设计和人工生命等领域,是21世纪有关智能计算中的关键技术之一。,进化计算,64,2、进化策略 1964年,由德国柏林工业大学的I. Rechenberg等人提出。 在求解流体动力学柔性弯曲管的形状优化问题时,用传统的方法很难优化设计中描述物体形状的参数,从而利用生物变异的思想来随机地改变参数值并获得了较好的结果。 随后,他们便对这种方法进行了深入的研究和发展,形成了进化计算的另一个分支进化策略。,进化计算,65,进化策略与遗传算法的不同之处在于: 进化策略直接在解空间上进行操作,强调进化过程中从父体到后代行为的自适应性和多样性,强调进化过程中搜索步长的自适应性调节; 而遗传算法是将原问
31、题的解空间映射到位串空间之中,然后再施行遗传操作,它强调个体基因结构的变化对其适应度的影响。 进化策略主要用于求解数值优化问题。,进化计算,66,3、进化规划 进化规划的方法最初是由美国人L.J.Fogel等人在20世纪60年代提出的。 他们在人工智能的研究中发现,智能行为要具有能预测其所处环境的状态,并按照给定的目标作出适当的响应的能力。 在研究中,他们将模拟环境描述成是由有限字符集中符号组成的序列。,进化计算,67,4、进化算法的特点: 智能性 进化计算的智能性包括自组织、自适应和自学习性等。应用进化计算求解问题时,在确定了编码方案、适应值函数及遗传算子以后,算法将根据“适者生存、不适应者
32、淘汰”的策略,利用进化过程中获得的信息自行组织搜索,从而不断地向最佳解方向逼近。 自然选择消除了传统算法设计过程中的一个最大障碍:即需要事先描述问题的全部特点,并说明针对问题的不同特点算法应采取的措施。于是,利用进化计算的方法可以解决那些结构尚无人能理解的复杂问题。,进化计算,68,本质并行性。进化计算的本质并行性表现在两个方面: 一是进化计算是内在并行的,即进化计算本身非常适合大规模并行。 二是进化计算的内含并行性,由于进化计算采用种群的方式组织搜索,从而它可以同时搜索解空间内的多个区域,并相互交流信息,这种搜索方式使得进化计算能以较少的计算获得较大的收益。,进化计算,69,进化计算与传统搜
33、索算法相比较的不同点: 进化算法不是直接作用在解空间上,而是利用解的某种编码表示。 进化算法从一个群体即多个点开始搜索,这是它能以较大的概率找到整体最优解的主要原因之一。 进化算法只使用解的适应性信息(即目标函数),并在增加收益和减小开销之间进行权衡,而传统的搜索算法一般要使用导数等其它辅助信息。 进化算法使用随机转移规则而不是确定性的转移规则。,70,模拟退火算法(SA) 模拟退火算法(Simulated Annealing,简称SA)的思想最早是由Metropolis等(1953)提出的,1983年Kirkpatrick等将其用于组合优化,引起重视。 SA算法是基于Monte Carlo迭
34、代求解策略的一种随机寻优算法,其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。 模拟退火算法在某一初温下,伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解,即在局部优解能概率性地跳出并最终趋于全局最优解。模拟退火算法是一种通用的优化算法,目前已在工程中得到了广泛应用。,模拟退火算法,71,1983年Kirkpatrick等意识到组合优化与物理退火的相似性,并受到Metropolis准则的启迪,提出了模拟退火算法。 模拟退火算法是基于Monte Carlo 迭代求解策略的一种随机寻优算法,其出发点是基于物理退火过程与组合优化之间的相似性,SA由
35、某一较高初温开始,利用具有概率突跳特性的Metropolis抽样策略在解空间中进行随机搜索,伴随温度的不断下降重复抽样过程,最终得到问题的全局最优解。,模拟退火算法,72,人工神经网络能够通过学习和训练获得用数据表达的知识,除了可以记忆已知的信息之外,神经网络还具有较强的概括能力和联想记忆能力。但神经网络的推理知识表示体现在网络连接权值上,表达比较难以理解,这是它的一个缺点。 进化计算模拟生物进化的过程,依据适者生存、优胜劣汰的进化规则,对包含可能解的种群反复进行基于遗传的操作,不断生成新的种群并使种群不断进化,同时以全局并行搜索方式来搜索优化种群中的最优个体,以求得满足要求的最优解。其主要优
36、点是简单、鲁棒性强、搜索空间大。,智能算法融合,73,神经网络的网络结构的设计和权值的训练是一个十分重要而困难的问题,传统的方法多是凭经验或启发知识来设计网络,用梯度法来确定其中的权值,常常需要进行反复试验而且还很难找到最优的网络结构和权值。而进化计算为神经网络的自动设计和训练提供了一种新的途径,这就是进化神经网络。 神经网络、进化算法等的研究同步发展、相互渗透、界限日益模糊,人们逐渐认识到由两者交叉组成的新系统具有更强的功能,因而两者相互融合的研究是当今两个分支研究的热点。,智能算法融合,74,历史上的 人工智能大师,75,阿伦图灵 (Alan Turing),计算机科学理论的创始人 计算机
37、科学之父,76,马文明斯基 (Marniv Lee Minsky),人工智能和框架理论的创立者 首位获得图灵奖的人工智能学者 人工智能之父,77,约翰麦卡锡 (John McCarthy),首次提出AI的概念,78,赫伯特西蒙 (Herbert A. Simon),符号主义学派的创始人 爱好广泛的全能科学家 中国科学院外籍院士,79,艾伦纽厄尔(Allen Newell),符号主义学派的创始人之一 西蒙的学生与同事 1975年与西蒙同获图灵奖,80,Warren S. McCulloch 沃仑 麦卡洛克,神经网络创始人,81,Lotfi Zadeh,模糊理论创始人,82,约翰霍兰德 John Holland,遗传算法之父,