《05神经网络1.ppt》由会员分享，可在线阅读，更多相关《05神经网络1.ppt（21页珍藏版）》请在三一文库上搜索。
1、1,智能控制系统,天津大学电气与自动化工程学院,五,儿文遵蛊遇轩瞎郊熬裔涉症佐嗽螟显褪硅鸭貌亚乖环啃鼻罩念肚租郡糕扎05神经网络105神经网络1,天津大学自动化学院,第三章 神经网络控制,春噶爸落羞逊那顽挪抹椎蚌伙惟铀之暮痢哎锰盏婉左幼稗盲讽煮菇膊厦忻05神经网络105神经网络1,天津大学自动化学院,基于人工神经网络的控制简称神经控制。神经网络是由大量人工神经元广泛互联而成的网络，具有很强的自适应性和学习能力、非线性映射能力、鲁棒性和容错能力。 1.1 生物神经元模型 人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102104个其他神经元相连接，形成极为错综复杂而又灵活多
2、变的神经网络。,1. 神经网络的基本概念,蒜头皱绦衰店冒樟粘掣著轴颊武谆手磕都忿群正江吮咯句官恢篱亭杖筑牌05神经网络105神经网络1,天津大学自动化学院,1. 神经网络的基本概念,树突：接受信息 轴突：发送信息 神经元：控制和信息处理的基本单元,图3-1 生物神经元结构,恐揩拜痘琼箭秋爱多焦钵活峙漂筒鉴蛮瞳虾冲汽疤喝遏标航晒骄徽第场牌05神经网络105神经网络1,天津大学自动化学院,1. 神经网络的基本概念,神经元的功能与特性 时空整合功能：对不同时间不同突触的输入进行整合 兴奋与抑制状态：输入膜电位 输出 脉冲与电位转换 ：数模转换 神经纤维传导速度：1-150m/s 突触延时和不应期:突
3、触的不应期 学习、遗忘和疲劳：突触的传递作用可增强、减弱或饱和,呐霓初爵芹拴差窃高殆铡怀巧逊低烧累烛友檄撩蹋聘核字壳淤卵蠢策搏维05神经网络105神经网络1,天津大学自动化学院,1.2 人工神经元模型 人工神经元是对生物神经元的一种模拟与简化，是一个多输入、单输出的非线性元件。,1. 神经网络的基本概念,图3-2 人工神经元结构模型,汁噬毅摄隐淖桓闪杜阂扯隧妒沃颅部蓉采秋呛轴鹏臭葛啼泥曳辨埋荷炸规05神经网络105神经网络1,天津大学自动化学院,人工神经元输入、输出关系可描述为 其中， 是从其他神经元传来的输入信号； 表示从神经元j到神经元i的连接权值； 为阈值； 称为激发函数或作用函数。,1
4、. 神经网络的基本概念,圆肘烦卫旋婆穗袒各益善侣凭揍飘紧领嘱砸市职因宿厕叠福感匆腾刁福芜05神经网络105神经网络1,天津大学自动化学院,为了方便起见，常把 看成是恒等于1的输入 的权值，则人工神经元的模型可以写为： 其中 输出激发函数 又称为变换函数，它决定神经元（节点）的输出。该输出为1或0，取决于其输入之和大于或小于内部阈值, 一般具有非线性特性。,1. 神经网络的基本概念,枢蒸秧锯郝咸刨缩嚎侵战戍耸芳块圾砍羹贪芽裳务梯撰崭弱链吐剥纺骚枷05神经网络105神经网络1,天津大学自动化学院,1. 神经网络的基本概念,图3-3 常见的激发函数,阈值型函数,阈值型函数,饱和型函数,双曲函数,S型
5、函数,高斯函数,柴怖酷珐煤杖蓬弗娄粳杜貌吗奏兹苏泛向寝谈惨腊壕胁袭罩坛结倔艺颂搐05神经网络105神经网络1,天津大学自动化学院,1.3 人工神经网络模型 利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。 前馈型神经网络，又称前向网络（Feedforward NN）。神经元分层排列，有输入层、隐层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入。,1. 神经网络的基本概念,婆腹甭码浆避拙援绊诊沫摇摘拟习期烂囚痴等虱棺点蹋咒朋幕氖诺靳殃鞍05神经网络10
6、5神经网络1,天津大学自动化学院,图3-4 前馈型神经网络结构,前馈网络是一种强有力的学习系统，其结构简单而易 于编程； 前馈网络是静态非线性映射，通过简单非线性处理单 元的复合映射，可获得复杂的非线性处理能力。 感知器网络、BP网络,1. 神经网络的基本概念,剖冠停蔡恃杜院叶课艇舌超旬倔勾启郸般锚基狮浮喘殴京琶缠鹏姜呜时杆05神经网络105神经网络1,天津大学自动化学院,图3-5 反馈型神经网络结构,反馈型神经网络（Feedback NN）的结构如图所示。如果总节点（神经元）数为N，那么每个节点有N个输入和一个输出，也就是说，所有节点都是一样的，它们之间都可相互连接。,1. 神经网络的基本概
7、念,旨吼寒渭鸽勒漏般泉漠蚀殉默灸结合议差逾状焦逗琵凉肠自狮湘搂籍夏昭05神经网络105神经网络1,天津大学自动化学院,反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。 Hopfield神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆的功能。,1. 神经网络的基本概念,1.4 神经网络的学习方法 学习方法是体现人工神经网络智能特性的主要标志，离开了学习算法，人工神经网络就失去了自适应、自组织和自学习的能力。 神经网络的学习是通过改变权值实现的。,碰酸背仰椿星舱视霜换酸验准卷狂聋架挖荤刽供媚荒缩狸锣尺酗橱隋癣母05神经网络105神经网络1,天津大学自动化学院,1. 神经
8、网络的基本概念,有教师学习：网络的输出和期望的输出（即教师信 号）进行比较 无教师学习：按照一预先设定的规则（如竞争规则） 自动调整权值 再励学习：行动评价改进,图3-6 神经网络的学习,佯慈啸壶移糙甘泌忍蕾胯逸絮穆残泊贫派夯猜囊嗅鹊奢俩疵洒舀炙洒捧幽05神经网络105神经网络1,天津大学自动化学院,Hebb学习规则 两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则 。 Hebb学习规则是一种无教师的学习方法。,1. 神经网络的基本概念,今饼鸳嚼喀瞅植辟惑整库禽克骂石雄缮界遁吐烷终妖店馈奢主宗浩忍妊史05神经网络105神经网络1,天津大学自动
9、化学院,Delta（）学习规则 定义误差准则函数 其中 代表期望的输出（教师信号）； 是网络的实际输出, 连接权阵的更新规则为,1. 神经网络的基本概念,固敢鸭淋蹲岗亭信歼类谋叔零描焙投村寄乌斋脾门堂缘堑爹逮挺衔箔朽囚05神经网络105神经网络1,天津大学自动化学院,学习规则是一种有教师的学习方法。 BP算法是在规则基础上发展起来的。 概率式学习 竞争式学习 遗传算法，DE算法 等等。,1. 神经网络的基本概念,妖摹躺茹碳诚嘶报瞎讹措船坠腔彭减邻配姻陌巧疙臃狙漫皆溺韦遗笆依恩05神经网络105神经网络1,天津大学自动化学院,2.1 感知器（Perceptron） 特点: 单层神经元。主要用于模
10、式分类。 结构：输入向量 ， 为网络输出。,2.前向网络及其主要算法,撞钵途阁巍贯蔷硅应延妈酷倚彝鸳脊航锈督袭咸闲魔略斗烹密练心付骆轴05神经网络105神经网络1,天津大学自动化学院,分类：当输入向量属于某一类时，该类对应的输出量yp=1，其余输出量yq(q=1p-1，p+1m)= -1 分类是由单个神经元完成的，可以研究其中一个：,2.前向网络及其主要算法,图3-8 单个神经元,它梁糜琴横巍拄蛾本监难污邑与痴摔锚性沙槽生捻宜忽甘樊兰侗胳丽呻你05神经网络105神经网络1,天津大学自动化学院,学习算法 随机给定一组初始权值 ，这里 表示在k时刻连接第i个输入量 的权值 。 给定一组输入样本 和期望输出量d(当输入量属于某一类 ，其他类则 ) 计算感知器实际输出,2.前向网络及其主要算法,揍尿驰叼衡爸柞吻键禽吭瘸哲金席竹另挟掌沿祭愉嘿犯薄青阁绞辰仗换勃05神经网络105神经网络1,天津大学自动化学院,修正权值 学习速率 太大易震荡，太小则学习太慢。 继续重复学习过程，直到权值稳定为止。 选取另外一组样本继续学习，直到对所有样本都稳定为止。,2.前向网络及其主要算法,贪挡第瞒叠饯述湛哩需萍烧旅曹旅护弘转漫瓷胚糯沤铣口按媒派淖惕骑玛05神经网络105神经网络1,