《基于神经网络的非线性自适应控制研究毕业设计论文.doc》由会员分享，可在线阅读，更多相关《基于神经网络的非线性自适应控制研究毕业设计论文.doc（45页珍藏版）》请在三一文库上搜索。
1、青岛科技大学本科毕业设计（论文） 摘要神经网络自适应控制是基于自适应的基本原理，利用神经网络的特点设计而成的。它发挥了自适应与神经网络的各自长处，为非线性控制的研究提供了一种新方法。本文基于Lyapunov稳定性理论，采用神经网络直接自适应控制的思想设计控制器，研究了一类带干扰的不确定非线性系统的控制问题。控制器主要是针对不确定非线性系统中存在的两类未知项未知函数和未知外界干扰而设计，其中未知函数利用径向基函数神经网络来近似，外界干扰利用非线性阻尼项来抑制，这样可以充分利用神经网络的逼近特性，克服复杂系统难以建模等困难，并且系统稳定性和收敛性在给出的假设的条件下均能得到保证。最后设计程序进行仿
2、真验证，在程序设计中，以高斯函数作为基函数，仿真结果表明在权值和控制的有界性方面取得了一定的效果。本文第一章到第三章详细介绍了人工神经网络及神经网络控制的发展和研究现状；第四章主要介绍了径向基函数神经网络，并对其逼近能力进行仿真；在结束语中展望了神经网络控制的发展前景，提出以后的研究方向。关键词：RBF神经网络，自适应控制，不确定非线性系统AbstractNeural network adaptive control is proposed combining adaptive controlsadvantages with neural networks characters and pro
3、vides a new method for nonlinear control.Based on Lyapunov stability theorem and neural network direct adaptive control idea the control problem of a class of uncertain nonlinear system with disturbance is researched. The controller is designed arming at two kinds of uncertainties existing in nonlin
4、ear system-the unknown functions and the uncertain disturbance. In controller. the radial basis function neural network is used as approximation model for the unknown functions. and nonlinear damping term is used to counteract the disturbances. so neural networks better approximation capabilities ca
5、n be utilized richly and the modeling difficulties can be avoided. Meanwhile. the controlled systems stability and convergence can be guaranteed under some assumptions. At last the program is designed to verify the effectiveness of the controller. In presented programs. Guassian function is used as
6、basis function. Simulation results show that the bound ness effects of weighs and control input are better.The rough framework of this thesis is as following: the artificial neural network and neural network control are introduced in detail from the first chapter to the third chapter; the radial bas
7、is function neural network is described and its approximation performance is simulated in the fourth chapter; the development of neural network control is expected and the further research prospect is proposed in the end words.Keywords: Radial Basis Function neural network adaptive control, uncertai
8、n nonlinear system1 绪论非线性现象是工程、自然界以及人类社会话动的各个领域普遍存在的问题，非线性控制在控制科学中也一直占有重要地位。通常工业过程中都存在着不确定性和时变性等非线性现象，当受控对象或环境发生变化时，为保证良好的控制性能，可采取自适应控制策略。日前，自适应控制器结构的选取和参数调整规则，都是建立在线性系统理论的基础上，对于非线性系统的自适应控制问题人们一直在寻求新的有效解决方法。因此，寻找新的工具和方法来研究非线性系统的自适应控制问题就成了控制理论中研究的热点，神经网络由于其本质上高度的非线性、信息处理的并行性、信息处理单元的互连性、良好的容错性、计算的非精确性
9、及自学习、自组织和自适应性等特点，为解决复杂的非线性、不确定、不确知系统在不确定、不确知环境中的控制问题提供了一个很好的工具和模型，从而可以使控制系统稳定性、鲁棒性好，达到要求的动态与静态（或称稳态）性能。对于神经网络来说，描述非线性映射、建立非线性系统模型等都变得非常容易，这在控制器的设计中极为重要，所以神经网络在非线性控制中得到了广泛的应用。神经网络研究的兴起与神经网络控制的发展为解决非线性系统的自适应控制问题带来了生机。神经网络自适应控制是基于自适应的基本原理，利用神经网络的特点和理论设计而成的，发挥了自适应与神经网络的各自长处，为非线性控制的研究提供了一种新方法。经过20余年的努力，神
10、经网络自适应控制在连续和离散非线性系统中的研究都己取得丰硕的成果，当前的研究有以下几个方面：在不确定非仿射线线性系统的直接自适应状态反馈控制器设计中，所用的神经网络具有弹性结构，也就是说神经元的数量是一个变量，神经网络逼近且自适应地取代了非线性系统巾的不确定性，整个闭环系统在Lyapunov意义下稳定：采用没有反馈的神经网络自适应控制器对带有死区非线性的系统进行了控制研究，该自适应控制器能对这类非线性系统实现有效的控制：基于多层神经网络提出了一种直接自适应控制方案，首先应用多层神经网络自适应模型逼近逆解中的未知部分，然后应用逆设计和自适应反演设计出虚拟控制量，最后应用反馈线性化方法和神经网络设
11、计了直接自适应控制律，并利用Lyapunov稳定性定理推导了神经网络的参数调节律，保证了闭环系统的所有信号均最终一致有界：文献4针对NARMA模型提出直接自适应神经网络控制方案。用前馈神经网络作为系统模型，控制信号直接通过最小化在设定点和模型输出之间的瞬时差分或累积差分获得，采用广义预测理论和梯度下降法加快学习速率和收敛性能：文献5针对不稳定的无人驾驶飞行器提出直接自适应神经网络控制器设计方案，控制规律来跟踪俯仰角速率指令，神经网络线性滤波器和BP学习算法用来逼近控制律。设计神经控制器需要的有界信号可通过一种离线有限时间的训练方案获得，以提供必需的稳定性和跟踪性能，空气动力系数带来的不确定性由
12、在线学习方案来补偿。文献6针对一类不确定非线性系统，利用神经网络可逼近任意非线性函数的能力和误差滤波理论，提出了一种基于径向基函数神经网络的自适应控制器设计方案，以使非线性系统在存在不确定项或受到未知干扰时，其输出为期望输出，根据Lyapunov理论，给出了系统稳定的充分条件：文献7针对连续时间和离散时间的输入一状态稳定的内部动力学的非线性不确定动态系统，基于Lyapunov定理提出了神经元自适应控制方案，该神经元自适应控制器的构建对系统的动力学知识没有要求，而只假设系统是连续可微的和不确定线性系统的逼近误差存在一个极小的增益类型范数有界的圆锥形扇区内，这样就可以将鲁棒控制和神经网络自适应控制
13、结合起来，从而保证了闭环系统郎分渐近稳定。同时人们开始将神经网络和其它新兴理论结合起来研究新型神经网络，如量子神经网和二阶模糊神经网络等。文献8提出了基于扬氏双缝实验思想的叠加态量子神经网络：文献9提出了基于模期前馈神经网络思想的韫子神经网络：文献10提出了基于量子力学本体表示的非叠加态量子神经网络。神经网络自适应控制这一领域呈现出欣欣向荣的景象。1.1选题的背景和意义人类当前所面临的重大科学技术研究任务之一是要揭示大脑的工作机制和人类智能的本质，开发智能应用技术，制造具有完成人类智能活动能力的帮能机器。在过去几十年里，无数先驱们不懈探索，在神经生理学、心理学等一大批基础学科的研究成果基础上，
14、研究脑和机器的智能取得了许多可喜的进展，这些智能研究成果的取得不仅对智能机器研究本身具有重要的意义，而且推动了一大批相关学科的发展。智能研究的历史至少可以追溯到50年代人工智能的初创期，更早些可咀追溯到图灵自动机理论。冯诺伊曼曾多次谈到计算机和大脑在结构和功能上的异同，对它们从元件特性到系统结构进行了详尽比较。McCulloch和Pitts提出的形式神经元模型导致了有限自动机理论的发腥。维纳的Cybernetics一书专门讨论了动物和机器的控制和通信问题。信息论的奠基人香农也曾探索过人的智力放大问题。我国著名学者钱学森在他的工程控制论一书中专门论述了生物体的调节控制和神经网络问题。因此，早在四
15、、五十年代神经系统的功能就已经引起这些现代科学理论开拓者的兴趣，并对他们各自理论的创立做出了贡献。建立在认知过程信息处理的徽结构理论之上的神经网络作为人的认知过程的一种定量描述，为神经科学家提供了一个良好的机会来发展和验证大脑的T作原理。神经网络理论的发展，在神经科学中推动了理论神经科学的产生和发展，为计算神经科学提供了必要的理论和模型，神经时络姓在许多学科的基础上发展起来的，它的研究的深入也必然会带动其他相关学科的发展。许多现代科学理论的创导者对脑的功能和神经网络都有着强烈的兴趣，并从中得到了不少启示，创造或发展了许多新理论。1.2神经同络控制研究历史及现状神经网络控制的研究始于20世纪60
16、年代Kilmer和McCulloch提出了KMB神经网络模型，并用于“网波罗”登月计划中，取得了良好的效果。1964年Widrow等将神经网络用于小车倒立摆系统的控制，也取得了成功。80年代后期，神经网络控制随着科学的发展受到重视，其研究人多数集中在自适应控制方法上。神经网络控制是一种基本上不依赖于模型的控制方法，具有较强的自适应性和学习能力，比较适用于那些具有不确定性或高度非线性的控制对象。神经网络作为智能控制的一个重要分支，无论是在理论上还是在应用上都取得了令人瞩目的成果，尤其是它为解决复杂系统，非线性系统和模型未知系统的控制问题提供了一条新思路神经网络在控制领域的应用主要得益于它对非线性
17、函数的逼近能力，神经网络控制基于其显著的学习能力，不断修正神经元之间的连接权值，并离散存储在连接网络中，因而对非线性系统和难以建模的系统具有赶女f的映射能力。神经网络控制现在是一门非常活跃的课题，其研究热点主要有：1、利用神经网络的逼近能力，解决复杂系统的辨识、状态估计、建模等难题。2、利用神经网络的自学习、自组织能力，提高对严重不确定性系统动态特性的适应能力。3、利用神经同络的联想功能，对各种信息进行识别、诊断、记忆、分类。4、定性或定量研究神经网络控制系统的稳定性、收敛性等理论问题，以保证神经网络控制系统能够可靠、稳定地正常运行。5、提高神经同络实时在线控制能力。6、研究神经网络与其它控制
18、方法的结合，如神经网络鲁棒控制、神经网络专家系统控制、神经网络模糊控制等。经过20多年的研究，神经网络控制现已成为十分热门的交叉边缘学科，涉及生物、计算机、电子和数学等众多学科，它的发展对未来科学技术的发展将产生重要的影响。因此，神经网络控制具有强大的应用潜力1.3 RBF神经网络的研究现状径向基函数(RadiaJ Basis Furmion，RBF)神经网络，是一种前馈型神经网络，具有局部逼近性能。近些年，径向基函数神经网络已经成功地应用丁信号处理，系统建模，故障诊断和模式识别等领域目前国内外关于径向基函数神经网络的研究按照算法的不同主要集中在以下几种：l、自适应径向基函数神经网络。2001
19、年，上海华东理工大学高大启教授研究了前向两层径基函数网络和莉向两层线性基本函数网络的分类机理及结构与初始参数优化确定方法，提出了Guassian基函数的中心和宽度通过学习自动确定，在学习过程中根据错分样本自身的类别和被错分入的类别自动生成新的基函数，并根据新增基函数对测试集的作用自动删除多余基函数的观点”。2、基于正交最小二乘学习的径向基函数神经同络在基于最小二乘学习的径向基函数神经网络的基础上，SegaJ R.iS教授提出利用基于正交最小二乘学习的径向基函数神经网络选取网络中心。正交最小一乘学习方法来源于线性回归模型，其任务就是通过学习选择合适的回归算子向量，使得神经网络输出满足性能指标的要
20、求。3、自组织径向基函数神经网络2000年9月，日本九州大学Xiong Qingyu等教授提出将自组织特征映射网络和径向基函数神经网络结台起来形成自组织径向基函数神经网络。其中径向基函数神经网络的隐层和输入层不变，改变输出层，即变成组织映射网络的竞争层。对于每一个网络的隐层输出作为输出层的输入时，径向基函数神经网络利用误差规则进行有监督训练，网络产生的输出误差可以决定在什么位置插入一个新的自组织特征映射单元，这样径向基函数神经网络的结构逐渐变化，直到满足一定的性能标准或者获得一个理想的网络结构为止。4、遗传径向基函数神经网络。2002年，加拿大卡尔加里大学Ieung Henry教授等采用遗传算
21、法搜索径向基函数神经网络的一些参数值，并用最小二乘法修正权值，通过对参数进行二进制编码，然后进行一系列遗传操作，逐步优化聚类中心、宽度、隐层节点数的值，从而得到最住的径向基函敷神经网络结构12。5、特殊基函数的神经网络。2000年，日本东京工业大学Miyake Motohauv等提出了一种特殊定义的径向基函数。这种特殊的径向基函数包含四种运算操作，主要是采用乘积与求和的操作，计算过程比较复杂。通过采用这种特殊的径向基函数，在用神经网络进行蒙特卡罗仿真的时候，输出能够根好地逼近贝叶斯决策的边际结果旧。1.4神经网络自适应控制的研究现状神经网络自适应控制理论从20世纪80年代开始出现，并出现了各种
22、可能的自适应控制方案，但这一时期的主要工作是探索将神经网络应用于非线性自适应控制的可能性，关于权值学习的收敛性和闭环系统的稳定性分析几乎投有。为克服这一弱点，R.M.Sanner提出了基于Lyapunov稳定性理论的自适应神经网络控制方案，采用Lyapunov稳定性理论获得网络权值自适麻律。此后Lyapunov稳定性理论广泛应用于适应神经网络控制中。张天平等人采用模糊网络逼近未知系统，提出了一种自适应模糊控制方案。针对更广泛的一类未知严格系统，新加坡的S.S.Ge等人通过引入一个全新的积分型Lyapunov函数，提出了一种自适应神经网络控制方案。解决了控制器奇异性问题。进入90年代以来，神经网
23、络自适应控制进入发展阶段。这一时期已有的一些神经网络自适应控制方案走向成熟，各种新的方案不断出现，例如，文献提出了自校正控制方案。并且对神经网络自适应控制方案中权值学习的收敛性和闭环系统的稳定性进行分析的工作已经展开，在文献中，他们讨论了如何利用神经网络实现非线性系统的局部镇定问题，在一定程度上解决了非线性系统神经网络控制的理论问题。近年来，基于稳定性理论的神经网络自适应控制有了较大的发展，目前神经网络自适应控制已成为神经网络控制领域的热点。1.5本文结构安排在第一章绪论中，介绍了神经网络研究的意义及国内外研究现状；第二章详细介绍了神经网络研究的历史、学习规则及研究方法等；第三章重点介绍了神经
24、网络控制的发展历史、常用的神经网络模型；第四章主要内容是介绍径向基函数神经网络的结构、学习算法等，并对其逼近能力进行仿真；第五章对一类不确定非线性系统设计控制器进行控制，并进行仿真验证。在结束语中展望了神经网络控制的发展前景，提出以后的研究方向。2.人工神经网络综述2.1什么是神经网络从公元前亚里士多德时代开始，人们就开始从事思维机器的研究。1946年第一台电子计算机诞生，标志着人类在这方面的研究有了实质性进展。1956年，人工智能技术的出现，使得人们向思维机器的研究方向又跨进了一步。现在，神经网络技术又为我们进一步研究如何模拟人类智能及了解人脑思维的奥秘开辟了一条新途径。那么，到底什么是神经
25、网络呢？神经网络是由大量的、同时也是很简单的神经元广泛地互相连接而形成的复杂网络系统。它反映了人脑功能的许多基本特性，但它并不是人脑神经网络系统的真实写照，而只是对其做某种简化、抽象和模拟。研究神经网络系统的目的在于探索人脑加工、存储和处理信息的机制，进而研究基本具有人脑智能的机器。神经网络整体性能由神经元的特性、神经元之间相互连接的形式拓扑结构和为适应环境而改善性能的学习规则三大要素决定。虽然单个神经元的组成和功能非常有限，但人量神经元构成的网络系统所能实现的功能是极其强大的。一般认为，神经网络系统是一个高度复杂的非线性动力学系统，具有一般非线性系统的共性，更主要的是它还具有自己的特点，如高
26、维性、神经元间的广泛互连性以及自适应性等。在研究方法上强调综合而不是分解，因为分解这一步工作已基本完成，剩下的工作就是把这些极简单的神经元构成一个复杂的具备多方面功能的系统。神经网络中发生的动力学过程有两类：一类称之为快过程：另一类称之为慢过程。所谓快过程，即神经网络的计算过程，它是神经网络的活跃状态的模式变换过程。快过程是短期记忆的基础，从输入态到它的邻近的某平衡态的映射是多一对应的映射关系，这种关系可用来实现联想存储等功能。神经网络只有通过学习才能逐步具有模式变换的能力，神经网络的学习过程即为慢过程。在该动力学过程中，神经元之间的连接强度根据外界环境发生变化，将环境信息逐步存储丁-神经网络
27、中，这种由丁连接强度的变化而形成的记忆是长久的，称之为长记忆。慢过程的目标是希望形成型个具有一定结构的自组织系统，通过与环境的交互作用，把环境的统计规律反映到自身结构上来，即通过与外界环境的相互作用，从外界环境中获取知识。对于快过程与慢过程的不同处理方法便形成了神经网络理论研究的两种模式，即所谓的学习神经网络模式和自组织模式。2.2人工神经网络研究的历史人工神经网络的研究，始于20世纪40年代，至今已有半个多世纪的历史，和其他新生事物一样，它的发展也经历了一条曲折的道路，至今经历了兴起、萧条和兴盛三个时期：20世纪40-60年代的发展初期；70年代的研究低潮期；80年代，神经网络的理论研究开始
28、步入兴盛期。多年来，神经网络的研究虽已取得显著的成果，但至今尚未建立起一套完整的理论体系。1943年心理学家McCulloch和数学家Pitts在 Bulletin of Malhematical Biophysics上发表文章，提出了形式神经元的数学描述与结构方法，即M-P模型，这是第一个用数理语言描述脑的信息处理过程的模型，它初步实现了外加刺激在该网络中作用的表达1411。M-P模型的提出兴起了对神经网络的研究，从此开创了神经科学理论研究的时代。1949年心理学家D.O.Hebb提出神经元之间突触联系强度可变的假设-Hebb规则，他认为学习过程是在突触上发生的，突触的联系强度随其前后神经元
29、的活动而变化。Hebb规则至今仍在各种神经网络模型中起着重要的作用。50年代末，Rosenblatt提出感知机，第一次把神经网络的研究付诸工程实践。1962年Widrow提出了自适应线性元件，它是连续取值的线性网络，主要用于自适应系统，这与当时占主导地位的以顺序离散符号推理为基本特征的人工智能途径完全不同，因而引起了不少人的兴趣，同时也引起了很大的争议。60年代，美国著名人工智能的创始人之- Minsky和Paper对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，写了很有影响的感知器一书，指出感知机的处理能力有限，甚至连“异或”这样的问题也不能解决，并指出如果引入隐含神经元，
30、增加神经网络的层次，可提高神经网络的处理能力，但研究对应的学习方法非常困难。加以那时人工智能以功能模拟为目标的另一分支出现了转机，产生了以知识信息处理为基础的知识工程，给人工智能从实验室走向实用带来了希望，同时，微电子技术的发展，使传统计算机的处理能力有很人提高，数字计算机的发展使当时科技界普遍认为它能解决一切问题，因而不必去寻找新的计算理论与实现方法。而且，当时的工艺水平还未能达到制作实用的具有足够规模的神经网络，这些因素共同作用，促使人们降低了对神经网络研究的热情，从而神经网络的研究进入萧条时期。不过，还是有不少学者继续对神经网络进行研究，取得一些积极的成果。主要有Arbib的竞争模型，K
31、ohonen的自组织映射模型，Grossberg的自适应谐振模型和Fukushima的神经认知机网络理论，Webos提出的BP理论等，这些为神经网络研究的发展奠定了理论基础。学术界公认，标志神经网络研究高潮的又一次到来是美国加州理工学院生物物理学家J.Hopfield教授下1982年和1984年发表在美国科学院院刊上的两篇文章。1982年他提出了Hopfield神经网络模型，这种模型具有联想记忆的能力。他在这种神经网络模型的研究中，引入了能量函数（Lyapunov函数）的概念，阐明了神经网络与动力学的关系，并用非线性动力学的方法来研究这种神经网络的特性，指出信息存储在网络神经元之间的连接上，建
32、立了神经网络稳定性判据。它的电子电路实现为神经计算机的研究奠定了基础，同时开拓了神经网络用于联想记忆和优化计算的新途径，这一成果的取得使得神经网络的研究取得了突破性进展。1984年Hopfield设计与研制了他所提出的神经网络模型的电路，并指出网络中的每一神经元可以用运算放大器来实现，所有神经元的连接可以用电子线路来模拟，这一方案为神经网络的工程实现指明了方向。同时他也进行了神经网络应用研究，成功地解决了复杂度为NP的旅行商计算难题。这些成果的取得又激发了越来越多的人投入到神经网络研究中来，从而使神经网络的研究步入了兴盛期。1987年6月，在美国加州举行了第一届神经网络国际会议，并成立了国际神
33、经网络学会，掀起了用神经网络来模拟人类智能的热潮，标志着神经计算机时代的来临。以后每年召开两次国际联台神经网络大会。1988年起国际神经网络学会和IEEE联合召开每年一次的国际学术年会，IEEE成立了由其下属十个学会组成的神经网络委员会。其他计算机方向（特别是人工智能）的国际会议每次召开，都在会议中列入了有关神经网络研究的主题。1988年元月“神经网络”杂志创刊1990年3月IEEE神经网络会刊问世，各种期刊的神经网络特刊层出不穷。应当指出的是，神经网络的发展除了上述一些直接原冈外，还有一些其它的科学背景，进入70年代后，非线性科学取得了迅速的发展，学术界对复杂系统的功能表现出极人的兴趣，Pr
34、igogine因提出非平衡系统的自组织理论（耗散结构理论）而获得诺贝尔奖，Haken因研究了人量元件集体作用产生的宏观有序结构而创立了协同学，近年来广泛研究的混沌动力学和奇异吸引子理论揭示了系统的复杂行为。这些工作，从抽象意义上讲，都是复杂系统如何通过元件之间的相互作用，系统结构上由无序到有序，功能由简单到复杂，类似于生物系统的进化过程和智能系统的学习过程。与此同时，神经科学和脑科学日益受到人们的重视，在感觉系统特别是视觉研究中发现的侧抑制原理、感受域概念、皮层的功能柱结构和信息处理的并行、层次观点，被证明是神经系统信息处理的普遍原则，这些原则对于神经网络模型的提出和神经计算机的研制是不可或缺
35、的启示。我国最早涉及人工神经网络的著作是涂序彦先生等于1980年发表的生物控制论)一书，书中将“神经系统控制论”单独设为一章，系统地介绍了神经元和神经网络的结构、功能和模型“”。该书发表时人工神经网络的研究尚未进入复苏时期，国内学术界对该领域的情况知之其少，研究热点主要集中在人工智能方面。随着人工神经网络20世纪80年代在世界范同内的复苏，国内也逐步掀起了研究热潮。1989年10月在北京召开了一个非正式的神经网络会议，称为神经网络及其应用研讨会。1989年11月在广州召开第一届全国信号处理一神经网络学术会议。1990年2月，我国8个一级学会联合在北京召开了我国首届神经网络学术大会，开创了我国人
36、工神经网络及神经计算机方面科学研究的新纪元，这次会上确定今后每年召开一次中国神经网络学术大会。1991年在南京召开的中国神经网络学术人会上成立了中国神经网络学会。此后经过十儿年的努力，我国学术界和工程界在人工神经网络的理论研究和麻用方面取得了丰硕的成果，学术论文、应用成果和研究人员的数量逐年增加。目前，人工神经网络已在我国科研、生产和生活中产生了普遍而巨大的影响。神经网络的问世标志着认知科学、计算机科学及人工智能的发展又处于一个新的转折点，它的应用和发展不但会推动神经动力学本身，而且将影响新一代计算机的设计原理，有可能为新一代计算机和人工智能开辟一条崭新的途径。同时，它为学习识别和计算提供了新
37、的现代途径，有可能给信息科学带来革命性的变化。2.3神经网络的学习规则人类具有学习能力，人的知识和智慧是在不断学习与实践中逐渐形成和发展起来的，所以作为模拟人的智能的神经网络，也麻当具有学习能力。神经网络在外界输入样本的刺激下不断改变网络的连接权值乃至拓扑结构，以使网络的输出不断地接近期望的输出，这一过程称为神经网络的学习，其本质是对可变权值的动态调整。神经网络的学习方式可分为：有导师学习和无导师学习。有导师的学习(SLSupervised Learning):在学习过程中，网络根据实际输出与期望输出的比较进行连接权值的调整，将期望输出称为导师信号，代表了神经网络执行情况的最佳结果，它是评价学
38、习的标准。如图2.1所示图2.1有导师的学习无导师的学习包括无监督学习（ UL.Unsupervised Learning）和再励学习(RLReinforcement Learning)。无监督学习没有导师信号提供给网络，而是提供一个关于网络学习表示方法质量的测量尺度，网络根据该尺度进行连接权值的调整，此时，网络的学习评价标准隐含于其内部。如图2.2所示图2.2无监督学习再励学习把学习看作试探评价（奖或惩）过程，学习机选择一个动作（输出）作用于环境之后，使环境的状态改变，并产生一个再励信号re（奖或惩）反馈至学习机。学习机依据再励信号与环境当前的状态选择下一动作作用于环境，选择的原则是使受到奖
39、励的可能性增大。如图2.3所示：图2.3再励学习在学习过程中，网络中各神经元的连接权需按一定的规则调整变化，这种权值调整规则称为学习规则。学习能力是神经网络最重要的一个能力，学习规则也几乎是神经网络的核心问咫之一。神经网络学习规则可分为如下几类：1、Hebb学习规则Hebb学习规则用于调整神经网络的权值，可以概括为：1)如果一个突触（连接）两边的两个神经元被同时（即同步）激活，则该突触的能量就被选择性的增加。(2)如果一个突触（连接）两边的两个神经元被异步激活，则该突触的能量就被有选择的消弱或者消除。2、Delta规则：又称误差修正规则，根据这个规则的学习算法，通过反复迭代运算，直至求出最佳的
40、权值，使期望输出与实际输出的差值展小。3、竞争式学习规则：属于无教师学习方式，这种学习方式利用不同层间的神经元兴奋性联接，以及同一层内距离很近的神经元间发生同样的兴奋性联接，而距离较远的神经元产生抑制性联接，这种在神经网络中的兴奋性或抑制性联接机制中引入了竞争机制的学习方式，称为竞争式学习。其本质特征在于神经网络中高层次神经元对低层次神经元输入模式进行竞争式识别。4、Boitzman机学习规则：也称为随机学习规则，是基于模拟退火的统计方法，适用于多层网络。它提供了学习隐节点的一个有效方法，能学习复杂的非线性可分函数。主要缺点是学习速度太慢。2.4神经网络的研究方法神经网络的研究方法有许多，从传
41、统工程方法上看，神经网络的宏观研究方法可分为：l、动力系统理论：实现层次描述。动力系统理论方法主要研究与刻画动力系统的渐近行为，如平衡点、极限环、奇怪吸引子及系统的绝对稳定性。但动力系统理论不是万能的，它不能提供关于信息处理及如何有效地处理不同的动力系统的任何消息。2、非线性规划理论：算法层次描述。算法层次主要研究如何求解一特殊的信息处理问题，非线性规划理论主要关心用于探索目标函数全局极小的有关算法的分析与设计。动力系统理论仅关心系统的动力学行为，非线性规划则仅关心如何活动目标函数的全局极小。3、统计推理：计算水平描述。主要关心信息处理的基本目的，解释所得结果是否合理、正确。神经网络是一个由大
42、量神经元组成的动力学系统，根据概率统计的观点，从宏观上看，各神经元的状态可看作是一个随机变量，是服从统计规律的。从统计观点分析也可寻找神经网络系统中某种神经元状态的概率分布，这一分布的形式与网络的结构有关，其参数就是权系数。2.5神经网络的能力神经网络的能力应包含两个方面的内容，一是神经网络的信息存储能力；二是神经网络的计算能力，对应如下问题：1、在一个有N个神经元的神经网络中，它可以储存多少位的信息？2、神经网络具有什么样的计算能力，也就是说它能够有效地计算哪些问题？在神经网络模型中，存储能力与计算能力构成了神经网络理论的两个最基本的问题。传统计算机在计算之前要从存储器中取出指令和待处理的数
43、据，然后进行计算，最后将结果又放入到存储器中。这样，存储器与运算器之间的通道就成为提高计算能力的瓶颈。神经网络模型则从本质上解决了传统计算机的这个瓶颈问题，这是因为神经网络的运行是从输入到输出的值传递过程，在值传递的同时完成了信息的存储和计算，从而将信息的存取和计算完善地结合在一起。对于神经网络来说，计算可理解为给定一组输入而得到一组输出。由输入得到输出的过程也就是计算。神经网络的计算能力有三个显著的特点：一是它的非线性特性；二是大量的并行分布结构：三是它的学习和归纳能力。迄今为止，神经网络至少可以完成以下信息处理任务：1、教学逼近映射：开发合适的函数，以自组织的方式响应以下的样本集合：。2、
44、概率密度函数的估计：通过自组织的方式开发出一组等概率“锚点”来响应在空间中按照一定确定概率密度函数p选取的一组向量样本。3、从二进制数据基中提取相关知识：将从二进制数据基中提取的相关知识形成一种知识的聚集模型，这些知识依照数据基的自组织在它们之间有某种统计上的共性，并依据这些共性来响应输入的数据基。4、形成拓扑连续及统计意义上的同构映射：这是对同定概率密度函数选择的输入数据进行自适应的一种自组织映射，最终使得数据空间上的不同项有某种同构。5、最近相邻模式分类：这种能力可应用于暂态或暂稳态模式分类，并且可用层次性的存贮模式来表达存储。6、数据聚集：这是采用自组织的方式所选择的“颗粒”或模式的聚类
45、，以此来响应输入数据。7、最优化问题的计算：这是用来求解局部甚至是全局最优解的。2.6神经网络的应用神经网络的脑式智能信息处理特征与能力，特别是其所具有的计算能力使其应用领域日益扩大，潜力R趋明显，其主要应用有以下几个方面：1.传感器信息处理传感器信息处理涉及到两个主要的问题：模式处理变换和模式识别。2.信号处理神经网络还被广泛地应用于信号处理，如目标检测、杂波去噪或畸变波的恢复、多目标跟踪等。神经网络也可用于多探测器信号的融合3.数据压缩神经网络可对待传送（或待存储）的数据提取模式特征，只将该特征传（或存储）接收后再将其恢复成原始模式。4.自动控制神经网络所具有的非线性特性和学习能力，使其在
46、系统辨识方面有很大潜力。另外，神经网络具有自学习和自适应等智能特点，非常适合作控制器。神经网络还被用于机器人控制中。在鱼雷的控制上，有的也采用了神经网络方法。5.市场分析在金融财政、银行、保险行业的应用主要是进行顾客群体特征分析、市场研究、社会资金需求分析、顾客心理分析、消费倾向分析以及新产品分析及优化等。3.神经网络控制系统3.1神经网络控制系统控制理论与相对论、量子理论一起被认为是20世纪上半叶科学发展的三大飞跃，它是应社会发展的需要，在解决重大下程技术问题以及军事问题的实践中产生和发展起来的一门新科学。经过几十年的发展，控制理论的应用和影响已遍及众多工业技术领域，深入到社会生活的各个方面
47、，使人类大大突破了自身能力的限制。尤其是在当今社会，小的方面如现代化家用电器的芯片控制，交通红绿灯、路灯的控制，大的方面如宇宙飞船的控制等都离不开控制技术。控制理论的发展一直受到以下三方面需求的推动：1、处理不断复杂的对象；2、完成不断复杂的设计；3、在对象和环境的知识所知甚少的情况下达到以上两条要求阻1。其发展过程大体上经历了经典控制理论、现代控制理论以及20世纪70年代后期提出和发展起来的非线性智能控制理论三个发展阶段。随着工程研究的深入，控制理论所面临的问题日益复杂多变，主要表现于控制对象、控制目标的日益复杂化，系统的数学模型难以建立，这时智能控制则体现了较人的优势。目前，智能控制已形成
48、多种方法，较典型的有：专家控制、模糊控制和神经网络控制等，并以它们为代表，经过短短一二十年的发展，给整个控制理论带来了无限生机和活力。控制系统就是使机器按期望目标运转的系统，一般需要通过反馈来进行行为调整和性能修正，因而也可以说，反馈思想是控制理论的基石。基于神经网络的控制称为神经网络控制(Neural Network ControlNNC)，简称神经控制。神经网络控制是20世纪80年代来期发展起来的自动控制领域的前沿学科之一，是人工种经网络理论与控制理论相结台的产物，是发展中的学科。神经网络控制汇集了包括数学、神经生理学、脑科学、生物学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。神经网络控制，是将神经网络在相应的控制结构中当作控制器与（或）辨识器，主要是为了解决复杂的非线性、不确定系统在不确定、不确知环境中的控制问题，使控制系统稳定性、鲁棒性好，达到要求的动态与静态性能。神经网络控制是非线性控制的一个分支。它与传统非线性控制的区别在于神经网络控制是基于系统的输入输出映射，而非系统的数学模型：控制器设计是通过学习来完成的，而不是针对模型进行的，可以说神经网络控制器是一种结构特殊的非线性控制器。由于人工神经网络是采朋仿生学的观点与方法来研究人脑和智能系统中的高级信息处理，从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模