《基于组合预测的航空发电机寿命预测研究 测控技术与仪器毕业设计论文.doc》由会员分享，可在线阅读，更多相关《基于组合预测的航空发电机寿命预测研究 测控技术与仪器毕业设计论文.doc（53页珍藏版）》请在三一文库上搜索。
1、基于组合预测的航空发电机寿命预测研究学 院自动化学院专 业测控技术与仪器班 级学 号姓 名指导教师负责教师沈阳航空航天大学2010年6月沈阳航空航天大学毕业设计（论文）摘 要航空发电机是飞行器的关键部件之一，飞行中一旦出现故障就可能导致机毁人亡，造成巨大损失。为保障其飞行安全，及时发现故障，减少事故率，降低损失，需要深入研究航空发电机的寿命预测方法。而由于单一的预测方法往往预测精度低，很难满足实际预测要求。因此，本文提出了一种组合预测方法，结合相关的预测知识，运用加权组合模型，实现了对航空发电机寿命预测。本文首先论述了灰色理论、支持向量机、灰色神经网络三种预测方法的基本理论，重点研究了灰色神经
2、网络模型以及组合预测模型的建立与预测过程。在深入分析航空发电机性能参数相关性的基础上，结合其工作环境特点及影响因素，设计了一种基于组合预测的航空发电机寿命预测方法，并对航空发电机寿命预测模型的设计思想、框架结构、改进算法等进行了详细论述，完成了基于组合预测的航空发电机寿命预测的设计，并通过试验验证了该组合预测方法的有效性。该组合预测的方法是基于matlab平台构建与实现的。关键词：航空发电机；灰色理论；支持向量机；灰色神经网络；组合预测Aero Generator Life Prediction Based on Combination ForecastAbstractAir generato
3、r is one of the key components of aircraft,flight once malfunction can lead to news,cause great losses. To ensure the flight safety, timely find fault, reduce accidents, reduce loss, require further study aviation generator life prediction method. But because of a single forecasting method often pre
4、diction accuracy is low, hard to meet the practical prediction requirements forecasting accuracy. Therefore, this paper puts forward a kind of combination forecast method, combining relevant knowledge, using the weighted combination forecast model of air generator life prediction. This paper discuss
5、es the gray theory, support vector machines, the grey forecast method of neural network, three basic theory, key research gray neural network model and combination forecast model establishment and the prediction process. In the deep analysis of air generator based on the relevance of performance par
6、ameters, combining the working environment, the characteristics and the influence factors, and designed a kind of combination forecast of air generator based on the prediction method, and the prediction model of air generator design ideas, frame structure, the improved algorithm of detail, completed
7、 based on combination forecast of air generator life prediction of design, and verifies the effectiveness of the method.This combination forecast method is based on the matlab platform building and implementation.Keywords: air generator; gray theory; support vector machine; gray neural network; comb
8、ination forecast目 录1 绪论11.1 选题背景及意义11.2 研究目的和意义41.3 课题内容及安排42 灰色系统预测模型62.1 灰色系统概述62.1.1 灰色系统理论62.1.2 灰色系统建模机理72.2 灰色MGM（1，n）模型82.3 本章小结103 支持向量机预测模型113.1 支持向量机概述113.1.1 支持向量机理论113.1.2 支持向量机建模机理123.2 支持向量回归机模型133.3 本章小结164 灰色神经网络预测模型174.1 灰色神经网络概述174.1.1 神经网络理论174.1.2 神经网络模型建模机理184.1.3 BP网络模型184.2 灰色
9、神经网络预测模型214.3 本章小结235 组合预测模型245.1 组合预测概述245.1.1 组合预测理论分析245.1.2 组合模型的建立255.2 组合预测试验研究265.2.1 灰色系统与支持向量机组合预测265.2.2 灰色系统与灰色神经网络组合预测285.2.3 支持向量机与灰色神经网络组合预测305.2.4 三种预测模型组合305.3 本章小结316 不同组合预测结果比较与分析326.1 结果比较分析326.2 本章小结34结 论35社会经济效益分析36参考文献37致 谢38附录 灰色模型程序清单39附录 支持向量机模型程序清单42附录 神经网络模型程序清单44附录 组合模型程序
10、清单46471 绪论预测研究是科学研究的中心问题之一，是科学决策和规划的重要前提。寿命预测作为预测技术应用的一个重要方面，已成为国内外机电设备可靠性研究的热点，它利用被测设备过去或现在的观测数据，构造依时间变化的寿命模型，并借助一定的规则来推算剩余寿命。“航空发电机寿命预测研究”是根据我国航天等领域相关技术研究现状提出和开展的，是我国现有航天等技术研究领域中一个急需解决且难度很大的研究课题之一。随着科技的高速发展，虽然预测的应用遍布很多领域，并在不断发展进步，但是每一种预测方法都有局限性，要让其更加完善的完成预测，有待于人们去开发其潜能。预测就是运用当前可用的信息来进行有根据的推理，找出某种变
11、化趋势，推出合适的结论。预测方法是一组计算机程序，航空发电机的使用寿命是根据其相关数据（转速、负载、进油温度、出油温度、进口压力、注油压力等）的特点来进行预测的，首先建立预测模型，根据提供的发电机的相关参数来对其进行预测，发电机注油压力的变化趋势可以很好的反应出发电机的使用寿命。预测的准确与否直接影响到使用的安全问题，所以预测的研究有这十分重要的意义。1.1 选题背景及意义随着计算机数据库在更多领域日益广泛的应用，数据库中积累的数据越来越多。庞大的数据背后隐藏着许多重要的信息，人们希望对这些数据进行分析和提炼，以便利用它们来预测有价值的结论，由此变产生了预测这门科学。预测学是在一定的理论的指导
12、下，以事物发展的历史和现状为出发点，以调查研究资料和统计数据资料为依据，在对事物发展进行深入的定性分析和严密的定量计算的基础上，研究并认识事物的发展变化规律，进而对事物的未来变化预先作出学的推测。本文中涉及到的灰色系统、支持向量机和灰色神经网络是目前比较常用的预测方法。这几种预测方法基于不同的理论基础，采用不同的建模方式来进行预测。分析预测方法的理论基础及模型结构特征，取长补短，最后利用加权组合的方式提出高精度、高效率的组合预测模型，这是目前数据预测领域研究的热点之一。灰色神经网络是一门基于灰色系统理论与神经网络理论的新兴学科。因此，在介绍灰色神经网络系统理论的研究现状前，有必要先了解灰色系统
13、和神经网络系统的研究背景和发展现状。灰色系统理论由我国华中科技大学的邓聚龙教授于上世纪八十年代初创立的一门新兴横断学科，它以部分信息已知，部分信息未知的小样本、贫信息且不确定性的系统为研究对象，主要通过对部分已知信息的重新生成、开发、分析等手段，从中提取有价值或规律性的信息，实现对系统运行规律的正确描述和有效控制。这一理论诞生伊始，就受到国内外学术界的极大关注。经过二十多年的发展，灰色系统理论已初步形成以灰色朦胧集为基础的理论体系，以灰色关联空间为基础的分析体系，以灰色模型为主体的模型体系，以灰色过程及其生成空间为基础与内涵的方法体系，以系统分析、建模、预测、决策、控制、评估为纲的技术体系。随
14、着理论研究的日益完善，灰色理论已被应用与经济、社会、科技、农业、生物、气象、地质、证券、金融、法律、军事等系统的分析、建模、预测、决策、规划和控制中，并取得了一系列重大成果。灰色系统论著被SCI（科学引文）、EI（工程索引）、ISTP（科技会议索引）、MR（美国数学评论）、SA（英国科学文摘）等国际权威检索杂志检索超过500次。神经网络系统理论是由心理学家McCulloch和数学家Pitts于1943年首先提出的，距今已有六十多年的历史。Hebb于1944年提出Hebb学习规则，该学习规则至今仍作为神经网络学习算法的基本规则之一。伴随着智能计算机的快速发展，神经网络系统理论也逐渐成为发展的热点
15、，应用比过去更为广泛。在控制、决策等领域取得突破性进展，神经网络与专家系统相结合已成为一种重要的发展趋势。目前，神经网络系统的应用研究主要集中在模式识别、经济管理、数据优化、管理控制等方面，它与数理统计中的线性和非线性规划问题、数学逼近、统计技术等多个理论有着密切的联系。同时，神经网络在其他信息处理问题中也有很多应用，如数据的预测、数据压缩、编码、密码和股市分析等领域。人工神经网络由于其大规模并行处理、容错性、自组织和自适应能力和联想功能等特点，己成为解决问题的有力工具，对突破现有科学技术的瓶颈，更深入的探索非线性等复杂现象起到了重大的作用，广泛应用于许多科学领域。人工神经网络作为一种能并行处
16、理数据又能完成非线性映射的方法，在处理不准确、不完整的知识在复杂的非线性系统信息处理中的获取时发挥了重大作用。它是在现代神经生物学研究成果的基础上发展起来的一种模拟人脑信息处理机制的网络系统，它不但具有处理数值数据的一般计算能力，而且还具有处理知识的思维、学习、一记忆能力。经过近半个世纪的发展研究，神经网络已经渐趋成熟。神经网络技术的信息处理能力非常强，神经经网络的模型特点恰好能对灰色方法进行补充。但是神经网络技术在对系统进行建模时，往往将系统视作一个黑箱，没有考虑系统中存在的确定性信息、对神经网络建模的指导作用，网络映射规则不可见并且难以理解（黑箱），不适合表达基于规则的知识，并且需要大量的
17、学习样本，经过充分的学习后才才能达到较高的精度要求。这种求解问题的方法忽略了许多不确定问题的信息特征和其中所含确定信息的应用。支持向量机（Support Vector Machine，简称SVM）是在统计学习理论基础上发展起来的一种新型高效的机器学习方法。1981年，Vapnik和他的合作者提出了SVM的重要基础理论VC维。1982年，Vapnik提出了具有划时代意义的结构风险最小化原则。1995年，Vapnik首次提出来了支持向量机的这一概念，是一种新型的基于统计学习理论的学习机器。统计学习理论被认为是目前针对小样本统计估计和预测学习的最佳理论，专门针对有限样本情况，其目标是得到现有信息下的
18、最优解而不仅仅是样本趋于无穷大时的最优值。它从理论上较系统地研究了经验风险最小化原则成立的条件、有限样本下经验风险与期望风险的关系、结构风险最小化原则的理论思想以及实现这一新原则的实际方法。由于支持向量机基于结构风险最小化准则（Structural Risk Minimization，SRM）的基本思想，不同于神经网络等传统方法以训练误差最小化作为优化目标，而是以训练误差作为优化问题的约束条件，以置信范围值最小化作为优化目标，因此SVM的泛化能力要明显优越于神经网络等传统学习方法。此外，由于支持向量机将实际问题通过非线性变换转换到高维的特征空间，在高维空间中构造线性判别函数来实现原空间中的非线
19、性判别，这一特殊的性质能保证机器有较好的泛化能力，同时它还巧妙地解决了维数灾问题，使得其算法复杂度与样本维数无关，且最终将转化成为一个二次型寻优问题，从理论上讲，得到的将是全局最优点。所以，SVM一经提出就得到了广泛的重视，并且被广泛地应用在金融、控制、工程、预测等各个领域中。支持向量机主要包括支持向量分类机（Support Vector Classification）和支持向量回归机（Support Vector Regression）两种类型。其中支持向量分类机的理论和实际应用研究相对成熟，而支持向量回归机的研究尚有待进一步深入。综上所述，由于支持向量机建立在统计学习理论的VC维理论和结构
20、风险最小化原则基础上，不但较好地解决了以往困扰很多神经网络学习方法的小样本、过学习、高维数、局部最小等实际应用问题，而且具有更强的推广能力，为解决时间序列预测建模提供了一种新的有效途径。因此，根据小样本情况下航空发电机寿命预测研究的特点，拟采用支持向量机对航空发电机寿命进行预测研究与分析。1.2 研究目的和意义鉴于灰色系统、支持向量机和灰色神经网络这三种预测模型在建模方式、结构特征、学习方法等方面的不同，可利用它们来训练不同样本规模、不同样本类型的数据灰色系统对“小样本”、“贫信息”且线性变化的数据预测能力较好；支持向量机对“小样本” 、非线性数据预测处理能力较好；灰色神经经网络对“大样本”、
21、非线性数据预测能力较好。虽然这三种理论存在诸多优点，但也不可避免的具有某些局限性，如灰色系统缺乏自学习、自组织和自适应能力，对非线性信的处理能力较弱，计算精度不是很高。神经网络在对系统进行建模时往将系统视作一个黑箱，没有考虑系统中存在的确定性信息对神经网络建模的指导作用，网络映射规则不可见并且难以理解（黑箱），不适合表达基于规则的知识，并且需要大量的学习样本，经过充分的学习后才能达到较高的精度要求。为了提高模型预测精度，充分发挥每种预测方法的优势，可以考虑通过研究每种模型内部结构特征，然后采用简单结合、串联、并联、融合等结合方式来建立新模型以避免单个模型的缺陷。灰色神经网络这一新兴理论在这个方
22、面迈出了成功的一步，使神经网络能够预测“小样本”数据。灰色神经网络即是将灰色模型与神经网络模型有机融合起来，利用二者的优点、取长补短而得到的一种性能更优的模型。它既具有灰色系统用少数建模的独特方法，又具有神经网络模型可以对非线性、非精确规律具有自适应能力的特点。但它也具有神经网络的缺点，即容易陷入局部最优，有些甚至无法得到最优解。观察支持向量机算法，它是将问题最终转化为凸优化问题，因此可保证算法的全局最优性，避免了神经网络无法解决的局部最小问题。当前许多重大问题，特别是当问题的不确定性很强时，无法用传统的理论进行研究，有时候即便有成熟的方法也无法达到最优性能。从国内外研究现状出发，我们提出的课
23、题是具有创新意义的，本项目提出并研究灰色系统、支持向量机和灰色神经网络技术三种模型的组合预测方法，为不确定信息的表达和处理、知识处理、复杂问题的建模及现实存在的重大科技问题的解决，提供新的方法，具有非常现实而且十分重要的意义。1.3 课题内容及安排本毕业设计主要设计一种组合预测的方法，用来预测飞机发电机的使用寿命，以此来保障飞机供电系统的正常工作，便于即使的维修及紧急情况的处理，避免灾难性事故的发生。共分为6章，具体内容如下：第1章为绪论，简单介绍了本课题的研究背景、内容及目标。第2章首先介绍了灰色系统预测方法，之后详细的分析了灰色系统的理论知识，在此基础上重点介绍了灰色系统建模的基本思想，最
24、总达到预测的目的。第3章对支持向量机预测方法进行里详细的论述，包括支持向量机的理论知识，建模的机理以及模型的建立过程，在此基础上对航空发电机的寿命进行预测。第4章首先概述了神经网络的一些相关的理论知识，及其建模机理等，然后重点介绍了灰色系统和神经网络融合的相关知识及灰色神经网络模型的建立。第5章详细介绍了加权组合预测模型的建立，并对几种预测方法分别进行了组合研究。第6章主要介绍的是几种组合方法预测结果的分析与比较。2 灰色系统预测模型2.1 灰色系统概述对于高精密航空设备来说，由于其系统结构复杂、非线性程度高等特点，其运行状态受到多种因素的影响且变化趋势复杂，给预测带来了难题。近几年来发展起来
25、的MGM（1，n）模型是一种同时使用多个指标进行预测的方法，它可以从多个角度考虑各个因素的变化，从而得到对整体信息的把握。利用该方法可以建立多个变量之间的动态相性，弥补单变量预测方法的局限性，这使得它适合像航空发电机这样工作情况比较复杂的对象。有鉴于此，本展开了MGM（1，n）灰色模型在航空发电机寿命预测中的应用研究。2.1.1 灰色系统理论灰色系统（Grey System）是指部分信息已知，部分信息未知的系统。比如说社会系统、生态系统、经济系统、商业系统、农业系统等抽象系统，它们没有物理原型，不清楚系统的作用机制，很难判断信息是否完备，难以对系统关系、结构做精确描述，因此它们都属于灰色系统。
26、灰色系统理论将“部份已知，部份未知” 的信息量视为灰信息或灰色量。灰色系统认为灰色量中存在着某些内在规律，只是这种规律被原始数据杂乱无章的表象所掩盖，可以通过对部分已知信息的生成和变换即通过建立灰色模型来有效地发现和挖掘隐藏于其中的内在规律。灰色系统理论研究的是具有某种不确定性的对象，一般研究“小样本不确定”问题，以“灰朦胧集”为理论基础。它利用最少信息通过研究数据间的关系来探索事物运动的现实规律，即可在“贫信”情况下，以系统的离乱时序建立联系的时间模型。模型的数据特点是“少数据”且“允许任意分布”。灰色系统理论发展至今，已提炼出如下六个原理，也称为公理。这几个公理，构成了灰色系统理论的思想基
27、础、方法基础和技术基础：公理1：差异信息原理“差异”是信息，凡信息必有差异。“事物A不同于事物B”，既是A包含B不具有的特性使之区别于B。因此，客观事物之间的“差异”也是我们认识世界的基本信息。公理2：解的非唯一性原理信息不完全、不确定的解是非唯一的。“解的非唯一性原理”是灰色系统理论解决问题所遵循的基本法则，表明灰色系统在解决问题时可以通过补充信息、调整方案、认识深化等方式不断优化结果，使目标更接近实际值。公理3：最少信息原理灰色系统理论以“最少信息”为准则。灰色系统要充分开发利用已有的“最少信息”来解决问题。公理4：信息根据认知原理信息是认知的根据认知必须以信息为依据，没有信息，无人认知。
28、以安全、确定的信息为依据，可以得到完全确认的认知，以不完全、不确定的信息为依据，只能得到不完全、不确定的灰认知。公理5：新息优先原理新信息对认知的作用大于老信息赋予新信息较大的权重体现了信息的时效性，提高了灰预测的精度。公理6：灰性不灭原理“灰”是绝对的，“白”是相对的信息不完全、不确定具有普遍性，信息完全是相对的、暂时的。原有的不确定性消失，新的不确定性很快出现。人类对客观世界的认知，通过信息的不断补充而一次又一次的提升。2.1.2 灰色系统建模机理灰色预测是指用灰色模型对灰色系统进行的定量预测，也就是对在一定范围内变化的、与时间有关的灰色过程进行预测。灰色预测是通过鉴别系统因素之间发展趋势
29、的差异程度，即进行灰关联度分析。并对原始数据进行生成处理来寻找系统变动的规律，生成有较强规律性的新数据序列，然后建立相应的微分方程模型，从而预测系统未来发展变化趋势的状况。灰色预测模型GM（Gray Model），是把原始数列进行累加或累减生成后，利用累加数列建立灰色微分方程而形成的预测模型。由于系统被噪音污染之后，原始数列呈现出离乱的情况，离乱的数列即灰色数列，或者灰色过程，灰色预测模型就是对灰色过程所建立的模型。它不是把观测数据序列视为一个随机过程，而是看作随时间变化的灰色量或灰色过程，通过累加生成或相减生成逐步使灰色量白化，从而建立相应于微分方程解的模型并做出预报。灰色预测模型只要求较短
30、的观测资料，对于某些只有少量观测数据的项目来说，灰色预测模型是一个有用的工具。灰色建模所需样本数据少、无须考虑其分布规律及变化趋势、建模简单、运算方便，很适合被应用在“少数据”的项目中。其建模机理可归纳为如下几点：(1) 灰色系统理论，由于关联度收敛原理、生成数、灰导数、灰微分方程等观点和方法的提出，建立的是微分方程模型而非普通系统理论所建立的差分方程。(2) 灰色系统中的灰色量不是通过统计分析大量样本的规律得到的，而是用数据处理的方法将杂乱无章的原始数据整理成规律较强的生成数列再作研究。(3) 灰色理论通过模型计算值与实际值之间的差值（即残差）建立MGM（1，n）模型，作为提高模型精度的主要
31、途径。(4) 灰色理论建立的是生成数据模型，而非原始数据模型。因此，通过灰色理论预测得到的数据必须经过逆生成处理才能使用。2.2 灰色MGM（1，n）模型灰色预测方法是按照灰色系统理论建立微分方程，通过数据序列的拟合，解出微分方程的系数，从而得到预测模型方程。灰色预测模型有单变量预测模型（如典型模型GM（1，1）和多变量预测模型MGM（1，n）。多变量预测模型MGM（1，n）是一种描述对象状态发展趋势的模型，相对单变量预测模型GM（1，1），它能够反映对象内部多变量之间的相关性，解决了GM（1，1）模型对关联性变量预测的局限性问题。假定非线性原始数据向量序列，其中一次累加生成序列为，其中，为观
32、测数据的个数，这里是m维列向量。如果记 则多变量灰色模型的动态微分方程组可以表示为： (2.1)如果规定初始条件为，则动态微分方程组模型的连续时间响应函数为。为了得到模型参数的估计值，需要将上述微分方程组转化为离散形式，从而得到参数的估计值，如果记，如果可逆，则利用最小二乘法可以得到D的估计值为： (2.2)其中，根据（2.2）式可得参数A和B的辨识值和。有了参数估计就可以得到时间响应函数： 多变量灰色模型MGM（1，n）是一种描述对象状态发展趋势的模型，相对单变量模型GM（1，1），它能够反映对象内部多个变量之间的相关性，解决了GM（1，1）模型对关联性变量预测的局限性，有更广的适用对象和范
33、围。该模型建模所需样本少，计算量也不大，易于掌握和使用。灰色系统预测流程图如图2.1所示：开 始结 束输入原始序列计算数据矩阵L计算Y和参数估计值累加生成计算模型的预测值存在是否图2.1 灰色系统预测流程图2.3 本章小结本章介绍了灰色系统的基本概念，然后针对灰色系统模型的结构、数学描述、学习过程及其优缺点进行详细的研究，重点介绍了模型的建模过程。并通过流程图的形式表现出了灰色系统预测的过程。3 支持向量机预测模型3.1 支持向量机概述虽然支持向量机发展时间很短，但是由于它的产生是基于统计学习理论的，因此具有坚实的理论基础。近几年涌现出的大量理论研究成果，更为其应用研究奠定了坚实基础。随着支持
34、向量机理论上的深入研究，出现了许多变种支持向量机，如用于分类和回归的支持向量机等。随着航空发电机机使用强度的不断加大，对发电机的使用安全提出了更高的要求，因此对发电机参数进行有效监控和预测就显得尤为重要，预测在这方面显得尤为的重要。支持向量机采用新型的学习机制，实现了结构风险最小化原理，并同时最小化经验风险与VC维的界，这就取得了较小的实际风险，即对未来样本有较好的泛化推广能力，因此基于支持向量机的预测模型具有很强的推广能力，即便在较长区间预测中仍可保证具有相当的精度，具有非常重要的意义。3.1.1 支持向量机理论支持向量机SVM（Support Vector Machine）是在统计学习理论
35、基础上新发展的一种通用学习方法，是解决非线性分类、函数估算、密度估算等问题的有效手段。它在有限训练样本的学习精度和泛化能力之间取得了良好的平衡，从而获得了较好的推广能力。SVM主要是针对在两类分类问题，其目的是找到一个超平面将样本空间中的训练样本分成两部分，此时SVM超平面的错分误差最小。将尽可能多的同类型的训练样本归在同一部分；划分后的两部分距离要尽可能的大。支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小化原则基础上的。根据有限的样本信息，在模型的复杂性和学习能力之间寻求最佳折衷，以获得最好的推广能力。支持向量机集优化和最佳推广能力等特点于一身。其主要优点有：(1) 支持向量机
36、专门针对小样本情况，其目标是得到现有信息下的最优解而不仅仅是样本数趋于无穷大时的最优值。它具有坚实的数学和理论基础。(2) 支持向量机算法最终将转化成为一个二次规划问题。从理论上说，得到的解将是全局最优解，解决了在神经网络方法中无法避免的局部极值问题。(3) 支持向量机巧妙地解决了维数问题，其算法复杂度与样本维数无关。在支持向量机方法中，只要选取不同的核函数就可以实现多项式逼近、径向基函数（Radial Basis Function，RBF）方法、多层感知器网络等许多现有学习算法。其非常适合于处理非线性问题。(4) 支持向量机是依据统计学习理论中的结构风险最小化原则构造而成的一个通用的学习机器
37、，其具有非常好的推广能力。(5) 存在唯一极值点。上述支持向量机的特点中提到它是基于结构风险最小化理论的具体实现。不同结构的支持向量机有一个不同的对应算法。这个算法是由一系列的符合结构风险最小化理论的函数组成。3.1.2 支持向量机建模机理支持向量机的最终求解问题归结为一个有约束的二次型规划（QP，Quadratic Programmig）问题。可以利用标准二次型优化技术来求解这个优化问题，如牛顿法、共扼梯度法、内点法等。但是，这些方法只适合小样本情况，当样本数目较大时，算法复杂度会急剧增加，而且占用极大的系统内存。为提高SVM的计算速度和改善其收敛性，有不少人做了研究，并提出了许多更有效的针
38、对大规模样本集的训练算法：(1) 分块算法 (Chukning)1995年，Cortes和Vpanik给出了一种求解支持向量机二次规划（QP）问题的分块算法。其依据是支持向量机的最终求解结果只与支持向量有关，与非支持向量无关。其实现过程是将初始QP问题分解为一系列小规模的QP子问题，不断的求解QP子问题，保留解中的支持向量，并加入到新的QP子问题中。每个QP子问题都采用上次求解的结果作为初始值。直到所有的QP子问题求解完毕。这种方法可以大大减小算法占用的系统内存。然而，当样本集中的支持向量数目很大时，其算法复杂度仍然很大。(2) 子集选择算法 (Subset Selection Algorit
39、hms)为加快支持向量机的训练速度，Osuna（1997）提出了子集选择算法。该方法首先将数据集分块（chuknnig），从分块数据中提取支持向量，并加以保留，然后补充新的样本，反复运算，直至所有的样本都满足KKT（Karush-Kuhn-Tucker）（Vapnik，1995）收敛条件。(3) 序列最小优化算法 (SMO，Sequential MinimalOptimization)1998年，Platt提出了更为有效的支持向量机训练算法，即序列最小优化算法。其基本思想是把一个大数据量的QP分解为一系列最小的QP子优化问题。该算法是分解算法的一个极端特例。其实现过程为，每次针对两个样本的二次
40、规划问题，直接采用解析方法求其最优解，以提高QP问题的求解速度。Platt指出，通过该优化方法可以大幅提高序列最小优化算法的性能。该算法在训练线性支持向量机时，可以获得非常好的性能，但在训练非线性支持向量机时，算法速度会大大减慢。针对不同的问题，其计算复杂度差别很大。SVM能够解决小样本、高维数等问题。将SVM用于预测,必须构造准确的SVM回归模型,关键是选取合适的核函数和确定各个参数,以获得较高的预测精度。支持向量机通过引入核函数将输入空间中的非线性问题映射到高维特征空间中，在高维空间中构造线性函数判别，在这个高维空间中寻求输入变量和输出变量之间的非线性关系的精确描述。基于SVM的预测模型的
41、大致步骤如下:(1) 样本的获取和预处理,形成训练和测试样本。(2) 核函数的选取和参数的确定。(3) 求解目标函数的最优参数。(4) 将待预测的数据输入模型，得到预测结果。下面将分别介绍本文所涉及的支持向量回归机理论算法及模型。3.2 支持向量回归机模型支持向量机最初用来解决模式识别问题，其分类算法实现较好的推广能力，随着Vapnik的不敏感损失函数的引入，它已成功扩展为非线性回归估计问题。支持向量机分为为线性回归机和非线性回归机。在所属情况下，样本呈现非线性关系。对于非线性情况，支持向量回归机的基本思路是通过一个非线性映射，因此本质上是寻求映射逼近数据中隐含的非线性机制，这样就可以采用作为
42、理想中的预测器使用。给定组样本数据，其中，利用非线性映射，将数据映射到高维特征空间，在空间中找到映射，进行线性逼近。由统计学习理论可知，具有以下形式： (3.1)则函数逼近问题等价于使如下范函最小： (3.2)式中，为损失函数，为样本容量，为规则化常数。为保证算法具有较好的泛化能力，选取不敏感函数为损失函数： (3.3)用于控制回归逼近误差管径的大小，从而控制支持向量的个数和泛化能力，其值越大，支持向量越少，预测精度越差。取经验风险为： (3.4)于是(3.2)式转化为如下的约束优化问题： (3.5)(3.5)式中，用于控制模型复杂度和逼近误差的折中，越大则对数据的拟合程度越高。应用时通常采用
43、(3.5)式的对偶形式，同时引入核函数方法，即将(3.5)式转化为： (3.6)根据Hilbert-Schmidt理论，核函数可以是满足Mercer条件的任意对称函数，常用核函数有高斯径向基函数、sigmoid核函数和多项式核函数等，本文采用高斯径向基核函数： (3.7)理论上，对于任意一个支持向量（为支持向量）可求得值，实际上，通常对所有支持向量求平均值： (3.8)因此，支持向量机算法可转化为凸二次规划，通过求解可得非线性映射： (3.9)上式中系数只有 一小部分是非零值，它们所对应的样本点就是所谓的支持向量。对于函数回归估计问题，其价值函数就是核函数的线性组合。最终寻找一组组合系数即可。
44、支持向量机预测模型流程如图3.1所示：开 始输入原始数据序列核函数的选择及内核参数的设定训练数据与待测数据的选择构建预测模型计算预测值结 束图3.1 支持向量机预测流程图3.3 本章小结本章首先对支持向量机的历史渊源、支持向量机的理论体系和支持向量机的发展概况进行了论述。对支持向量机所能够解决的问题、怎样用支持向量机解决实际问题、在解决实际问题中有哪些优点、在支持向量机方面人们取得了哪些突出的成果可以为在解决问题时所采用、支持向量机目前还存在哪些问题需要进一步研究等给予了比较全面的阐述。从而引出统计学习理论的基本思想。在此基础之上，重点阐述了支持向量回归机的理论算法及模型的建立，实现航空发电机
45、寿命的预测问题。4 灰色神经网络预测模型4.1 灰色神经网络概述预测问题已经是当今的一大热点问题，各个领域都对此开展了大量的工作，但是从预测准确度考虑还没有普遍适用的方法被接受。随着科技的发展各个领域都在高科技的推动下不断完善，在一些高精密设备使用的同时，使用寿命的预测是十分重要的，有时很难用一个单项预测模型达到较好的预测精度。本章介绍了灰色理论和BP神经网络预测模型的基本算法和预测流程。在分析传统组合方法的基础上，构建了一种新的改进的灰色神经网络模型。4.1.1 神经网络理论自1985年Rundhrt提出BP算法以来，神经网络发展迅速并渗透割各个学科，多层前向型网络成为用途最为广泛的网络之一
46、神经网络算法已不再是只供研究而在实际的生产中开始了广泛的应用。如：数据库系统的数据挖掘、产品的自动分捡系统的图像识别荨。对应地在计算机辅助设计的软件开发中，神经网络算法的设计也越来越多，但基本的神经网络算法比较复杂，且其理论也不十分完善有些参数需要凭经验。因此，软件开发者对于神经网络解法对实际要解决的同题的可行性及效率并没有什么把握。如何选取BP神经网络的隐含层数及节点数，目前尚无准确的理论和方法，必须傲大量的实验。所以，如果一开始就编写基本的神经网络算法，将把大部分的精力都投人到算法的实现和调试上了，不能专注于调整网络参数和结构的设计。MATLAB提供了一个安全可靠的神经网络工具箱，包括现阶段基本的典型的神经网络算法并且在训练过程中可以方便地用曲线将学习率的变化和误差的变化表现出来以便于分析。开发者可以用MATLAB设计自己的算法或调整网络参数和结构，进行快速原型设计，试用各种参数并通过多次实验选定适合的参数和结构。BP算法是一种有监督式的学习算法。其主要思想是引入学习样本。使用反向传播算法对网络的权值和偏差进行反复的调整训练使输出的向量与期望向量尽可能地接近，当网络输出层的误差平方和小于指定的误差时训练完成。保存网络的权值和偏差。BP算法由两部分组成：信息的正向传递与误差的反向传播。在正向传播过程中。输入信息从输入层经隐含层逐层计算传向输出层，每一层