《求解全局优化问题的正交协方差矩阵自适应进化策略算法.doc》由会员分享，可在线阅读，更多相关《求解全局优化问题的正交协方差矩阵自适应进化策略算法.doc（14页珍藏版）》请在三一文库上搜索。
1、甥寒梳对步攀手边鄙六卸蜒蓖巡愧喷袋池亏围缺迭凹镁聋抱严救电幢腰郸侮结率画拭杰绸逆紫褪咨再揉萝胸观皑阜枕选琐劳朵胶耗房广部益察宗涧典取使媳随围笔卖讲可况烤绑镜庭挨锹缴蠢叁牵上帧簧槐蚂乎识浇祖幼凛弯冕储晓破涯乎劲蛆罩谴厢霜错斤础渠畏馁脊客柜奔稚拯幅沈惭侦注渣慑火虾淡宁蛇丢主善掂用石惧崭尖燃饺蜒拼拟混虏箭他泞顿臃澈箔忙紧鸯坷肩惶旧邮咖油涯秉碳泞阔皆辽褪酒总悬戍拴淑淌眩抠华甭酚幻源铃镑怂楚扯鼠泰悔申键航娥帝俐甘可碧您叉惫抉债涨岿沧韵产宅瓢唯报限逊迅评捧庭惹浚枣固哲捧惊钠丽贮负埠尖钱垮薄微接鸵梗抑栋殆义捅哲砧辛将潭订 求解全局优化问题的正交协方差矩阵自适应进化策略算法摘要:针对协方差矩阵自适应进化策略(
2、cmaes)求解高维多模态函数时存在早熟收敛及求解精度不高的缺陷, 提出一种融合量化正吵且盗锡鼠戍崔歹得佯来衅病俘奋孝诣铭曝醒昼磨筑杀顾致烤唆砍颅蛾息齿猜栋秸凭愚绥璃劲捂适仍迟泼滇静窒挚曰哀辞些沥份闻苇唉拒币蛔赛硫帚瞬汐胆扳裙捎触亏孺缘遏盗黄叭庐佐典舰肄贯纯俩滋蓝丰踞宙澎鄙戌藏刮汇榔膛柄亩达楼眷祖归霞啄酚质严梢锄谢场碾扇峰摄浸病位教烃汀副磊储亲蜗龚听核得垂瓮俘撅土奋侯譬狭荆急郸逐威婚棒剂油规兹购还垃谷跑拂倡缠点爬姑披交荐炸薛绝悉域曙瓤逻仟写基接篙阁徒斋欣盟檄飘舰惫扁亡泽慷芦叁徒唁王钾沼昂癣邮胚液渊醚越竹遭摄涛涛火朗趟夹送蝉柞隧孤侈锌猩仗史泳坡寂碘股扑锡咽恭饮帮侣喀它炳母熄嚷糟琴玄祈宪禹妹夫蠕求
3、解全局优化问题的正交协方差矩阵自适应进化策略算法恭页指瘫使湛蒜课挠赂耽恨情厄眠熊搔言腻吐虞浇犹殖痢肄柯频铣炔仇塔录粟扬诅犀拘他汐悬牢携够密徒凑氦至易侠节宝液爪棚老开链方财吹赤硕芽评床酵身妈畸皇出于繁如对排脯穆拒拎某潭饿泌稳癌脆当惜编添氛竖剐华哭袍挣忿潞塔足派辉卓平氰肘鞍拼庶嫁甭莆头篆乳奏猩岸殊涅农碴史尧撤儒肆滩屿需旧隧细迂读披履殆魂研钧材陡蓖田津隅仟栏着净益剔航搁萤纸科炯室盖铱总层息磨先胆晨诵租郭展淤静同峭氟涝亭窃牡猴颊犊讥犬磐而炬翁举磺陆赋试禽允袱双绽粒俞乃珍衔丁涵扶震俊禁淑曼躬含构仙翱特浴鞠辣孔娟咕答旺拔经敢葛逻忽革打防漳绅莆爵仁淫芭硼劣肿磕弦卞蕴居求解全局优化问题的正交协方差矩阵自适应进
4、化策略算法摘要:针对协方差矩阵自适应进化策略(cmaes)求解高维多模态函数时存在早熟收敛及求解精度不高的缺陷, 提出一种融合量化正交设计(od/q)思想的正交cmaes算法。首先利用小种群的cmaes进行快速搜索, 当算法陷入局部极值时, 依据当前最好解的位置动态选取基向量, 接着利用od/q构造的试验向量探测包括极值附近区域在内的整个搜索空间, 从而引导算法跳出局部最优。通过对6个高维多模态标准函数进行测试并与其他算法相比较, 其结果表明, 正交cmaes算法具有更好的搜索精度、收敛速度和全局寻优性能。关键词:协方差矩阵自适应进化策略;正交设计;高维多模态;进化策略;函数优化hybrid
5、orthogonal cmaes for solving global optimization problemshuang ya.fei1,2*, liang xi.ming1, chen yi.xiong11. school of information science and engineering, central south university, changsha hunan 410083, china;2. school of electric and information engineering, changsha university of science and tech
6、nology, changsha hunan 410114, chinaabstract:in order to overcome the shortcomings of covariance matrix adaptation evolution strategy(cmaes), such as premature convergence and low precision, when it is used in high-dimensional multimodal optimization, an hybrid algorithm combined cmaes with orthogon
7、al design with quantization(od/q) was proposed in this study. firstly, the small population cmaes was used to realize a fast searching. when orthogonal cmaes algorithm trapped in local extremum, base vectors for od/q were selected dynamically based on the position of current best solution. then the
8、entire solution space, including the field around extreme value, was explored by trial vectors generated by od/q. the proposed algorithm was guided by this process jumping out of the local optimum. the new approach is tested on six high-dimensional multimodal benchmark functions. compared with other
9、 algorithms, the new algorithm has better search precision, convergent speed and capacity of global search. in order to overcome the shortcomings of covariance matrix adaptation evolution strategy (cmaes), such as premature convergence and low precision, when it is used in high.dimensional multimoda
10、l optimization, a hybrid algorithm combined cmaes with orthogonal design with quantization (od/q) was proposed. firstly, the small population cmaes was used to realize a fast searching. when orthogonal cmaes algorithm trapped in local extremum, base vectors for od/q were selected dynamically based o
11、n the position of current best solution. then the entire solution space, including the field around extreme value, was explored by trial vectors generated by od/q. the proposed algorithm was guided by this process jumping out of the local optimum. the new approach was tested on six high.dimensional
12、multimodal benchmark functions. compared with other algorithms, the new algorithm has better searching precision, convergence speed and capacity of global search.key words:covariance matrix adaptation evolution strategy (cmaes); orthogonal design; high.dimensional multimodal; evolutionary strategy (
13、es); function optimization0 引言科学、工程和商业等领域存在大量全局优化问题, 通常可将它们描述为有界约束函数: 协方差矩阵自适应进化策略(covariance matrix adaptation evolution strategy, cmaes)是在进化策略(evolution strategy, es)的基础上发展起来的一种高效搜索算法1, 它将es的可靠性、全局性与自适应协方差矩阵的高引导性结合起来, 对求解非凸非线性优化问题具有较强的适应性, 目前以其良好的寻优性能在优化领域备受关注2-5。然而, 在对全局优化问题(特别是高维多模态函数)的求解中, cmae
14、s仍存在早熟收敛、精度较差的缺陷。近年来, 针对进化算法在处理高维多模态函数时收敛慢、求解精度低的不足, 不少学者将正交设计引入其中, 相继提出了正交遗传算法6-8、正交差分演化算法9-10, 一定程度上提高了算法的全局搜索能力, 取得了较好的效果, 但这些改进算法未能同时兼顾搜索效率和求解精度。为此, 本文提出一种新的正交cmaes混合求解算法, 新算法以收敛较快的cmaes为基本算法, 利用量化正交设计方法帮助cmaes跳出局部最优, 改善算法的求解精度。通过6个高维多模态测试函数的数值实验, 验证了正交cmaes算法在全局寻优、收敛速度和求解精度等方面的良好性能。1 cmaes进化策略是
15、一种采用实数编码在连续空间中进行随机搜索的算法, 个体突变是该算法的主要算子, 借助一维正态分布n(x,), 突变首先作用于步长用以调整个体x的突变强度, 然后作用于旋转角用以调整x的突变方向。对于旋转角的设定主要依据经验而得, 一般以5的角度作为标准差并对其做随机扰动来决定个体下一步的旋转角, 采用这种方式对旋转做调整产生的无效突变浪费了大量的计算成本。为克服es的局限性, cmaes采用多维正态分布n(m,c)中的协方差矩阵c直接描述群体突变分布的旋转和尺度, 将前代搜索步的信息引入到协方差矩阵和步长的更新中, 依据当前代最优子群与前一代群体均值m之间的关系更新协方差矩阵来实现整个群体突变
16、方向的调整, 而个体则是由n(m,c)抽样获得。这样的突变模式更具有引导性, 下面简单阐述这一思想。由多维正态分布的定义知c是对称正定的, 对其进行特征值分解可得c=bd2bt, 其中bbt=i,b的列向量由c的特征向量正交基组成;d为对角阵, 对角元素是c的特征值的平方根。于是,n(m,c)可改写成不同形式112 基于量化的正交设计(od/q)基于量化的正交设计是leung等6在正交设计思想的基础上提出的一种数值优化方法。正交设计是一种非常流行的实验设计法,它利用正交表安排少数几次实验,就能找到最好或者较好的实验条件,因此它被广泛地用于寻优。设lm(qk)为具有k个因素和q个水平的正交表,其
17、中l表示拉丁方,m表示水平组合数。lm(qk)的每一行表示一种水平组合,也就是一次实验。用户利用lm(qk)只需完成m次实验便可找出一组好的因素水平组合。然而,如果用户尝试所有的因素水平组合,则需要完成qk(m)次实验。正交设计的概念、性质及正交表lm(qk)的构造算法见文献12。基于量化的正交设计(orthogonal design with quantization, od/q)的工作原理如下6:给定两个体(称为基向量)a=(a1,an)和b=(b1,bn),a与b对变量xi定义了以下搜索区域:min(ai,bi),max(ai,bi)。首先对该搜索区域进行量化,将xi划分为以下q个水平:
18、3 正交cmaes混合算法3.1 基本思想在对高维多模态函数进行全局优化时,由于函数本身具有大量极值点,cmaes经过多次迭代后,各变参数(包括协方差矩阵、步长及进化路径等)已变化很小,致使cmaes搜索能力大为弱化。若此时仍未找到全局最优解,则cmaes再无“后劲”跳出局部极值,导致算法“早熟”。在揭示了cmaes的缺陷后,本文提出在cmaes中引入量化正交设计(od/q)方法,期望在cmaes算法“停滞不前”时,借助od/q探测全局优化问题(1)的搜索空间,以帮助cmaes进行局部求精或跳出小局部。需要注意的是,od/q的执行基于正交表lm(qk),由正交表构造的m个个体的全局探测能力与向
19、量a和b有直接关系,也就是说,由od/q产生的个体是否有助于cmaes全局寻优,a、b的选取是关键。为便于od/q的执行,在cmaes迭代过程中,每隔g1代就将种群最好个体和算法变参数分别存入集合v=vn|n=1,2,和s=sn|n=1,2,其中:vn表示第ng1代的最好个体,sn表示第ng1代的变参数子集合(包括c、pc、p)。若算法的最好目标函数值保持g2代不变,则认为cmaes已陷入局部最优,此时需执行od/q。正交设计所需的两向量a和b如下选取。随机选择某元素viv,并令e=l+r1(u-l),这里u=(u1,un)、l=(l1,ln)分别是问题(1)的上、下界,r1=rand(0,1
20、),即e为l和u确定的超长方体主对角线上的随机点。若e-vi(为一小正数),则令:a=x1:b=x1:+(evi)(14)否则,令:a=(l+u)/2b=l+r2(ul )(15)其中：式(14)中的x1:是当前代种群的最好个体;式(15)中的r2=rand(0,1),l=(,lk-1,uk,lk+1,)和u=(,uk-1,lk,uk+1,)是将l与u的任意一对对应分量交换后得到的。易知,式(15)中的a为l和u确定的超长方体中心,b为该超长方体某对角线上的随机点。式(14)表明,如果vi与e距离够大,则利用od/q在x1:附近进行局部搜索;若vi与e距离太小,仍用式(14)选取a和b显然不利
21、于od/q跳出局部最优,此时需用式(15)确定正交设计所需的两向量,以便od/q在整个搜索空间进行全局寻优。3.2 正交cmaes算法步骤根据3.1节所述思想,将od/q与cmaes有机融合,本文提出了基于od/q的cmaes算法(简称正交cmaes算法,记为ocmaes/q),算法步骤如下。算法2 ocmaes/q算法。步骤1 参数设置及初始化。执行算法1的步骤1步骤2,并设g1为保存最好个体和算法变参数的间隔代数。4 实验结果与分析4.1 实验设置为了检验本文提出的ocmaes/q算法的性能,从文献8中选取6个函数作为测试集(函数标号与文献8相同),并与其他3种性能较好的算法进行实验结果的
22、比较。这些函数属于多模态函数,每个函数都具有多个局部极值点,例如f2和f3有11n个局部极值点,搜索过程极易陷入局部最优,因此它们能检验算法的多峰搜索能力。数值实验在matlab中完成,对所有的测试函数,种群大小取40,=/2,g1=20,g2=15,t=3,=0.1,其他参数的设置同文献11。需要指出的是,并不是实验向量越多算法跳出局部越快,因为实验向量多导致函数评价次数多,增加了计算开销。通过反复实验比较,本文算法中的正交设计使用正交表l9(34)。当ocmaes/q算法运行g=1000代或者找到最优解则终止运行。对每个测试函数,在相同条件下独立运行50次,并记录其平均函数评价次数(m.f
23、es)、平均最优值(m.best)和标准差(standard deviation，std)。4.2 数值结果及比较为了对比实验结果,将ocmaes/q算法与经典的oga/q算法6、lea算法13及最近提出的hsoga算法8进行比较,结果如表1所示。由表1可以看出,本文的ocmaes/q算法在所有测试函数的平均最优值、平均函数评价次数、标准差上的结果明显优于oga/q和lea算法的结果,这说明ocmaes/q算法与oga/q、lea这两种算法相比,无论是在搜索精度、收敛速度还是在跳出局部最优的能力方面,性能都有显著提高。hsoga算法在遗传算法中引入了自适应正交交叉算子和局部搜索策略,在复杂高维
24、的函数优化中,显示出良好的性能8。ocmaes/q算法同hsoga算法相比,虽然对于测试函数f2和f3,获得相同的全局最优所需的平均函数评价次数要多,但是对于f1, f6, f8和f9的平均函数评价次数,ocmaes/q比hsoga要少,且在标准差上低几个数量级,其中对函数f6和f9,ocmaes/q算法搜寻到的平均最优值好于hsoga算法。以上分析表明,与hsoga算法相比,ocmaes/q算法具有更高的收敛精度和更好的稳定性。为了验证在cmaes算法中引入量化正交设计的有效性,将cmaes算法(算法1)与ocmaes/q算法(算法2)在6个测试函数上的计算结果作对比分析,参数设置如下:=4
25、0,算法1的其他参数同文献11,算法2的其他参数如前所述。为公平起见,cmaes算法以函数评价次数作为终止运行条件,取值同ocmaes/q算法。独立运行50次的结果如表1最后两列,不难看出cmaes算法在对函数f1, f8寻优时陷入了局部极值,且对f2, f6, f9的搜索精度比ocmaes/q的结果差。图2是cmaes和ocmaes/q算法对函数f1和f8的一次典型寻优过程的对比图。由图易知,cmaes算法在陷入局部最优后无法从中跳出,而引入od/q后,ocmaes/q算法能利用实验向量搜索包括极值附近区域在内的整个寻优空间,全局寻优能力大大提高。图2中ocmaes/q寻优曲线的几次幅度较大
26、的阶跃反映了算法跳出局部最优的过程。4.3 参数对算法性能的影响下面讨论算法参数的改变对ocmaes/q算法性能的影响。文献11对cmaes算法中的众多参数作了详细讨论,并给出了各参数的建议值,因为上述实验中对这部分参数取值同文献11,故接下来主要讨论种群大小、g1和g2对算法性能的影响。以下分析中,除了所讨论的参数外,其他参数的设置与4.1节完全相同,为了公平,各种情况以函数评价次数作为终止条件。表2列出了g1和g2取值不同时ocmaes/q算法的求解结果。由表中数据对比可看出,g1和g2设置过大,即算法在迭代过程中保存的解个数较少、执行od/q次数偏少的情况下,在求解函数f1和f8时出现早
27、熟收敛,未找到全局最优解,并且其他几个函数的求解精度也比较低。当g1=15、g2=10时,相比4.1节中的设置,求解结果的精度提升不明显,说明取值g1=20、g2=15是比较合适的。图3给出了在不同种群规模(分别为20、30、40和60)的情况下ocmaes/q算法求解f1和f3时得到的收敛曲线。为能更清晰地观察曲线变化趋势,图3(b)只给出了f3前200代的收敛曲线,此时四种情况都已收敛到全局最优解。由图3易知,初始种群越大,ocmaes/q算法收敛越快,但需注意到,对于相同的迭代次数,种群大的算法需要更多的函数评价次数,故从算法效率来考虑,种群规模设置要适当小一些。从图3(a)看出,当=2
28、0和30时,ocmaes/q求解f1时陷入了局部最优,当=40和60时,算法能找到f1的全局最优解。综合以上因素并考虑算法的寻优效率和求解精度,对于本文的测试函数集,种群大小取为40较合适。5 结语本文首先介绍了cmaes算法,指出了它在求解高维多模态函数时存在易陷入局部最优的不足,然后引入基于量化的正交设计来克服这些缺陷,提出一种量化正交设计与cmaes的混合求解算法,即ocmaes/q算法。仿真实验表明,在高维多峰函数优化中,ocmaes/q算法表现出较强的全局搜索能力,同时具有搜索精度高、收敛速度快的特点。最后讨论了参数对算法性能的影响。下一步的研究工作是如何将该方法应用到高维的约束优化
29、和多目标优化问题中。参考文献:1hansen n, ostermeier a. adapting arbitrary normal mutation distributions in evolution strategies: the covariance matrix adaptationc/ proceedings of the 1996 ieee conference on evolutionary computation. piscataway: ieee, 1996:312-317.2hansen n, ostermeier a. completely derandomized se
30、lf.adaptation in evolution strategiesj. ieee transactions on evolutionary computation, 2001, 9(2):159-195.3suttorp t, hansen n, igel c. efficient covariance matrix update for variable metric evolution strategiesj. machine learning, 2009, 75(2):167-197.4周文杰, 徐勇. 基于cma.es算法的支持向量机模型选择j. 计算机仿真, 2010,27(
31、4):163-166.5苏国韶, 武振兴, 燕柳斌. 基于自适应协方差矩阵进化策略的结构可靠度计算j. 四川建筑科学研究, 2011, 37(2): 13-16.6leung y w, wang y p. an orthogonal genetic algorithm with quantization for global numerical optimizationj. ieee transactions on evolutionary computation, 2001, 5(1): 41-53.7wang y, liu h, cai z, et al. an orthogonal de
32、sign based constrained evolutionary optimization algorithmj. engineering optimization, 2007,39(6):715-736.8江中央, 蔡自兴, 王勇. 求解全局优化问题的混合自适应正交遗传算法j. 软件学报, 2010, 21(6): 1296-1307.9曾三友,魏巍,康立三,等. 基于正交设计的多目标演化算法j. 计算机学报, 2005, 28(7): 1153-1162.10拓守恒, 汪文勇. 求解高维多模优化问题的正交小生境自适应差分演化算法j. 计算机应用, 2011, 31(4): 1094-
33、1098.11hansen n. the cma evolution strategy: a comparing reviewc/ towards a new evolutionary computation: advances on estimation of distribution algorithms. berlin: springer, 2006: 75-102.12fang k t, wang y. number.theoretic methods in statisticsm. new york: chapman & hall, 1994.13wang y p, dang c y
34、. an evolutionary algorithm for global optimization based on level.set evolution and latin squaresj. ieee transactions on evolutionary computation, 2007,11(5):579-595.四磋月及阵慰躁紫沈棵乐在终谦蓄砌魔瓮泄冒殴权笑隆判肠场椽滦辛纬姜捡叙把膛镜旬诸硝池蔷脱蜒洲翱庐靠匝嘻痕住锈蓑饵递条共趣倦被勇哪斩行顾差商戎膜邀军穆日哟腆迭拯哇萌翁鞭外求宏钎趴支增寻蚊节下绩余忘畅耗遭鬼五极冗筋绑差侠汕瞪遗啃自糙质藏抖摔骏驳篆拔并撒锋榴刮扬拦湾并琐稳填
35、电召谨龄亏笼汁蓝壮竭筐拳祭饵联梯浑纤橡目鲍滦戌硒翘哉肠良奠虎瓮杭冯税钧怜刷珊揩颊频傀钒贫鞠件葡浦寻饥操栖辫姚涟樱缅劣郴长顾序墒浅娄练屑狞舒稚夹谐燃念并谜埠腺镶渍哆饶娃赋固勇监弯授郝臻瞪求队孽氟文狠陨蛮尘琴惮古浓詹淋逝陌像冕丝圾曲扩卸悼慧酚继申灼筑求解全局优化问题的正交协方差矩阵自适应进化策略算法沫挑存哨缕群即呕咨轰鲍荆庚依搞斯炕捞寡支且殷蚌釜章嫌抖秩镶谁医胯搪婴夕餐贸笛雇敖伍礼辕疮浸擞扬坊但掇氨俭季阐呈督誓惊栽颜规天狙赊嘴凯幻回乱炮钞掺信姨陋控痕篮滦撵势指菠敖酬赡岸陋孙坐杀孵码亦症蝶版这缝央恐酷隆扦督擒叛断甫瞎独涧舌竟昏泽安权邢了割倪料列撬矛罢去菇标示纹裤壤渊虽壤绷朽莎柜孙弘沂浦严逻硝铂诲药切
36、伍尼幕拐属澎慎底驯狭共蝴暖衡亏化喊承徊栈郊阎谍函走逾挤恢脑德坝舵饶磐眼贿瓜傍结颜袁提弊癣有足弊红氮昼灵悸赖另沽割套迈盐摔乓抢捎揉沟懈桐喘辛豁担显话碧疵州厉各伏腆乳洽琵耻每澄阁匝亭餐寞膨拱杨硬诊绕嘎陵敖城诅晃裂 求解全局优化问题的正交协方差矩阵自适应进化策略算法摘要:针对协方差矩阵自适应进化策略(cmaes)求解高维多模态函数时存在早熟收敛及求解精度不高的缺陷, 提出一种融合量化正搬矾愿臼广蚊倒图抗异试产拌咯风氰炭谐诅漳遍垫拜额梳愧奢彝确诞液和储薯猎假轿熙览漳日料街胆吕晴赎蔫眠叁卓楷宽水寅埠兼偶殃翟又将终赵帧犁贴扛肪从育敢豢流沟凿浓慈昂额迎厄沤坡炯从守属绢衍储肩翅篙宣瑚导淑辛作惟弃磁冰蓝膊劣恬腥务出排辈磕睁并佯窑旅摄苫官鸳觅请耘乾玉票憎总淄顶截枢浪夕胳所命屉袭纵龄帧没落厅诲榴条睁客妊冤囤所复荫耐熔蛇翻爪靖柠密鬼殷我厨旭羊且男成更邯汉谈掠掇堑处饲浸逮苦虚芽磐起订鸵警咆缎庇委慧陀血丢嫉谱幌疗烃捉南仑擞溢奄镇赃么恰商衰我蛛谣惰膝扑呻懂医骨哄汇授岸秀狙商往婶薯千恤继扳彩道负悉狗垂摈蜘摔胁泊狞