约束优化算法拉格朗日乘子法.docx

1、word拉格朗日乘子法约束优化问题的标准形式为：约束优化算法的根本思想是：通过引入效用函数的方法将约束优化问题转换为无约束问题，再利用优化迭代过程不断地更新效用函数，以使得算法收敛。1. 罚函数法罚函数法内点法的主思想是：在可行域的边界上筑起一道很高的“围墙，当迭代点靠近边界时，目标函数陡然增大，以示惩罚，阻止迭代点穿越边界，这样就可以将最优解“挡在可行域之内了。它只适用于不等式约束：它的可行域为：对上述约束问题，其其可行域的内点可行集的情况下，引入效用函数：、其中或算法的具体步骤如下：给定控制误差，惩罚因子的缩小系数。步骤1：令，选定初始点，给定一般取10。步骤2：以为初始点，求解无约束其中

2、或，得最优解 步骤3：假如，如此为其近似最优解，停；否如此，令，转步骤2.2. 拉格朗日乘子法1算法：约数为等式的情况引入效用函数为判断函数为当时迭代停止。步骤1：选定初始点，初始拉格朗日乘子向量，初始罚因子与其放大系数，控制误差与常数，令。步骤2：以为初始点，求解无约束问题：得到无约束问题最优解步骤3：当时，为所求的最优解，停；否如此转步骤4.步骤4：当时，转步骤5；否如此令，转步骤5.步骤5：令，转步骤1。2 算法一般约束形式的松弛变量法和指数形式法松弛变量法：乘子的修正公式为：判断函数为：当时迭代停止。3. 乘子法MATLAB程序与其作用3.1 函数3.1.1程序1：乘子法效用函数程序

3、函数功能：将约束优化问题，根据效用函数方法，将其转变成无约束问题。function f=AL_obj(x)%拉格朗日增广函数%N_equ 等式约束个数%N_inequ 不等式约束个数global r_al pena N_equ N_inequ;%全局变量h_equ=0;h_inequ=0;h,g=constrains(x);%等式约束局部for i=1:N_equ h_equ=h_equ+h(i)*r_al(i)+(pena/2)*h(i).2;end%不等式约束局部for i=1:N_inequ h_inequ=h_inequ+(0.5/pena)*(max(0,(r_al(i)+pena*

4、g(i).2-r_al(i).2);end%拉格朗日增广函数值f=obj(x)+h_equ+h_inequ;3.1.2 程序2：判断函数函数功能：判断是否符合约束条件% the pare function is the stop conditionfunction f=pare(x)global r_al pena N_equ N_inequ;h_equ=0;h_inequ=0;h,g=constrains(x);%等式局部for i=1:N_equ h_equ=h_equ+h(i).2;end%不等式局部for i=1:N_inequ h_inequ=h_inequ+(max(-g(i),r

5、al(i+N_equ)/pena).2;endf=sqrt(h_equ+h_inequ);3.1.3 程序3AL算法主程序函数功能：对无约束的效用函数利用拟牛顿算法求解其最优解，更新乘子。function X,FVAL=AL_main(x_al,r_al,N_equ,N_inequ)%本程序为拉格朗日乘子算法示例算法%函数输入：% x_al:初始迭代点% r_al：初始拉格朗日乘子% N-equ:等式约束个数% N_inequ:不等式约束个数%函数输出% X：最优函数点% FVAL:最优函数值%=程序开始=global r_al pena N_equ N_inequ; %参数全局变量pena

6、10; %惩罚系数c_scale=2; %乘法系数乘数cta=0.5; %下降标准系数e_al=0.005; %误差控制X围max_itera=25;out_itera=1; %迭代次数%=算法迭代开始=while out_iteramax_itera x_al0=x_al; r_al0=r_al; %判断函数 pareFlag=pare(x_al0); %无约束的拟牛顿法BFGS X,FVAL=fminunc(AL_obj,x_al0); x_al=X; %得到新迭代点 %判断停止条件 if pare(x_al)e_al disp(we get the opt point); break

7、end %c判断函数下降度 if pare(x_al)cta*pareFlag pena=pena; %可以根据需要修改惩罚系数变量 else pena=min(1000,c_scale*pena); %乘法系数最大1000 disp(pena=2*pena); end % 更新拉格朗日乘子 h,g=constrains(x_al); for i=1:N_equ %等式约束局部 r_al(i)=r_al(i)+pena*h(i); end for i=1:N_inequ %不等式约束局部 r_al(i+N_equ)=max(0,(r_al(i+N_equ)+pena*g(i); end out

8、itera=out_itera+1;end%+迭代完毕+disp(!the iteration over!);disp(the value of the obj function);obj(x_al)disp(the value of constrains);pare(x_al)disp(the opt point); X=x_al; FVAL=obj(X);3.1.4 乘子法函数使用方法（1） 定义目标函数与约束条件目标函数文件约束函数文件（2） 函数调用x_al=1,1,1; %初始迭代点r_al=1,1; %初始拉格朗日乘子N_equ=1; %等式约束个数 一个N_inequ=1; %不等式约束个数 一个X,FVAL=AL_main(x_al,r_al,N_equ,N_inequ)计算结果：we get the opt point!the iteration over!the value of the obj functionans = -3.9871e+031the value of constrainsans = 0the opt pointX = 1.0e+015 *FVAL = -3.9871e+0319 / 9