《梯度法和共轭梯度法.pptx》由会员分享,可在线阅读,更多相关《梯度法和共轭梯度法.pptx(27页珍藏版)》请在三一文库上搜索。
梯度法和共轭梯度法,4. 共轭梯度法,一. 无约束最优化问题,解析法:利用函数的解析性质构造迭代公式。,二. 梯度法(最速下降法),迭代公式:,如何选择下降最快的方向?,梯度法(最速下降法):,梯度法算法步骤:,解:,收敛性,性质.,几何解释,三、共轭方向法,1. 何谓共轭方向?,2. 共轭方向,共轭是正交的推广。,3、共轭方向法,四. 共轭梯度法 :,如何选取一组共轭方向?,二次函数情形,非二次函数情形,以下分析算法的具体步骤。,1、 二次函数情形,2. 用于一般函数的共轭梯度法,