无约束最优化问题的算法研究与实现

• 作 者: 景慧丽
• 出 处: 西安科技大学
• 发表日期: 2004年期
• 关键词: 无约束最优化 非线性共轭梯度法 线性搜索 全局收敛性

无约束最优化计算方法是数值计算领域中十分活跃的研究课题之一,快速地求解无约束最优化问题,除了其自身的重要性外,还体现在它也构成一些约束最优化问题的子问题。因此,对于无约束最优化问题,如何设计快速有效的算法一直都是优化工作者十分关心的问题。论文研究求解无约束最优化问题的非线性共轭梯度法,提出了两类新的非线性共轭梯度方法,并讨论了这些方法的全局收敛性和数值表现。论文的主要工作如下:(1)我们首先简要的介绍了求解无约束最优化问题的发展现状,回顾了论文将要研究的问题的背景和已有结果,并介绍了论文的主要工作。(2)我们将传统的HS算法和Dai-Yuan算法相结合,充分利用两者的优势,提出了求解无约束最优化问题的一类混合型非线性共轭梯度算法。我们证明了该算法当采用Wolfe型线性搜索方法时,不需要给定下降条件就具有全局收敛性,并用数值结果说明了这类算法的有效性。(3)我们提出了几种改进的Armijo型线性搜索方法和一种改进的非线性共轭梯度方法即MPRP方法。我们证明了MPRP方法在改进的Armijo型线性搜索方法3下求解非凸极小化问题的全局收敛性。MPRP方法的一个最重要的特征是能产生充分下降方向,即搜索方向d k满足d kT gk= ?gk2,这种性质不依赖所采用的线性搜索方法,这也是论文提出的算法与已有的非线性共轭梯度法的主要区别之一。此外,当采取精确线性搜索方法时,MPRP方法退化为标准的PRP方法。最后用数值结果说明了这类算法的有效性。