两类共轭梯度法的研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:cxycsnf
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据和云计算技术的广泛应用,实际生活中会产生海量的数据和结构复杂的问题,并且需要处理问题的维数和规模呈现急剧增加的趋势.由此日常生活中产生了许多亟需解决的大规模问题.在众多非线性优化方法中,共轭梯度法(CG)具有迭代格式简单、存储要求低及理论性质良好等优点.CG法是解决大规模线性等式系统和非线性优化问题最有效的优化策略之一.因此它在实际生活中有广泛的应用,例如图像处理、工程力学、神经网络、有限元方法、模式识别等方面.Dai-Liao共轭梯度法是共轭梯度法中数值性能最有效、最稳定的方法之一.其中DL参数的最优选取方式作为共轭梯度法的公开问题已经引起众多学者的广泛关注.Yuan等提出的子空间极小化共轭梯度法(SMCG)是无约束优化领域中一种重要的方法.最近,该方法已经受到学者们的持续关注.基于以上两种方法,本文在总结已有的非线性共轭梯度法基础上,提出两类满足充分下降性的共轭梯度法.具体工作如下:1.基于Dai-Liao共轭梯度法,提出一类合理的DL参数选取方式并得到一族改进的DL共轭梯度法.通过极小化DL方向和一种三项共轭梯度方向之间的距离,得到一组性质较好的DL参数并且带有该参数的方向满足DL共轭性和充分下降性.改进的共轭梯度法是DL族共轭梯度法的子族,并且包含Hager-Zhang族共轭梯度法.基于目标函数的假设条件,改进的方法在Wolfe搜索条件下全局收敛.数值试验表明,该方法数值性能稳定,优于经典的CGOPT方法和CG_DESCENT方法.2.通过将Dai等提出的Barzilai-Borwein共轭梯度法(BBCG)的思想推广到求解一般的大规模无约束优化问题,提出一种基于非单调线搜索的SMCG方法.基于SMCG方法和BBCG方法的思想,将BBCG方法中的二维子空间推广到三维子空间并给出子空间的三种选取方式.通过极小化不同子空间上目标函数的二次模型,提出了搜索方向的不同选择方式.结合Barzilai-Borwein梯度法和BBCG方法的思想,给出了搜索方向的选取准则.在假设条件下,证明了搜索方向的每种选择方式满足不依赖于任何搜索条件的充分下降条件.同时基于非单调Wolfe线搜索条件,证明了改进的SMCG算法具有全局收敛性.通过数值试验可知,改进的SMCG方法的数值性能优于CGOPT方法和CG_DESCENT方法.
其他文献
<正>2018年,国内教育机构赴港上市热正在持续,目前排队赴港IPO的国内教育机构已逾10家。截至目前,在美国以及香港上市的国内教育机构已近30家。教育类公司拟赴港股和美股上市
期刊
网络通讯技术的发展和线上购物的普及极大地改变了消费者之间的沟通方式,人们在购买产品或服务时会更多地参考线上口碑评价。线上口碑的传播突破了空间距离的限制,极大地减少了信息沟通成本,加快了信息流通的速度和效率,许多学者认为空间距离的作用正在消失。然而,在网络中人们仍可以看到许多距离信息的呈现(如,Sears网上商城商品评论者可以显示其位置信息;淘宝店家展示评论者的成交地图等等)。有学者进而对空间距离的