Barzilai-Borwein梯度法及其在优化算法中的应用

来源 :兰州大学 | 被引量 : 4次 | 上传用户:terzaghi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
梯度法是求解无约束优化问题的基本方法之一,其算法简单,所需存储较少.但此方法中步长的选取对计算效果有较大的影响,Barzilai和Borwein提出的两点步长其对应的Barzilai-Borwein(BB)梯度法由于有较好的计算效果和收敛性,现在已经发展成为求解大规模问题竞争力很强的一种方法,受到众多学者的广泛关注.本文主要探讨新的BB型梯度算法及其在优化算法中的应用.主要内容包括以下几个方面:1.探寻新的BB型梯度算法.基于Ford和Moghrabi的多步拟牛顿方程,通过修正原始的BB步长使其满足这一特定的拟牛顿特性,提出了一族新的BB型步长并建立了采用新步长的梯度型算法对严格凸二次极小化问题的全局收敛性.将新方法应用于实际问题与由机器产生的随机问题,结果表明,新的BB型方法优于现存的一些梯度型算法.2.研究BB型步长在优化算法中的应用.首先,结合非单调线搜索,将第一部分内容中的MBB方法推广到一般的非二次无约束优化问题的求解当中.其次,由于改进的拟牛顿方程与Dai-Liao共轭梯度法之间存在着紧密的联系,将在DaiLiao方法中使用过的具有一定最优特性的BB型参数值应用到变尺度BFGS方法与修正的BFGS方法当中.最后,将BB型步长嵌入到自适应三次正则化方法中,用实正定数量矩阵代替精确Hessian或其拟牛顿逼近,简化了算法中子问题的求解且改进后的算法适用于大规模问题.数值试验表明,这些修正合理且有效.在此期间,还通过插值的方式,统一了现有的对拟牛顿方程的大部分改进,为这些改进的提出给出了一个自然的阐释.3.研究BB型方法求解对称不定线性方程组的收敛性.我们得出:二维情形下,采用第二种形式BB步长的方法是R-超线性收敛的.这一理论结果和戴彧红在对称正定情形下关于BB方法的结果一致.4.改进共轭梯度法.通过修正共轭梯度法中的共轭参数,提出了几个改进的共轭梯度算法,其中包括两种Dai-Liao形式的共轭梯度法.在一定条件下,结合强Wolfe线搜索,给出了算法对一致凸函数的强收敛性以及一般函数的全局收敛性.数值试验表明本章给出的算法比已有的同类算法更有效.
其他文献
脉冲随机泛函积分微分系统是非线性分析理论的一个重要分支,它综合了随机现象、脉冲现象和时滞状态对系统的影响,在工程、经济、最优控制、信息与通讯、生物与医学等领域有着广泛的应用.因此,对这类系统的可解性、可控性、近似可控性和最优控制的研究具有重要的理论和现实意义.本文主要研究Hilbert空间中具有非瞬时脉冲的脉冲随机泛函积分微分方程及积分微分包含问题,利用预解算子理论、闭算子的分数幂、随机分析理论、
近年来,在种群动力学、流行病学、材料科学等众多领域的研究中导出了大量的非局部扩散方程,这引起了人们广泛的兴趣.与经典的随机扩散方式相比,非局部扩散算子在刻画物质扩张空间分布机制方面具有突出的优势.当前,有关反应扩散方程最重要的动力学问题应属诸如渐近传播速度、行波解及新型整解在内的传播动力学.此外,现实环境的复杂性使得根据实际问题建立的数学模型应该具有时空非齐性.然而,受理论方法、概念技巧等的限制,
反应扩散方程因其能描述自然界中的众多扩散现象而受到广泛的关注和研究.比如燃烧的火焰、疾病的传播、热传导现象等等.行波解作为该类方程的一种特殊形式的解因其能够很好的解释自然界中的众多传播现象而成为现代数学研究的重要内容之一,其中平面行波解已被人们广泛研究.但是受空间维数和曲率的影响,行波解在Rn(n≥2)中传播时,其水平集可能不再为超平面.因此,研究反应扩散方程的非平面行波解能够使我们充分认识行波解
膜世界和修改引力是目前基础物理的两个热点。过去的二十年提出了 Arkani-Hamed-Dimopoulos-Dvali(ADD)模型和Randall-Sundram(RS)模型等薄膜模型和各种厚膜模型。许多基础物理的重大问题,如层次问题、宇宙学常数问题,可以在膜世界理论下得到解决。另外由于暗物质、暗能量问题和广义相对论不可重整化的问题,物理学家提出了许多修改引力理论,如mimetic引力和临界引
目的:探讨芒硝与金黄散外用配合抗生素治疗急性乳腺炎的治疗效果。方法:选取我院自2019年4月至2020年4月门诊收治的90例急性乳腺炎患者为研究对象,并将其平均分为实验组和对照组,两组患者均接受健康教育,实验组采用芒硝与金黄散外服联合抗生素治疗,对照组仅采用抗生素治疗,对比两组治疗效果。结果:实验组的实验组患者的临床治疗总有效率为95.56%,对照组的总有效率为77.78%,实验组高于对照组17.
原子核作为由质子、中子组成的量子多体系统。从理论角度出发,根据液滴的饱和性和不可压缩特性,本文着手从类液滴思想衍生出的两大模型分别描述原子核的基态性质:(1)基于传统液滴模型衍生的宏观-微观质量模型,其中核子比作液滴中的分子;(2)基于介子流模型发展的Skyrme模型,其中核子比作介子流中的扭结。本文基于类液滴思想开展了三部分,具体如下:本文工作一:质量作为原子核的基本性质之一,是串联目前核物理及
红薯是一种营养全面而丰富的天然滋补食品,不仅具有较高的农业价值,而且具有较高的药用价值,同时还具有极强的经济价值,可用作优质饲料等。鉴于红薯的多重价值,人们对红薯的需求日益增加,同时随着人们对红薯品质的要求日益提高,传统的种植技术已经不能满足需求。如何提升红薯产量已成为现阶段河南地区农业技术部门广泛关注和研究的一个重要问题。鉴于此,文章对红薯无公害高产高效栽培技术进行了探讨和解析,重点包括良种选择
学位
本文从范畴论的角度研究了罗巴代数,微分代数和叶形代数.罗巴算子和微分算子分别是积分和微分的代数抽象和推广.为了反映积分和微分由微积分第一基本定理给出的密切关系,将罗巴代数和微分代数的研究合并在了一起,得到了微分罗巴代数.由单子的提升和混合分配律的概念,我们给出了微分罗巴代数的范畴解释.进一步,我们研究了算子的扩张,单子的提升,和混合分配律间的关系.运用内部范畴的概念,我们定义了严格的罗巴2-代数和
本文主要利用变分方法研究几类非线性Schr(?)dinger系统的最优控制问题.研究的出发点是相应非线性Schr(?)dinger方程(组)的解的局部存在性,全局存在性以及正则性.在文献[54]的框架下,我们对几类模型分别证明了目标泛函的极小元的存在性,以及目标泛函关于控制参数的一阶Fr′echet可微性,进而导出了控制问题的一阶最优条件.本文考虑了两种类型的控制模式,一类是基于外场的双线性控制,