一类非光滑凸优化问题的邻近梯度算法分析及研究

来源 :北京工业大学 | 被引量 : 0次 | 上传用户:xzh_endless
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文研究目标函数为光滑损失函数与非光滑正则函数之和的凸优化问题,它在现代统计学、信号处理和机器学习均有应用,如:信号去噪音、压缩感知、稀疏线性回归和高维多项式分类、变量选择和特征提取等,是近几年研究的热点.当邻近算子方便求解时,邻近梯度法(PGM)是解决此类问题的有效算法.该方法的迭代由一个梯度步和一个邻近步组成.PGM一般在可微函数梯度Lipschitz连续的条件下得到次线性收敛率O(1/k),在目标函数满足某些条件时才能获得线性收敛率.然而Lipschitz假设条件常常限制了算法的应用,为此,许多研究工作松弛Lipschitz假设条件.本文给出了梯度局部Lipschitz连续条件下邻近梯度算法的收敛性分析.即线搜索选取的步长有界,有关目标函数值结果,算法的充分下降性及R线性收敛性.并在非光滑部分为稀疏块LASSO正则函数情况下给出了误差界条件成立的证明,从而得到了线性收敛率.最后我们求解了具体的优化问题,数值实验结果验证了我们的理论分析.本文作如下安排:第一章介绍了优化模型的研究意义、PGM的进展和本文的主要内容;第二章给出邻近梯度算法,并在梯度局部Lipschitz连续条件下分析算法的收敛性及复杂度;第三章考虑非光滑部分为稀疏块Lasso正则函数,通过两个引理在放松了损失函数具有全局Lipschitz连续梯度限制的条件下证得误差界条件成立;第四章对数值实验结果进行分析并且总结了全文。
其他文献
《糖络杂病论》系仝小林教授所著。作者以全新的视角,独特的思维,创新性的治疗方式,为中医糖尿病开创了别具一格的理法方药体系,对经方应用、中药量效关系等关键问题亦作阐发
首先回顾了我国建筑工业化的发展历程,然后结合郭公庄公租房项目的工程实践,介绍了项目建造过程中遇到的问题与对策,阐述了设计施工一体化是装配式建筑发展的必然趋势。
本文通过研究保水采煤方法,将含水层改造技术应用于龙王沟井田,重点分析采煤过程中煤层顶板的受力变形 ,并在 此基础上利用含水层再造 技术进行保水采煤。结果表明,保水采煤技
目的 探讨全凭静脉麻醉和静吸复合麻醉两种麻醉方法用于乳腺癌根治术的麻醉效果比较。方法选取2007年3月~2010年7月经我院确诊为乳腺癌的患者74例,均为女性,随机分为两组,即全凭
近年来随着中国新型城镇化的提出,日益重视城镇环境保护、生态文明建设;环卫专项规划作为生态环境规划的一项重要内容,对指导城镇环境保护、生态文明建、环境卫生建设管理具
自东汉成熟瓷器诞生以来,瓷器逐渐代替青铜器、漆器成为主要日常用器。在三国东吴时期,由于孙吴政权的稳定统治和民间厚葬之风盛行,陶瓷制造业得到创新发展,对越窑青瓷的进一步繁荣有着重要意义。然目前学术界对三国时期越窑青瓷工艺技术的发展面貌研究甚少,重视程度不足。为探索三国越窑青瓷的工艺技术发展状况,本文借助文献查阅、考古调查和科技检测等方法从这一时期越窑青瓷的造型装饰、制作工艺、窑炉结构、烧造工艺、胎釉
目的:借助先进的高选择性血管造影和微血管造影技术,探讨不同类型股骨颈骨折对股骨头血供的影响,为临床医生合理选择手术方案提供可靠的临床依据,以提高股骨颈骨折治疗的临床
导光板模具是加工导光板的核心部件,微结构阵列孔的加工精度对导光板模具至关重要。通过精密撞点机床在导光板模具钢上加工微结构阵列孔和在白光干涉仪下检测微结构阵列孔的
开关电源作为电子产品重要组成部分之一,随着用户对体积、质量、效率以及可靠性等方面的要求日益提高,高频化、模块化、数字化成了开关电源发展的主体方向。为降低甚至消除高
<正>中国企业联合会、中国企业家协会主办的2017年全国企业文化年会7月22—23日在北京召开。会议以"弘扬优秀文化引领创新发展"为主题,深入探讨了新形势下坚持"四个自信",全