正交约束优化问题的自适应非单调比例梯度算法

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:lhz19700717
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据挖掘、人工智能等的兴起,各行各业中都拥有大量静态或动态的数据,从复杂的数据中获得有效的信息需要对数据进行处理,通常在处理数据时遇到的问题都是非凸非线性的,而正交约束优化问题是其中最为典型的一类问题。同时,由于正交约束优化问题在众多领域的应用前景广阔,已经成为数值代数领域活跃的研究方向,所以该问题受到了国内外学者们的重视与研究。本文针对正交约束限制的优化问题提出自适应非单调比例梯度算法,该算法结合了依赖步长的缩放矩阵和控制搜索方向的参数,并利用正交三角(QR)分解的投影算子来保证迭代的可行性,同时考虑将Barzilai-Borwein步长与Zhang-Hager非单调线搜索技术相结合,以加快过程的收敛。虽然非单调线搜索技术可以提高算法的效果,但是,根据已有的实验表明,受到非单调度的影响,病态问题的实验结果不是很理想,针对此问题,受到无约束最优化问题的自适应非单调策略的启发,首次将比例梯度算法与自适应技术相结合,得到本文的自适应非单调比例梯度算法来求解正交约束优化问题;在假设目标函数是连续可微的情况下证明了算法的收敛性;最后通过瑞丽商最大化、齐次二次函数最小化以及正交Procrustes三个问题进行了三个数值实验,将本文算法分别与其它不同的算法进行比较,结果表明本文所提出的自适应非单调比例梯度算法在许多问题上比某些先进的算法更加有效。
其他文献
信息科学的飞速发展,使人类的交流逐渐摆脱了单模态的桎梏,通过多模态之间的协同交互来传递信息和交流情感。多模态交互手段的推广,也激发了更多学术界对于多模态研究的关注,而多模态隐喻研究正是多模态语篇研究和跨学科研究相互交织,产生的一个全新的研究方向。本文从多模态机器学习的角度出发,设计了基于双线性池化的多模态隐喻识别模型。本文首先构建了一个多模态隐喻数据集,包含文本和图片两个模态,并且包含多种数据来源
学位
异常检测在现实生活中有着广泛的应用,也越来越受到人们的关注。多个实体之间的复杂交互在社交网络中广泛存在,可以反映出特定的人类行为模式。通过关注这些这些复杂交互关系,有助于检测社交网络中的异常节点。然而,由于现有的图学习方法缺乏一种有效的机制来利用这些复杂的交互关系去检测异常,导致检测结果不准确。为了解决上述问题,本文提出两种新的社交网络异常节点检测算法。针对社交网络异常节点检测问题,本文提出了一种
学位
随着物联网需求增加及Wi-Fi普及,基于Wi-Fi的人体行为识别(Human Activity Recognition,HAR)在智能家居等领域兴起。信道状态信息(Channel State Information,CSI)对识别微变化敏感,但同时受人行为和环境影响,环境改变使数据分布不同,导致系统性能下降。为减少数据再采集和模型重训练等繁重工作,本文探寻行为相关的不变特征,设计一种环境无关的自适
学位
超级电容器是介于传统电容器和电池之间的一种新型储能装置,其功率密度远高于电池,被广泛应用于需要极快速充放电的场景。为了提高超级电容器的能量密度,采用具有高理论比容量的电池型电极材料曾被认为是一个有效策略,然而低的倍率性能和循环稳定性成为了其研究的主要障碍。本论文以具有高理论比容量的镍基及钴基电池型电极材料为研究对象,通过调控材料微观形貌结构、优化材料组成、离子掺杂等手段,获得了具有高循环稳定性和高
学位
受实时计算密集型移动应用程序处理需求不断增长的激励,移动边缘计算通过覆及网络边缘的计算资源,被认为是一种有前景的计算范例。然而,如何在动态网络环境下进行移动边缘计算资源分布式管理,仍是一个极具挑战的难题。本文将基于无人机协助移动边缘计算网络,对同时实现高效异构用户设备计算卸载,最优边缘服务器选址和无人机轨迹优化进行深入研究。首先,针对无人机协助移动边缘计算网络中的动态计算卸载和服务器部署问题,本文
学位
随机占优可以度量两个随机变量分布的大小,是决策理论和经济学中重要的理论分析工具。二阶随机占优由Dentcheva和Ruszczy(?)ski于2003年首次作为约束引入优化问题,作为一种风险厌恶决策模型,其在经济、金融、保险、投资等领域得到了广泛的应用。然而,约束的非光滑性和半无限性给二阶随机占优约束优化问题的求解带来了理论分析和计算上的困难。本文从数值优化算法的角度对该问题进行进一步的探索,提出
学位
随着大数据时代的到来,以概率统计和随机过程为基础的随机规划问题受到广泛关注.求解该问题的大部分方法需要用到可行集上的投影信息,然而它可能会难以计算甚至不能计算.因此,本文我们考虑约束随机优化问题的一系列无投影Frank-Wolfe算法.首先,我们提出小批次的随机无梯度Frank-Wolfe算法来求解凸设置下的随机优化问题及其复合变体,并在梯度H¨older连续的条件下证明出算法的几乎必然收敛性质.
学位
砷(As)污染是当前我国饮用水水质安全保障亟待解决的难题之一。作为一种类重金属,砷具有高毒性、致癌性等特征。砷在水体中通常以无机砷[As(Ⅲ)和As(Ⅴ)]两种形态存在,As(Ⅲ)比As(Ⅴ)毒性强且更难以去除。吸附法以操作简易、经济、高效且吸附剂可循环再生利用的优点成为最具应用前景的水处理技术之一。吸附剂是吸附法的核心,单组分吸附剂是一类广泛应用的吸附除砷材料,但存在同步去除As(Ⅲ)和As(Ⅴ
学位
砷(As)是一种存在于自然环境中的类金属元素,具有致癌性。随着经济不断发展,人类活动已造成了水体的As污染。淡水贝类和鱼类对As有很强的富集作用,As又可以通过食物链传递给人类,进而淡水产品的As污染对人类健康造成了威胁。水生生物可以吸收环境中的As并在体内进行生物转化,造成鱼体内的As形态差异较大,以往对海产品研究较多,对淡水产品研究较少。因此,本文研究了淡水产品对As的富集机制及转化,为淡水产
学位
许多工程设计和工业制造应用的任务是寻找最佳设计,同时处理设计参数的不确定性。设计的性能或质量可能对输入的变化很敏感,使其难以优化。在这些情况下,使用鲁棒设计优化是寻找在已知输入不确定存在的情况下性能最好的方法。这种方法已经极大地解决了大多数当存在输入不确定时工程中的实际问题,遗憾的是在求解过程中利用了遗传算法,没有收敛性保证。本文将对不确定输入时高斯过程鲁棒设计优化的两类问题进行研究,其中这两类问
学位