【摘 要】
：
交替方向乘子算法（ADMM）是解决可分凸优化问题的简单方法,尤其在解决大规模问题上卓有成效,利用ADMM算法可以降低原问题的维度,加快问题的求解速度,并且并行解决子问题以获取闭式解.然而对于多块问题,即块数大于3块变量问题来说,虽然可以利用高斯赛德尔形式或者雅可比形式直接扩展ADMM的迭代格式,但是研究表明:在没有额外条件下或者对子问题没有修正的情况下,无法确保算法的收敛性.又因为多块问题模型在深
论文部分内容阅读
交替方向乘子算法（ADMM）是解决可分凸优化问题的简单方法,尤其在解决大规模问题上卓有成效,利用ADMM算法可以降低原问题的维度,加快问题的求解速度,并且并行解决子问题以获取闭式解.然而对于多块问题,即块数大于3块变量问题来说,虽然可以利用高斯赛德尔形式或者雅可比形式直接扩展ADMM的迭代格式,但是研究表明:在没有额外条件下或者对子问题没有修正的情况下,无法确保算法的收敛性.又因为多块问题模型在深度学习,信号/图像处理等领域的广泛应用,基于ADMM算法研究求解多块问题的新算法很有必要.因此,本文介绍了多块ADMM算法的构成模式:校正策略、修正策略,并且对于不同的策略模式都给出了实例.此外,基于实例的启发提出了三种新的优化算法模型来解决多块可分凸优化问题.除了提出新的模型外,我们对算法的收敛性在理论上和数值上都加以证明,通过解决线性约束二次规划问题和鲁棒主成分分析问题更加直接的显示了算法在收敛速度以及解的精确度方面的优势.基于修正严格收缩Peaceman–Rachford分裂算法（SC-PRCM）,提出两种形式的修正邻近对称ADMM算法（MPSADMMs）.在MPSADMMs算法中,除了第一个子问题外,剩余子问题都添加了邻近项,且拉格朗日乘子更新两次.除此之外,在每一次迭代更新结束后,通过一个简单的校正项对序列进行校正.通过分析算法框架,MPSADMMs算法还是许多高效算法的推广,例如:HTY、GSADMM和TADMM,具有更好的模型适应性.除了研究算法框架外,在一般情况下证明了算法的收敛性,且呈现了MPSADMMs算法的收敛率.又基于戴等人提出的拉格朗日乘子序列更新算法（SUSLM）,通过在更新表达式中对决策变量引入两个控制因素提出松弛SUSLM算法（SUSLMR）.该算法的拉格朗日乘子在每次迭代更新步中更新数次,并且添加校正项以确保算法的收敛性.
其他文献
凸优化模型与算法是当前优化领域内的研究热点,带有线性约束的可分凸优化问题是其中比较常见的一类.交替方向法乘子法（ADMM）已被证明是求解两块线性约束可分凸优化问题的较为高效的简单方法.随着生活中优化问题规模的扩大,所求解模型的目标函数变量远远大于两组,但直接推广至多块的ADMM类算法在理论上无法保证收敛性.为了保留直接推广至多块ADMM算法的优良效果,同时又能保证算法的收敛性,一些变形的多块并行A
方面级情感分析（Aspect-based Sentiment Analysis,ABSA）旨在分析给定句子中某一方面的情感倾向,主要涉及方面抽取（AE）、观点抽取（OE）、方面情感分类（ASC）和方面情感三元组抽取（ASTE）四个子任务。通常将方面级情感分析视为序列任务,并基于词序或依存句法树建模。但仅考虑其中一种结构信息无法完整表示词之间复杂关系,这限制了模型学习性能。针对该问题,本文提出一个新
随着网络时代的迅速发展,优化问题作为一类数学基本问题越来越受到重视.其中线性约束凸优化问题的求解在许多领域有着广泛的应用,因而是最优化理论求解线性约束问题的一个热点,在此背景下求解凸优化问题的算法也有了极大的发展.本文考虑求解线性等式约束和不等式约束的凸优化问题.増广拉格朗日方法是求解此类问题的经典算法.在此方法上衍生了诸多算法,比如邻近项増广拉格朗日方法、线性化増广拉格朗日方法等.近期的文献平衡
在线教育在日常教育活动中的比重迅速增加,已成为一种必不可少的教育方法。面对海量的课程资源,传统信息搜索方式存在“信息迷航”、“课程资源超载”等问题。课程推荐技术是学习者与课程资源快速匹配的关键。传统序列推荐方法大多针对用户自身序列编码,忽视了序列间的联系。同时对行为日志数量不足的用户存在冷启动问题。本文针对上述行为日志推荐算法存在的问题进行相关研究,主要研究成果如下:（1）提出基于行为日志的课程推
新疆地矿局在长期地质工作中积累了多专业、海量的地学数据资源。如何借助信息技术科学存储、集成、管理并充分利用这些宝贵资源，使之发挥最大作用和价值，成为我们面临和亟待解决的一个重要课题。本文重点探讨了建设“新疆地学基础数据中心”平台的可行性。
本文主要研究了时滞型分数阶差分定义的几类混沌映射及其稳定性条件.主要分为如下六章:第一章,介绍了分数阶差分方程的历史发展背景,阐述了分数阶差分定义下的混沌系统和稳定性的发展现状,应用前景和研究必要性.第二章,回顾了分数阶微积分,整数阶差分与分数阶差分理论的定义和运算性质.第三章,简要地介绍了混沌的定义与特征,几类经典的混沌映射,分数阶混沌映射,并提出了一类带有q弯曲参数的分数阶混沌映射,最后进行了
序列推荐算法根据用户过去的交互序列向用户推荐下一个可能感兴趣的物品。其关键技术之一是学习序列交互的隐表示,以捕获用户偏好,从而给用户提供准确的推荐结果。本文立足于对用户行为序列进行建模,利用变分自编码器优秀的可扩展性,结合多种深度学习方法,研究如何提升用户隐变量的质量来提升模型的推荐性能。主要工作如下:（1）序列推荐模型通常使用用户的历史行为来获得用户偏好表示以产生推荐。大多数方法学习到的用户表示
本文探讨了集优化问题的适定性与解的稳定性.将集优化问题按集序关系分成三类研究.第一章是引言与预备知识.对优化问题的研究背景及现状作了介绍.简述了集优化问题的适定性及解的稳定性研究概况.说明了本文的主要工作.第二章引入了集优化问题带扰动的B-适定性概念,得到了相关B-适定性的判定准则和特征,建立了逐点B-适定性和全局B-适定性之间的关系.第三章引入了集优化问题带扰动的广义l-适定性概念,得到了此类适
传统推荐系统仅利用评分数据或少量评论数据等交互信息进行推荐,而这些用户-项目交互占比很小,在信息化时代下,存在严重的数据稀疏和冷启动问题。随着深度学习和神经网络的发展,出现了大量的跨域推荐（Cross-Domain Recommendation,CDR）模型方法,其核心思想是利用从其他领域收集的信息来辅助另一个领域进行。虽然现有的跨域推荐模型方法在一定程度上缓解了数据稀疏性问题,但仍然存在如下一些
近几年人工智能聊天软件飞速发展，已经成为科技领域的热点。人工智能聊天软件能对用户的问题给予相应的回复，相当于帮助主人处理各项事务的“助理”。有着进一步开发潜力的人工智能聊天软件已经在一些领域得到应用，教育领域就是其中之一。从目前国外教育领域中人工智能聊天软件的应用效果来看，该技术在有效提高教育质量的同时也带来了学术造假、在线教育质量不能稳定保证等问题。教育者在积极应用人工智能聊天软件的同时，也要采