快速低秩矩阵与张量恢复的算法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:alex_juve
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着现代传感器、多媒体技术、计算机通信及网络技术的飞速发展与广泛应用,人们经常需要存储、处理与分析规模更大、高维更高、结构更复杂的数据,如人脸图像、监控视频、生物信息数据等。如何从被噪声或奇异点污染或部分丢失的观测数据中恢复原始数据,已成为机器学习、数据挖掘、模式识别及计算机视觉等领域的热点研究问题。最近几年,低秩矩阵与张量恢复及补全的核范数最小化方法取得了广泛的应用。然而,它们的算法往往都需要迭代求解,而每次迭代又要进行一次或多次较大规模矩阵的奇异值分解(SVD)或特征值分解计算,其时间复杂度非常高。此外,矩阵或张量分解也是低秩矩阵与张量恢复及补全常用的一类方法,然而这类方法对噪声及给定秩不够鲁棒。为了克服上述的困难,本文围绕快速低秩矩阵与低秩张量恢复及补全问题中模型的建立、算法的设计及算法的分析等方面进行了系统的研究。从二阶矩阵到高阶张量,所取得的主要研究成果有:1.为了避免每次迭代过程中较大矩阵的SVD求解,提出了一种基于矩阵三分解的快速核范数最小化框架。该框架可推广应用到三类问题:低秩矩阵填充、低秩与稀疏矩阵分解和低秩表示。受启发于SVD与非负矩阵分解,把矩阵的三分解思想引入到核范数最小化问题中。然后又分别提出了鲁棒主成分分析、低秩表示和低秩矩阵填充的较小规模核范数最小化模型。最后,还给出了相应的交替迭代的求解算法。大量的实验结果表明了该章提出的快速矩阵分解的核范数正则最小化方法无论在性能与效率上还是鲁棒性上都超过了相关的核范数最小化算法。2.针对引入过多辅助变量从而导致迭代速度变慢的问题,提出了一种矩阵双分解核范数正则的线性化框架。在此框架下,首先给出了一种矩阵双分解的线性化低秩表示模型,并推导了其交替迭代线性化算法。作为上述模型的拓展,又提出了一种矩阵双分解的线性化低秩矩阵填充模型,并提供了其交替迭代线性化算法。最后还理论分析了算法的收敛性。3.矩阵分解核范数正则框架的推广与应用。该章内容不但推广了第二章的方法,提出一种半正定约束的低秩表示模型,而且还推广了第三章的方法,提出一种低n-秩张量补全模型。然后又分别给出了上述两个模型相应的有效迭代求解算法。通过大量的人工数据及实际数据的实验,验证了本章提出的两种算法的可行性与有效性。4.针对矩阵分解的不唯一性导致求解过程易陷入局部极小的问题,将黎曼流形的思想引入非光滑优化问题中,提出了一种欧式空间梯度与黎曼梯度混合的交替迭代框架用来求解核范数最小二乘问题。不但避免了大规模矩阵的SVD计算,还能确保迭代算法的解收敛到原始核范数模型的最优解。首先,对线性化近似的目标函数进行矩阵分解将其转化为Grassmann流形上的优化问题;然后在Grassmann流形上推导其黎曼梯度,使用Grassmann流形梯度下降算法,并采用非精确策略交替迭代求解。最后还给出了算法的收敛性分析。5.针对现有张量补全方法每次迭代需计算多重较大规模矩阵的SVD,从而导致复杂度非常高的问题,提出一种核心张量核范数最小化的框架。受经典的张量Tucker分解的启发,该章首先定义了一种核心张量核范数,并分析了定义的核心张量核范数与张量核范数的关系。然后又给出了核心张量核范数的张量补全模型,将大规模矩阵的SVD计算转换成小规模矩阵的SVD计算问题,从而使得提出的模型具有很低的计算复杂度。最后,还给出了一种基于交替方向乘子法的迭代求解算法。6.为了克服低n-秩张量核范数最小化问题计算复杂度高的问题,并根据经典的PARAFAC(CP)分解的定义及性质,提出了一种新的因子矩阵秩最小化方法,并将提出的该框架应用于张量补全问题。为了区别已有的低n-秩模型,本文将提出的方法称为广义张量秩的张量填充方法。通过使用凸松弛技术,给出了相应广义张量核范数的张量补全模型,并推导了一种基于交替方向乘子法的迭代求解算法。最后通过大量的人工数据和实际数据验证了提出的算法的有效性与高效性。
其他文献
分析了石灰石一石膏湿法脱硫系统(WFGD)中2台增压风机并联运行的入口压力控制问题,讨论并提出了一种基于前馈——反馈加偏置的脱硫系统入口压力自动控制方案,并以某600MW超临界机
我国是水资源贫乏的国家之一,随着人口急剧增长,工业迅速发展,水资源短缺和水污染问题严重制约了我国经济的发展。一方面人类对水资源的需求显示出惊人的增长,另一方面日益严
从软件项目特点出发,阐述了软件项目进度控制任务,分析了项目发生进度偏差的根源问题,给出了常用项目进度控制措施,以及软件项目进度控制中对项目经理而言需要注意的问题和工
分析了高校推行政府采购制度的必要性、服务宗旨和基本原则,指出在执行政府采购中应纠正的5个认识误区。为进一步推进高校的政府采购工作,提出落实技术、市场、服务并重的原
随着我国隧道公路交通量的增大,重型运输车辆的比重日益加大,隧道路面结构强度和使用性能直接影响到行车舒适度、路面抗噪性能、抗滑性能和表面功能耐久性等。连续配筋混凝土路
<正>"广州暴动不死,平江暴动不死,而今竟牺牲,堪恨大祸从天落;革命战争有功,游击战争有功,毕生何奋勇,好教后世继君来。"这是1931年9月在红三军军长黄公略的追悼大会上,毛泽
目的了解2005—2014年嘉善县育龄妇女死亡原因及变化趋势,为开展妇女保健工作提供依据。方法从嘉善县15~49周岁户籍育龄妇女死亡数据库导出2004年10月—2014年9月的数据,对各
为探明汉语儿童看图叙述中心理状态术语的应用及与错误信念理解能力的关系,并考察二者相互作用的方向,本研究以101名3-5岁儿童为研究对象,纵向探查了前后相隔3个月的儿童看图
我国股票市场从1996年12月26日设置涨幅限制以来,沪深两市每个交易日均有数量不等的股票出现涨停板。通过对A股2272家上市公司2年交易数据的统计发现,40%的股票在2年内仅出现