论文部分内容阅读
本论文以高维数据压缩与恢复为研究背景,通过阐述香农采样理论到稀疏表示和压缩感知理论再到低秩矩阵恢复理论的发展历程,引出与低秩矩阵相关的的近似函数及分解形式、数学模型和优化算法,并用于解决计算机视觉和机器学习中的图像分类、矩阵补全和子空间学习等问题。注意到核范数是秩函数最紧致的凸近似,在某些特定条件下能以较大概率恢复出低秩矩阵来。但不幸的是,这些方法会因矩阵的秩较大而得到有偏的低秩解,也会因奇异值分解和较多迭代次数而具有较低的计算效率。为解决这些不足之处,本文的主要研究内容概括如下:
(1)借助非凸MCP函数和加权稀疏编码方式,建立了非凸矩阵回归模型WSTMR和WSTM2R,应用于带有结构噪声和混合噪声的人脸识别问题。为得到对应的表示系数,设计了非凸的ADMM算法和最大-最小ADMM算法,并分析了算法的计算复杂度和收敛性。为了得到识别结果,给出了基于矩阵γ范数的分类器。
(2)受加权核范数和加权Schatten-p范数的启发,提出了一般的非凸WNNR近似函数及DNNR近似矩阵补全模型,并设计IRSVFc算法求得低秩解。利用目标函数的KL性质,在某些假设条件下给出了所提算法的局部和全局收敛性保证。
(3)利用Schatten-p范数及其分解形式刻画低秩系数表示矩阵,针对子空间学习问题,建立了两个非凸的低秩表示模型SpNM_LRR和SpNF_LRR,前者可得到较高聚类正确率而后者可提高计算效率。考虑到所提模型包含多个变量与约束条件,故设计了多变量的非凸ADMM算法,并给出了计算复杂度和收敛性的理论分析。
(4)为求解一类无约束且含两个变量的非凸优化问题,设计了算法PJIM及加速的PJIM(APJIM),并将其推广到求解多个变量的情形。需要指出的是,所提算法不同于已有算法APG,ADMM和PALM。并且在某些假设条件下,利用构造目标函数的KL性质,进一步建立了算法的局部及全局收敛性保证。
概括来讲,以上内容与非凸低秩矩阵恢复问题有着紧密而复杂的联系,其基本研究思路是通过非凸秩近似函数建立相关数学模型及设计具有收敛性保证的一阶优化算法。最后,在合成数据和几个真实数据集上进行实验验证,结果表明相对于当前其它低秩矩阵恢复方法,所提方法可获得较高的恢复性能和计算效率。
(1)借助非凸MCP函数和加权稀疏编码方式,建立了非凸矩阵回归模型WSTMR和WSTM2R,应用于带有结构噪声和混合噪声的人脸识别问题。为得到对应的表示系数,设计了非凸的ADMM算法和最大-最小ADMM算法,并分析了算法的计算复杂度和收敛性。为了得到识别结果,给出了基于矩阵γ范数的分类器。
(2)受加权核范数和加权Schatten-p范数的启发,提出了一般的非凸WNNR近似函数及DNNR近似矩阵补全模型,并设计IRSVFc算法求得低秩解。利用目标函数的KL性质,在某些假设条件下给出了所提算法的局部和全局收敛性保证。
(3)利用Schatten-p范数及其分解形式刻画低秩系数表示矩阵,针对子空间学习问题,建立了两个非凸的低秩表示模型SpNM_LRR和SpNF_LRR,前者可得到较高聚类正确率而后者可提高计算效率。考虑到所提模型包含多个变量与约束条件,故设计了多变量的非凸ADMM算法,并给出了计算复杂度和收敛性的理论分析。
(4)为求解一类无约束且含两个变量的非凸优化问题,设计了算法PJIM及加速的PJIM(APJIM),并将其推广到求解多个变量的情形。需要指出的是,所提算法不同于已有算法APG,ADMM和PALM。并且在某些假设条件下,利用构造目标函数的KL性质,进一步建立了算法的局部及全局收敛性保证。
概括来讲,以上内容与非凸低秩矩阵恢复问题有着紧密而复杂的联系,其基本研究思路是通过非凸秩近似函数建立相关数学模型及设计具有收敛性保证的一阶优化算法。最后,在合成数据和几个真实数据集上进行实验验证,结果表明相对于当前其它低秩矩阵恢复方法,所提方法可获得较高的恢复性能和计算效率。