非凸优化问题被广泛应用于在深度学习、仿真和金融分析与预测等领域。非线性最小二乘问题、二次规划问题、秩极小化问题、深度学习中的复杂损失函数极小化问题等都是非凸优化问题。本文基于DC（difference of convex functions,简称DC）框架重点研究了非凸优化中两类重要问题——二次指派问题（Quadratic Assignment Problem,简称QAP）和稀疏Envelope估计问题。然而,非凸优化问题直接求解难度很大,很多都是NP难的问题。因此,本文利用DC凸松弛技术和邻近点算法思想,将上述两种不易求解的非凸优化问题转化为凸的松弛问题,并根据QAP与稀疏Envelope模型的数学特性及结构特征分别提出了针对各自松弛问题的高效求解算法。首先,本文研究了选址理论中的经典数学模型——二次指派问题,该问题旨在构建出将9)座设施分置在9)个地点上的数学模型,以期达到关于设施之间的流和地点之间的距离的二次函数的目标值最小的目标,其在芯片设计、设备制造、计算机图形与视觉领域都有重要应用。本文提出了一种新的带秩约束的双非负锥模型,并证明其与原QAP问题的等价性。虽然带秩约束的双非负锥问题模型是NP难的,但本文通过构造DC规划松弛模型,设计了一种可求解可行稳定点的半邻近DC算法（DC Algorithm,DCA）,并利用SDPNAL+软件包运用改进的半光滑Newton-CG增广拉格朗日方法来求解DCA子问题。运用该算法计算了QAPLIB数据库的大量算例,数值实验结果显示所提出算法能有效地找到大部分QAP问题的全局最优整数解。其次,本文研究了DC方法在一类回归问题中的应用。在金融分析中很多实际统计问题的维数十分巨大,为了减少回归模型的冗余性,提高估计的效率,Cook等[1]提出稀疏Envelope模型。利用稀疏Envelope模型目标函数的结构特点,本文基于DC规划的框架,给出了稀疏Envelope问题目标函数的DC分解形式,基于松弛模型的凸函数梯度的Lipschitz性质,本文提出了加速邻近梯度的DC算法,并进行了数值实验。通过随机生成服从正态分布的样本和坐标矩阵的稀疏Envelope模型算例,数值实验结果表明本文提出的算法比用于求解此类问题的块坐标下降法（block coordinate descent,BCD）[2]更有效。通过对上述两类非凸优化问题在模型和算法设计上的研究表明:若构造了合适的凸松弛问题后,DC方法可以有效、快速地求解二次指派问题和稀疏Envelope估计问题。