论文部分内容阅读
众所周知,无约束最优化问题是一类重要的问题.其中无约束非光滑最优化问题在某些方面和领域也有着极其重要的应用. Cartis等人提出了求解无约束光滑最优化问题的Adaptive Regularization algorithmusing Cubics(ARC)算法,该算法通过迭代求解带有立方正则项的近似模型,从而达到求解无约束光滑最优化问题的目的.本文根据ARC算法在求解无约束光滑最优化问题时的优良性能和较快的收敛速度,考虑通过改进ARC算法,得到了一个求解带有l1范数正则项无约束非光滑最优化问题的三次近似算法.该算法通过对光滑部分和正则项部分分别进行模型近似,同时根据每一步的迭代情况调整模型的参数,保证模型对于实际目标函数有较好的近似.通过不断的迭代求解模型,最终达到求解无约束非光滑最优化问题的目的.同时,我们还证明了算法的全局收敛性. 在本文中,我们对ARC算法中的模型正则参数更新策略进行改进,使用CUTEST测试集对改进后的更新策略进行大量的数值实验,实验结果表明改进后的更新策略能够明显的提高ARC算法的收敛速度.我们还使用CUTEST测试集对三次近似算法进行了大量的实验,实验结果表明我们的三次近似算法具有较好的全局收敛性,并有较快的收敛速度.