论文部分内容阅读
第一章简单叙述了并行优化的各种现行算法，以及一些相关的结论和近期的研究进展，最后介绍了本文的主要工作。 第二章通过分析并行优化算法中同步与异步的优缺点，提出了完全异步的PGD算法，并且在一定的条件下证明了算法的全局收敛性。最终通过数值实验说明异步算法是优于同步算法的。 第三章试图去除并行计算中同步与通信的开支，提出了一个去除了同步的完全异步的PVT算法。去除了同步后，处理机可以独立的处理各自的子问题，使得处理机之间没有任何的通信。因为PVT算法的特殊结构，我们最终证明了完全异步的PVT算法具有全局收敛性以及线性收敛速度。 第四章主要提出了对于约束优化问题的异步PVD算法，分析了Solodov在[5]中采用投影剩余梯度函数的原因，之后采用非线性约束下的一个可行方向[28]代替投影剩余梯度作为PVD方向，最终我们证明了算法收敛于问题的KKT点。