论文部分内容阅读
针对异步随机梯度下降算法在多核系统和主／从集群环境中的通信冲突问题，提出了异步双随机梯度下降算法．该算法主要通过离散各从节点在梯度求解时的计算量，分散各从节点对主节点的通信请求，有效减少模型训练过程中通信冲突次数，从而加快模型的训练速度；在Hadoop Yarn基础上提出了异步并行计算框架，进行了异步随机梯度下降算法以及异步双随机梯度下降算法的快速求解；在多核系统和Hadoop环境下，基于HIGGS数据集进行了异步随机梯度下降算法和异步双随机梯度下降算法的对比实验，结果表明，在保证模型准确率的前提下，异步