间隔理论的相关工作表明,相比于最大化样本的最小间隔,优化间隔分布可以带来更好的泛化性能。最优间隔分布学习机正是基于这样的间隔理论提出的全新统计机器学习框架,并在大量机器学习任务中展示出了极佳的通用性和极好的泛化能力。然而,由于需要引入非线性核函数以解决线性不可分问题,其计算核矩阵的时间复杂度和空间复杂度都与样本数量相关,因此在训练数据集较大的情况下,训练最优间隔分布学习机所需的计算和存储资源都是难以接受的。可扩展最优间隔分布学习机正是在这个背景下提出的。对于非线性核最优间隔分布学习机的训练,提出了一个全新的保持数据分布的数据划分方法,以使得每个小数据分区内训练的局部最优间隔分布学习机都可以与全局的模型更相似。在小分区内的训练完成后,算法将多个小分区合并成新的大分区,并将小分区上得到的局部最优解合并为初始解继续训练,以此达到更快的收敛速度。对于线性核最优间隔分布学习机的训练,一种通信高效的分布式方差减少的随机梯度算法被引入其中,以加速模型的训练。相关的理论分析证明,这样的优化方法在优化最优间隔分布学习机模型时可以保证收敛,并达到线性收敛率。实验结果表明,该方法在面对大数据集时有着超越其他可扩展学习算法训练速度。在分布式的集群中,可扩展最优间隔分布学习机达到了接近十倍的加速效果,且几乎不会削弱模型的泛化能力。