支持向量机(SVM:Support Vector Machine)是在最小化经验误差的同时,通过最大化间隔实现结构风险最小化的目的,现已在机器学习、模式识别等领域中取得众多成功应用。从其模型设计上,因L2范数的点到平面距离可解析表示,间隔由该距离导出并可解释为两个支撑平面之间的距离。根据PAC(Probably Approximately Correct)理论,分类器的理论上界可通过间隔来度量,即间隔越大,则分类器的泛化能力越强。然而,对于非L2范数来说,如L1范数的不可导性,由于点到平面的距离难以获得解析解,从而在现有研究中鲜见非L2范数的大间隔分类器。同时,因使用L2范数度量,标准支持向量机容易受到样本中异常值(outlier)的影响。此外,由于支持向量机的模型求解需通过二次规划完成,在面向大规模分类任务时,会因为训练样本集过大而造成训练过程缓慢、内存容量不足等问题。针对以上问题,本文从L1范数入手,主要完成了以下两个工作:一、研究L1范数下点到平面距离的解析表示问题,并据此设计一个L1范数的大间隔分类器 L1MMC(L1-norm Maximum Margin Classifier),主要特点如下:(1)间隔由 L1范数的点到平面距离解析表示;(2)与SVM一样,该分类器通过最大化L1间隔,达到同时最小化经验风险和结构风险的目的;(3)只需要通过线性规划进行求解,避免了 SVM的二次规划问题;(4)分类精度达到甚至超过SVM。二、将工作1的内容与孪生支持向量机(TWin SVM,TWSVM)结合,由于为了缓和TWSVM采用L2范数的平方运算造成的不鲁棒和面临大规模训练任务需要的较大计算开销的问题,设计了 L1范数孪生支持向量机(L1 norm twin support vector machine,L1TWSVM)。较之TWSVM,提出的L1TWSVM具备如下特点:(1)继承了 TWSVM的模型结构:分别求解两个分类超平面,同时达到最小化结构风险和经验风险的目的。(2)所得的优化问题也只需通过线性规划求解,避免求解两个凸二次规划问题。(3)有效缓和了异常值对算法精度的影响,提升算法泛化能力。