模式分类/识别是机器学习领域重要的研究方向之一,其旨在将模式/示例划分为不同的类别,即分类或类别标识,这也是人类认知世界最基本的方式之一。传统模式分类通常假定训练集与测试集来自相同的标记和特征空间—闭集分类/识别场景,由此已经发展出诸如（近端）支持向量机、最小二乘回归、K近邻等众多分类方法。绝大多数的这些方法至今仍迸发着强大生命力,对它们的拓展增强研究依旧是模式分类研究的重点之一。另一方面,相比闭集分类场景,更为现实的场景通常是开放的、非平稳的,如自动驾驶、故障或医学诊断,其中未知情形往往会意外出现—开集识别场景。该场景严重削弱了传统分类方法的鲁棒性,对分类方法设计提出了全新挑战,致使其近年来越来越受到关注。本文重点探究了这两种识别场景下的若干问题,对于前者,我们着重关注了两个问题,即基于广义特征值的近端支持向量机（GEPSVM）及其变体限制性的单一拟合超平面问题和最小二乘回归分类算法度量学习角度的拓展增强问题,分别取得以下创新成果:1.提出了多平面凸近端支持向量机（MCPSVM）。我们通过对原GEPSVM的优化问题作一个简单但关键的变换,提出了多平面凸近端支持向量机（MCPSVM）,进而从本质上改变了 GEPSVM及其现有变体对每类数据仅有单一拟合超平面的现状。同时,我们采用严格的（测地线）凸目标来刻画这一优化问题,从而得到一个优雅的闭式解,它仅需几行MATLAB代码。此外,MCPSVM在形式上更加灵活,可以自然无缝地扩展到特征加权学习中,而GEPSVM及其变体很难像这样直接工作。基准数据集上的大量实验验证了 MCPSVM的有效性。2.提出了度量学习引导的最小二乘分类算法（MLG-LSC）。受启发于判别最小二乘回归（DLSR）从间隔角度显式地引入ε-拖拽技术来提高最小二乘回归的分类性能,我们从度量学习的角度重新考虑该问题,提出了度量学习引导的最小二乘分类算法（MLG-LSC）,其核心思想是为最小二乘回归误差学习一个统一的度量矩阵,这样的度量矩阵使同类的示例间产生较小的距离同时使不同类示例间获得较大的距离。与DLSR及其变体不同,MLG-LSC隐式地执行误差拖拽,从度量学习的角度自然地反映了类别间的大致相对距离关系。此外,我们的优化目标函数为严格（测地线）凸,因此可得到相应的闭式解。基准数据集上的大量实验验证了 MLG-LSC的有效性。对于后者,我们首先对其进行了系统性综述,随后重点关注了现有开集识别方法普遍存在的单一样本决策、决策阈值过度依赖已知类信息、仅利用已知类单一的视觉特征等问题。具体取得以下创新成果:1.系统地综述了开集识别近十年的发展,强调了现有方法的局限性,并指出一些有前景的研究方向。限于当前缺乏关于开集识别的系统性综述,因此本文对现有开集识别技术进行了全面的综述,涵盖了模型表示、数据集、评价标准和算法比较等多个方面。我们还简要分析了OSR与其相关的任务包括零样本、少样本学习、具有拒绝选项的分类等之间的关系。此外,我们也回顾了开放世界识别,它可以看作OSR的自然延伸。重要的是,我们强调了现有方法的局限性,并指出该领域一些有前景的研究方向。2.提出了集体决策的开集识别算法（CD-OSR）。相对于单样本决策,我们引入一种新的集体/批处理决策策略,其旨在考虑测试示例间相互关系的同时,拓展现有开集识别进行新类发现。具体通过修改层次Dirichlet过程（HDP）使之适用于OSR问题,提出了基于集体决策的OSR框架（CD-OSR）。由于采用了HDP,CD-OSR不需要定义决策阈值,能够同时实现开集识别和新类发现。基准数据集上的大量实验验证了 CD-OSR的有效性。3.提出了视觉语义原型联合引导的卷积神经网络算法（VSG-CNN）。本文同时探讨了广义的零样本学习（G-ZSL）和开集识别（OSR）当前两个热点问题,对G-ZSL,我们将其分解为一个开集识别（OSR）任务和一个零样本学习（ZSL）任务,其中OSR识别已知/看见的类并拒绝未知/没看见的类,而ZSL标识被前者拒绝的不可见类。同时,在不违背OSR假设的前提下（训练时只有已知类知识可用）,我们还首次尝试将已知类累积的辅助信息引入到OSR中,探索一种新的广义开集识别（G-OSR）。对于G-ZSL,这样的分解有效地解决了G-ZSL方法中普遍存在类过拟合问题,即容易将不可见类误分类为可见类。另一方面,对于G-OSR,引入已知类的辅助信息（如语义信息）不仅提高了识别性能,而且赋予OSR认知未知类的能力。具体地,提出了一种视觉和语义原型联合引导的卷积神经网络（VSG-CNN）,在统一的端到端学习框架下来完成这两项任务。基准数据集上的大量实验验证了 VSG-CNN的优势。