在日常生活中,常常采用生物特征识别技术保护个人隐私和信息安全。指静脉识别技术依靠手指掌侧浅静脉进行身份识别,具有安全性高、活体识别、精度高等优点,是生物特征识别领域的研究热点。针对现有传统的基于特征提取以及基于机器学习的手指静脉识别模型的不足,本论文以手指静脉图像为研究对象,以深度学习技术、度量学习技术为理论基础,利用深度度量学习方法、深度生成模型以及增量学习方法对指静脉图像识别问题展开研究,并通过多个公开数据集和自有数据集进行指静脉识别的实际应用验证与评估。本论文的主要研究内容包括以下三个方面:1)针对于目前基于深度学习的指静脉识别模型判别能力有限等问题,基于深度度量学习理论,提出了余弦中心损失方法:通过最小化特征向量与类别中心的余弦距离指导深度卷积网络训练,学习更具有区分性的特征向量,减少样本的类内距离;采用具有更好的特征表达能力的有效通道注意力残差网络作为基本的网络模型。2)针对于目前基于深度学习的指静脉识别中样本不足而类内样本缺乏等问题,将深度生成模型与深度度量学习方法相结合,提出了三元生成对抗网络模型用于指静脉识别:利用生成对抗网络辅助训练;引入行列式点过程损失改进传统的生成对抗网络,避免模式崩溃;采用基于余弦距离的三元损失来增强模型的辨别能力。3)针对于大数据条件下识别样本不断增多,基于深度学习的指静脉识别方法需要不断更新等问题,将深度度量学习与增量学习相结合,在分析比较三种增量学习方法（无遗忘学习、弹性权重固化和记忆感知突触）在指静脉识别中的性能表现的基础上,提出一种基于弹性权重固化和多元相似性损失的指静脉识别方法:通过利用多元相似性损失学习更具有区分性的特征向量;依靠弹性权重固化方法增强模型的泛化能力。总体来说,本论文围绕指静脉识别问题,借助深度学习理论和度量学习理论,利用深度度量学习中的损失函数指导模型训练,提高了模型的辨别能力;将深度度量学习与深度生成模型相结合,解决了指静脉识别中类别种类多而类内样本缺乏的问题;进一步深度度量学习与增量学习相结合,增强了模型的泛化能力。