古文字作为人类用符号来记录古代历史、经济、文化、科学技术发展的瑰宝,其对文明历史的传承和知识文化的传播发挥着不可替代的作用。然而古文字一直是冷门领域,相关的研究资料也是非常贫瘠。究其原因主要是其自身的特殊性,比如需要掌握丰富的专业知识和多年的研究经验的学者,同时由于历史发展和保护条件有限,大量古文字载体存在不同程度的损毁。因此古文字的保护研究工作迫在眉睫。古文字识别是古文字学最为核心的研究课题,本文主要借助深度学习方法研究了古文字识别中的三个难点问题。一是古文字中存在众多的异体字,异体字往往由于字形差别较大而难以识别为同类字符,这是古文字识别精度难以提升的关键。二是古文字的种类繁多,往往大多数古文字数据集都是数据不足和数据分布不平衡,而传统的深度学习方法依赖大量数据。三是古文字中经常会发掘出新的古文字,而且未考释的新文字占据古文字较大比例,目前的深度学习模型往往没有办法辨别出新文字并且在不经过重新微调训练的情况下对新文字识别,这也称为开放集识别。为了很好的解决上述难点问题,本文给出了具体的研究方案和初步探索并且获得了较好的实验效果。具体来说,本文的主要贡献如下:1.针对古文字中的异体字问题,本文提出了多尺度特征融合的异体字识别网络（HCMFFNet）。本文的HCMFFNet主要包括了多尺度特征融合模块（MSFFM）和特征嵌入融合模块（FEFM）。MSFFM主要三部分组成,底层卷积特征枝干部分用于提取丰富的低级图像特征;受残差学习和多尺度网络启发,我们分别设计了提取包含多种不同尺度和不同形状的尺度局部特征的多尺度残差学习块和多尺度融合降采样块。为了改进传统的嵌入编码结构,我们设计了四种FEFM来获取更加鲁棒性的嵌入特征。异体字的关键特征（包含了多尺度特征和多形状局部特征）泛化为通用特征是HCMFFNet的亮点所在,通过实验证明,HCMFFNet提高了各个古文字数据集的识别精度,在一定程度上解决了异体字识别困难的问题。2.针对古文字中的小样本问题,本文提出了基于深度度量学习的孪生相似网络（SSN）。本文采用了双阶段的学习识别策略,第一阶段通过大量的验证任务来训练本文的SSN,第二阶段就是将训练完全的SSN用于基于最近邻的单样本分类。SSN首先接收两张同类别或不同类别的古文字图片输入,然后通过前面提出的HCMFFNet网络提取多尺度融合嵌入特征。受欧式距离和余弦距离自身的局限性,本文提出了加权联合距离（WJD）,将计算嵌入特征的加权联合距离,最后通过单节点映射为相似度评分值。为了解决传统对比损失函数的缺陷,本文设计了软相似度对比损失（SSCL）用于优化本文网络。孪生网络结构是构建大量训练样本的关键所在,另外验证任务将复杂的多类别问题转换为简单的二分类问题。通过实验对比发现,我们提出的SSN获得了最佳的单样本识别性能。3.针对古文字中的新文字发现和识别问题,本文提出了相似度原型网络（SPN）。我们改进了提出的SSN并且将其应用于解决古文字的开放集识别问题。考虑到距离和相似度之间的关系,我们设计了一个简单的距离-相似度非线性映射模块（DSM）用于获取两张古文字更为准确的相似度评分值。然后设计了用于单样本分类的累计类原型（CCP）来解决均值类原型和随机类原型存在的问题。最后,我们提出了拒识阈值采取指标用于区分新文字,对相似度值较低的古文字进行拒识而归类为新文字。另外,单样本分类是基于最高相似度评分进行分类识别,因此我们的模型对于新文字可以不经过训练微调网络结构直接通过计算相似度评分值来获得分类结果。通过实验发现,SPN有着较高的拒识新文字的准确率,并且将拒识的新文字加入到单样本分类中仍然可以获得较高的开放集识别精度。