雷达自动目标识别(RATR)能够提供目标的类型、型号等信息,在军事领域具有重要的应用价值,受到雷达行业研究人员的广泛关注。雷达高分辨距离像(HRRP)具有易获取、存储量小等优点,是实现RATR的重要特征。在实际应用中,RATR系统的识别对象往往为非合作目标乃至敌对目标,但是这些目标样本难以获取,导致模板数据库往往是非完备的。此时若目标为库外目标,则将其判为库内任一类别均不合理。因此,在识别过程中应首先对库外目标进行拒判处理,即判定目标是否为库外目标,若是则拒绝对其进行识别。本论文主要围绕库外目标拒判技术,基于传统模型和深度网络进行研究。本文主要研究内容包括:1.介绍雷达HRRP目标拒判基本理论。首先介绍了 HRRP常用特征,包括时域特征、频谱特征和谱图特征;然后对常用的拒判算法进行了分类介绍;最后列举了常用的拒判性能评价指标,为评估模型拒判性能提供了依据。2.为了提升传统支持向量数据描述(SVDD)模型的拒判性能,本文提出了贝叶斯支持向量数据描述(BSVDD)模型。BSVDD模型利用增广技术,在SVDD模型的基础上引入隐变量,并对SVDD的模型参数赋予合理的先验分布假设,将SVDD目标函数用概率模型来代替,实现传统的SVDD模型与贝叶斯框架相结合。仿真实验结果表明,基于BSVDD模型的拒判方法有效提升了系统的拒判性能。3.雷达HRRP数据具有维度高、空间分布复杂的特点,使用传统SVDD模型进行拒判存在核函数形式选择与核参数优化难的问题。而且使用SVDD模型需要占用大量内存来存储支持向量,限制了其在高维数据场景中的应用。针对上述问题,本文将深度支持向量数据描述(Deep SVDD)模型应用于拒判任务中,并详细分析了该模型在不同特征上的拒判性能。Deep SVDD模型使用深度网络代替核函数实现特征的非线性映射。与常规的核函数相比,学得的网络能够根据HRRP数据的特点将其映射到可分性更好的特征空间,有助于提升拒判性能。分别采用卷积神经网络(CNN)和长短期记忆网络(LSTM)进行了 Deep SVDD模型设计,并在一维HRRP频谱幅度特征和二维HRRP谱图特征上测试了拒判性能。仿真实验结果表明,基于Deep SVDD模型的雷达HRRP目标拒判方法,性能显著优于传统拒判方法,且使用LSTM的Deep SVDD模型拒判性能优于使用CNN的Deep SVDD模型。