近年来,神经网络发展迅速,逐渐成为实际应用中软件系统的一部分。然而神经网络容易受到对抗样本的攻击,存在严重的安全隐患,这引起了研究者们关于神经网络的软件质量保障的广泛关注。目前,准确率已经不足以评价神经网络的质量安全,因为对抗样本可以欺骗高准确率的神经网络给出置信度很高的错误分类结果。在神经网络的软件质量保障方面的另一个重要评价指标是鲁棒性。本文认为在神经网络应用时,针对某一个输入样例应该给出其鲁棒性的大小,作为分类结果的可靠程度。在已有的研究工作中,可以通过形式化验证和基于优化算法的对抗攻击搜索来计算鲁棒性,但是形式化验证难以应用到大规模的神经网络中,基于优化算法的对抗攻击搜索需要较大的资源消耗,两者均不能在实际应用中为神经网络提供及时有效的鲁棒性信息。针对神经网络鲁棒性无法高效获取的问题,本文提出一种通过学习的方式对鲁棒性进行预测的技术,利用神经元输出特征和简便的全连接神经网络实现在实际应用中可以快速地得到样本鲁棒性的大小。此外,本文基于鲁棒性预测也提出了一种对抗样本识别技术,并且通过对抗样本识别可以提高集成防御机制的运行效率。具体来讲,本文贡献如下:本文基于神经网络内部的神经元输出特征和基于优化算法的对抗攻击搜索计算得到的鲁棒性数值,设计并实现了鲁棒性预测器,能够快速准确地预测神经网络鲁棒性的大小。并且鲁棒性预测器可以应用于大规模数据集和移动端的场景中,具有非常好的实用性。本文基于鲁棒性预测器,从对抗样本的鲁棒性相比于正常样本来说比较差的特点出发设计并实现了对抗样本识别器,能够识别不同类型的对抗样本,并将对抗样本识别器应用于集成防御机制中,能够避免集成防御机制中不必要的计算,节省运行时间。本文在多个经典的数据集和神经网络模型上进行了实验评估。鲁棒性预测器的实现只有10%-34%的误差,能够为神经网络提供快速准确的鲁棒性预测服务。本文也通过实验说明了对抗样本识别器的性能比其他已有的对抗样本识别工作更加优越,并且将对抗样本识别器应用于集成防御机制中,可以提高运行效率。