深度学习系统越来越多的被部署在自动驾驶、医疗诊断等安全极其重要的应用中。为了确保深度学习系统的安全性,必须对深度学习系统进行系统的测试或形式化的验证。由于可扩展性的问题,形式化验证的方法很难得到广泛的采用,测试仍然是确保深度学习系统安全性的主要方法之一。由于深度学习系统的输入空间非常巨大,为了确保测试的充分性,必须收集尽可能多的测试数据,这使得测试的成本和对测试用例进行标记的成本非常昂贵。为了减少测试成本,提高测试效率,本文对神经网络中神经元激活模式进行了经验研究,着重分析了神经元激活频率与数据类别之间的联系。基于此提出频繁激活神经元的概念,并将其应用到深度学习系统测试用例优先级排序以及对抗性样本预警中。测试用例优先级排序方法是基于训练集得到的神经元激活模式以及测试用例激活的神经元,计算每个测试用例激活的神经元与其所属类别的激活模式之间的相似度,相似度较低的测试用例更有可能暴露出深度学习系统错误,因此应该被赋予较高优先级。本文在三个主流的数据集上构建了多种不同结构模型验证方法的性能。实验结果表明,那些具有高优先级的测试用例更有可能被分类错误,同时也发现排序后的测试用例可迁移至同一数据集训练得到的其他模型上使用,并具有较高的检测效率。