近年来,随着数据规模、计算能力的几何倍增,深度学习迎来了空前的发展,涉及到我们生活的方方面面。然而深度学习却面临着严峻的安全问题,对抗样本则是其中一类。以图片分类任务为例,通过向图片中添加微弱的扰动而生成的对抗样本,能够使深度神经网络以很高置信度产生错误分类结果。对抗样本严重威胁深度学习模型的鲁棒性,研究人员对于对抗样本的生成方式已有大量研究,所以如何防御对抗样本对深度学习模型的攻击成为非常重要的课题。对抗训练作为一种克制对抗样本、增强模型鲁棒性的有效手段而被广泛使用,通过注入对抗样本与正常样本一同参与训练,从而提升模型对于微小扰动的鲁棒性。但是由于现有的对抗训练算法没有考虑到对抗样本与正常样本间的距离关系,导致这两者在特征空间上的分布较为混乱,类别不同的特征彼此重叠,所以防御效果还有很大的提升空间。除了模型鲁棒性,对抗样本对模型计算效率造成的危害也值得研究。近年来,各类部署深度学习模型的移动智能平台蓬勃发展,极大地方便了人们的生产和生活。但由于其计算资源和内存资源有限,研究人员不得不使用各类模型压缩与加速算法压缩模型结构从而达到提升模型计算效率的目的,但却忽略了这类算法对于恶意输入的鲁棒性。对抗样本是否会造成模型计算效率的降低尚未有成熟的研究。本文的工作分成两部分,一方面提出了新的对抗训练算法,提升深度学习模型对于对抗样本的鲁棒性;另一方面则探究对抗样本对压缩加速后的模型的计算效率造成的危害。主要包括如下几项:1.分析深度学习模型的特征,探索并优化传统对抗训练算法中存在的缺陷,设计暹罗对抗训练算法。2.从不同构造方式、不同数据集和不同网络架构等多角度对算法性能进行全方位的评估,实验表明暹罗对抗训练算法相比现有算法,基本都取得了更高的分类准确率。3.扩展了对抗样本的定义,提出了一种针对计算资源的对抗样本。其目的是使模型的计算开销增加,而非输出错误的结果。4.按照决策的粒度不同,将动态路由算法分成了三类,同时为每一类设计了针对计算资源的对抗攻击算法。5.设计了实验,从模型的块使用量和FLOPs两方面评估攻击的性能。结果表明了计算资源对抗攻击算法的有效性,说明对抗样本会造成压缩模型计算效率的降低。