随着深度学习技术的不断发展,人工智能开始深入到千家万户,在各个领域都扮演着极为重要的角色。然而,在人工智能方便人们生活的同时,由于其自身的缺点,导致它们面临着很多严峻的问题。其中,对抗攻击由于其发起的简便性和攻击的高成功率给人工智能应用带来了极大的困扰。根据敌手拥有目标模型知识的不同,可以将对抗攻击分为白盒攻击和黑盒攻击。在白盒攻击中,敌手可以进入模型内部,获取梯度等关键信息,根据梯度构造细微的扰动并添加到原始样本中,进而生成攻击性极强的对抗样本。对抗训练虽然成为了防御此类攻击的最优选择,但是其在保持原有精度和提升对抗精度的权衡上还有一定的缺陷。在黑盒攻击中,基于查询的攻击具有很强的现实意义,敌手通过不断的查询目标模型,根据模型的反馈和优化算法来不断的微调攻击样本,直到达到较高的攻击成功率。防御此类攻击,构建入侵检测系统有较好的效果,但是目前的方案在效率和准确性上依然有很大的提升空间。为了应对上述挑战,本文进一步研究了面向对抗样本的防御技术,并针对两种不同的攻击场景,提出了两种防御方案:1.基于PGD攻击的定制化对抗训练方案。该方案在分析了传统PGD对抗训练的缺点的基础上,指出在训练过程中使用固定扰动和硬标签是不合理的问题。提出基于动量的二分搜索算法来生成定制化数据点,使用改进的标签平滑方式来生成定制化标签。通过实验证明了本方案在保持原有精度和提升对抗精度的权衡表现上比现有工作更有优势。2.防御黑盒攻击的入侵检测系统。该方案基于Triplet Loss构建了一个高效的入侵检测系统,系统接收三个输入,并能够准确的判断输入中是否存在两张相同图像。同时,根据不同类型的敌手设计了不同的检测算法,通过实验证明,本方案能够高效的检测出潜在敌手,并维持较低的存储开销。