面向图像识别的对抗样本检测和防御系统的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:zsjhmya
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习技术在各种领域的应用越来越多,深度学习鲁棒性变得至关重要。对抗样本的提出给深度学习鲁棒性带来了极大的挑战。对抗样本通过对图像添加细微的扰动,肉眼无法察觉,却可以轻松使得深度学习模型出现错误预测。因此研究者们提出了许多针对对抗样本的防御方法。现有的对抗防御方法,如特征压缩和由高级特征主导的去噪器(HGD),在面对不同的攻击方法时表现各有优劣,无法保证防御的有效性。同时对防御效果的评估只关注模型预测准确率,缺乏对经过防御优化的数据集的度量。本文从数据集的层面防御对抗样本,构建一个基于对抗检测与防御的深度学习鲁棒性优化系统。系统提供对抗样本的检测与防御服务,对不同的对抗样本类型提供针对性的防御。系统针对对抗防御效果因样本类型而异的特点,提供对抗样本检测模型,检测对抗样本类型,并结合系统维护的对抗防御效果表推荐最佳的方法。针对防御优化产生的数据集的评估,引入结构相似性(SSIM)和扰动敏感距离(PSD)作为图像质量的评估标准,判断防御所得的数据集是否出现图像的失真。本系统的功能分为数据流处理、对抗检测、对抗防御和任务报告模块,通过模块之间的协作来确保系统的可用性。本系统在部署时覆盖9种对抗攻击方法,检测对抗样本类型的成功率在97%以上。检测出对抗样本类型后,进一步选择对抗防御方法。以面对由BIM生成的对抗样本为例,模型预测准确率低于2%,应用系统推荐的特征压缩方法后,能够将模型预测准确率提升至93%左右。对比随机选择的防御方法如HGD,准确率仅为81%,前者效果更佳。通过SSIM和PSD的评估,对抗防御生成的样本与原样本结构基本一致,扰动敏感距离在允许范围内,样本的质量符合预期。综上,系统能够为用户提供良好的对抗样本检测和防御服务。
其他文献
学位
学位
网络告警管理作为网络运维中的重要任务,可以对网络中发生的告警进行全面有效地管控,对提升网络服务质量有着重大意义。然而随着网络规模的扩大,环境中的网络设备越来越多,设备产生的告警也随之增多,这对网络运维系统中的告警管理能力提出了新的挑战。传统的网络运维系统仅有简单的告警管理功能,适合小规模告警量需求,在当前海量告警下的网络环境中主要存在以下三个问题:一是告警采集能力不足,传统的告警采集技术通过轮询采
近年来物联网的应用范围愈加广泛,嵌入式设备也进入到了智慧交通、智能家居等新领域。作为物联网环境下嵌入式设备的核心与关键,嵌入式操作系统技术受到广泛重视。现有嵌入式操作系统的功能往往都极为精简,内核设计极为优化,外设和网络服务则相对欠缺。距离物联网在安全、智能化以及功耗管理等方面的技术需求仍然存在较大差距。论文分析了嵌入式操作系统微内核的原理,研究了操作系统设备IO以及网络服务的设计思想,对四种典型
学位
学位
学位
预付卡是一种重要的消费支付方式,为消费者和商家机构带来了极大便利性,目前已经占据大量市场份额。随着经济的快速发展,预付卡业务涉及领域众多,包括会员卡、餐饮卡、旅游卡等,且仍在快速增长。目前蚂蚁集团对于各预付卡业务均独立开发支付宝App端小程序,且预付卡业务系统均直接与各数据源系统交互。这种开发模式在业务量不大时相当便捷,但同时不仅带来了巨大的重复开发量,而且难以有效共享和利用集团内外资源。为此,蚂
太赫兹成像技术在生物医学、安检成像、射电天文、能源环境、材料化学以及高速通信等领域都有着重要的应用前景。大规模太赫兹阵列探测器是太赫兹快速成像技术的关键,也是目前太赫兹探测研究的一大发展趋势,我们研究的六氮五铌太赫兹阵列探测器具有室温工作、响应率高、制备工艺简单并可大规模制备等优势。针对大规模阵列探测的关键技术,本文主要从阵列探测器的设计与仿真、制备工艺优化、阵列器件性能表征、阵列探测器与读出电路
学位