基于特征压缩的对抗样本防御安全研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:eminemzzz
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
由于深度学习模型的准确率大大提升,近年来在很多领域发挥了重要的作用,保持高准确率的同时如何提升模型的鲁棒性成为了一个重要的课题。深度学习模型中训练不充分、过度线性化的特性会导致模型对某些样本分类错误,这种样本由攻击者添加了特殊的扰动,且人眼难以辨别,它的存在大大威胁了深度学习的广泛应用,这种样本被称为对抗样本。为了抵御这种对抗样本的攻击,研究者们主要采取了改动模型的网络结构、对抗样本检测和将对抗样本纳入到数据集中进行训练的方式。但由于如今主流的对抗样本生成算法的扰动特点并不一致,往往一种防御方法不能有效防御多种生成算法,同时这些防御方法也伴随着较大的计算成本、难以统一到所有模型等问题。本文针对这一问题,从图像压缩和图像修复入手,提出了相对低成本且更加高效的对抗样本防御方法。本文的研究内容由两个部分组成,第一部分,本文根据主流的四种白盒对抗样本生成算法生成的样本的扰动特点,针对性提出了像素深度压缩和使用特征压缩模型进行图像压缩的方法,并结合两种方法提出了一种联合降噪检测器;第二部分,经过测试发现这种联合降噪检测器对于FGSM和DeepFool的效果良好,但是对于BIM和CW样本生成算法的效果还没有达到预期,同时经过压缩后,原始图像的结构信息受到较大的破坏,使得分类准确率下降。针对这种情况,本文进一步提出了基于矩阵估计的图像修复方法,能够对压缩后的图像进行主要结构修复,同时进一步减少对于BIM和CW算法的对抗性扰动,提高对于主流的白盒对抗样本生成算法的防御能力。实验数据集为mnist和cifar10,实验使用的模型为VGG16,使用的深度学习框架为Tensorflow1.16。本文提出的检测方法基于图像处理的方式,能够不依赖模型的参数和结构信息,直接从改动的图像入手,大大减少了防御的成本;基于矩阵估计的图像修复方法增强了数据集的随机性,强化了数据信息中的原始主要结构,对模型进行再训练从而提高模型的鲁棒性。结果表明,本文提出的图像压缩和图像修复方法能够使得主流的白盒对抗样本生成算法的攻击成功率下降30%到70%。
其他文献
在当下,嵌入式系统广泛应用在各个行业的各个方面,各领域的需求和使用场景越来越复杂的,传统单一的系统必然会有难以满足的情况存在,这只能造成现有平台的设计越来越冗余。在上述背景下,为了解决复杂业务场景的协同等等问题,在实际需求的推动下,嵌入式系统自然而然会引入多操作系统架构平台,或者说是嵌入式虚拟化平台。应用在嵌入式系统的虚拟化技术,主要目标就是在一套硬件设备上支持两个或多个执行环境,并且在嵌入式硬件
ISO9001《质量管理体系要求》是国际通用且被众多组织证明是行之有效的质量管理体系标准,贯彻ISO9001标准在不同程度上促进了组织的规范化管理,提高了产品和服务的质量。但在看到ISO9001标准给组织带来正面效应的同时,一些组织在贯标过程中存在的"两张皮"问题也不容忽视。本文分析了质量管理体系运行中存在的"两张皮"现象及其原因,阐述了通过贯彻新版标准GB/T19001-2016的新要求,
期刊
在“大数据”时代,互联网上每天都会产生海量数据,造成“信息过载”问题。“信息过载”问题是指人们在获取自己感兴趣的信息时,因为面对的信息过于繁杂,很难找到自己真正需要的信息。推荐系统是当前应对“信息过载”问题最有用的方法之一,在诸多领域都发挥着重要的作用。协同过滤推荐算法作为当前使用范围最广的一种推荐算法,可以对用户的历史行为记录进行统计和分析,从而挖掘出用户偏好以及物品属性,为用户提供更精准的个性
传统数据管理方式是每个管理域独自管理自己管辖区内的数据,不利于如今大数据时代的信息共享,跨管理域数据共享变成一个迫切需求。传统的数据共享需要第三方的机构,统一管理数据、维护数据,这种模式存在一个问题,需要参与数据共享的数据提供方绝对的信任第三方数据管理机构是可靠的,遗憾的是,数据提供方并不能完全信任第三方机构,使得数据提供方缺少数据共享的主观能动性,阻碍了数据共享的进一步发展。为了解决上述传统数据
装修机器人的推广应用是房地产行业提质增效、解决人力资源短缺的重要手段,同时,3D点云是一种获取环境信息的重要数据形式,在机器人、自动驾驶等领域应用广泛。有效理解环境语义信息是装修机器人工作的基础,3D点云数据的语义分割方法研究具有重要的理论价值和现实意义。由于点云数据的非结构化特性以及获取成本高,传统点云处理技术的研究局限于单一领域,点云深度学习研究方兴未艾,现有方法通用性不强,难以实现装修机器人
行人重识别是计算机视觉领域中的研究热点之一,通过指导智能视频监控自动地从不同摄像头中匹配相同行人的图片,在帮助公安机关追踪犯罪分子轨迹、大型商超分析顾客购物意图等方面发挥着重要作用。但是,目前行人重识别还存在着诸多挑战,受到摄像头视角、人体姿态等因素的影响难以一次性查询到所有的正确结果,表现良好的模型迁移到新场景、新领域时准确率会严重降低。本文利用深度学习方法提取行人图像的深度特征,并且针对上述问
随着中国互联网的发展和普及,视频应用的需求得到爆发式的增长,手机直播、网络视频等成为重要的传播媒介和新的互联网经济增长点。无线视频传输是移动互联网时代视频传输的主要方式之一。然而,在无线传输的情景下,移动智能设备能源和无线传输信道都是非常紧缺的资源。现有的解决方案分别是从视频编码和传输协议设计来对无线视频的传输进行优化,但是,现在广泛应用的视频编码方案的帧内预测和帧间预测算法的计算代价过高,对于计
农田水利工程是当代农业发展的根本动力,关系着我国农业能否长远稳定发展,同时对农田水利建设稳定用水、实现水资源利用最大化具有十分重要的作用。然而,笔者在调查中发现,目前农田水利工程规划设计中存在工程规划设计前期没有实地勘察、设计与实际情况差异较大等一系列问题。基于此,笔者深入分析了农田水利工程规划设计中存在的问题,提出了加大施工前的实地考察力度、科学分析农田水利灌溉规划设计、强化农田水利工程的监管力
随着信息化社会的逐渐深入,云计算技术作为计算机领域的前沿技术之一,也在逐渐迈向成熟。在云计算模式中,为用户提供各种服务的通常为虚拟机集群,这些虚拟机是通过虚拟化技术切割物理机产生的。虚拟机集群由云平台统一管理,按需分配的模式不仅简化了管理人员的工作流程,也使资源得到了充分利用,更是推动了桌面云和应用云的普及。用户只需要在本地终端安装云客户端便可借助远程桌面协议轻松访问云端的应用资源和桌面资源。云客
随着知识图谱越来越受到大众的欢迎,各大公司都在争先恐后地把自己的数据存储到图数据库引擎上,与此同时,数据的分析与挖掘也慢慢变得重要了起来。然而对数据的挖掘需要使用大量不同类别的数据进行交叉分析,而不同类别的数据就涉及到了由不同团队负责维护的数据,通常情况下这些数据并不在同一台服务器上,甚至使用了不同的数据库来存储这些异构数据。如果对这些数据进行挖掘则要将这些数据整合起来进行分析。然而,很少有完善的