针对深度学习图像识别中的对抗样本防御研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:gdmkhx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图像识别相关的深度学习技术在近些年取得了快速的发展。图像识别技术使机器具有了感知环境、识别物体的能力,极大推动了现代工业智能化的发展,可以看到有越来越多的相关应用相继落地。对抗样本通过在原始图像中添加人眼难以察觉的细微的扰动信息,就可以使深度学习模型产生错误的判别结果。对抗样本的存在给深度学习算法和模型造成了威胁,甚至影响了实际中相关深度学习应用的安全。特别是在自动驾驶、人脸识别和金融等对安全性要求比较高的领域,需要对对抗样本问题引起足够重视。因此,研究对抗样本防御技术具有十分重要意义。在深度学习图像识别领域中,主要的对抗样本防御方法可以分为对抗训练、模型优化、输入数据转换和对抗样本检测四大类。其中,输入数据转换和对抗样本检测相对于对抗训练和模型优化而言更容易实施,对已有模型的入侵性更小。所以,为了保护深度学习模型,本文采用先转换后检测的思路对输入数据转换和对抗样本检测两种防御方法进行结合,提出了基于图像降噪的对抗样本检测方案。本文的检测方案由基于残差学习的图像降噪模块和基于差异得分的对抗样本检测模块构成。现有图像降噪算法的降噪效果和降噪时间无法同时满足对抗样本降噪需求。在基于残差学习的图像降噪模块中,本文对Dn CNN降噪模型在训练稳定性、参数量和计算量方面做了改进,提出了ANDNet降噪网络用于对抗样本降噪。ANDNet降噪网络整体结构由残差单元ANDUnit堆叠而成。ANDUnit是一种残差的设计,其中包含了批量归一化处理,使模型更容易训练。本文通过在ANDUnit中引入深度可分离卷积,同时将ANDNet的隐藏层通道数阶梯化,极大减少了模型的参数量和计算量。在基于差异得分的对抗样本检测模块中,本文通过1L范数计算分类模型对原始图像和降噪图像softmax输出之间的距离,将其作为差异得分衡量输入图像降噪前后的差异,并结合在训练数据集上得到的检测阈值对输入图像进行对抗性检测。本文对所提出的基于图像降噪的对抗样本检测方案进行了实现和实验验证。首先对图像降噪模块进行了测试,实验表明ANDNet降噪网络具有良好的降噪效果,甚至在SSIM指标上优于Dn CNN降噪模型,并且ANDNet降噪网络在训练稳定性、模型大小和计算复杂度上更有优势。随后进行了对抗样本检测实验,实验表明本文的检测方案能有效区分普通样本和对抗样本,在检测准确率和F1值上均有良好表现。最后对本文检测方案对分类模型的保护效果进行了测试,发现在检测方案保护下,分类模型对于进入模型的图像的分类准确率明显提升。
其他文献
本文针对宽带阵列天线进行了研究,主要工作如下:1.结合工程项目需求,研究了具有波束扫描功能的宽带偶极子阵列天线。改进了马春德(marchand)巴伦,所设计的馈电结构实现了三阶阻抗匹配,有效展宽了偶极子天线的带宽。在HFSS软件中对天线进行全波仿真分析,同时给出其等效电路模型,利用HFSS和ADS联合仿真对天线进行带宽验证。所设计出的天线在电压驻波比(VSWR)小于2时,具有72.7%(工作频率范
新型超材料天线相比于传统相控阵天线有着系统简单、成本低、轻便、产生的随机辐射场稳定等多方面的优势,因此近几年超材料天线甚至有着逐步取代相控阵天线的趋势。虽然超材料天线可以代替相控阵天线以获得更高质量的导引头的前视成像,但是由于超材料天线必须使用载频变动的信号,这使得信号回波中出现了一个相位误差,导致适用于相控阵天线的基于压缩感知的超分辨关联成像算法,虽然其成像分辨率高、运算速度较快,但是却无法正常
随着无线通信技术的飞速发展,低频段的频带资源开发日渐饱和,人们迫切需要对毫米波以及更高频率的频谱资源进行开发和利用。间隙波导作为一种非接触式半封闭的新型波导结构,具有低损耗、易加工、可模块化的优势,在毫米波以上频段的天线阵列、大型馈电网络、滤波器、有源器件封装等工程设计中具有广阔的应用前景。毫米波多波束天线可以使用无源波束赋形网络实现毫米波天线的波束扫描,提高天线的增益,实现频谱资源利用率的最大化
近年来,随着图像处理技术以及人工智能深度学习技术的发展,基于计算机视觉的目标检测在精度和速度上都达到了理想的性能。然而在自动驾驶相关领域中,仅依靠图像平面上的二维检测结果,无法有效获取目标在三维空间中的位置与结构信息。虽然依靠激光雷达等传感器设备可以获取空间信息,但相比之下单目相机更为经济便捷。因此,针对单目场景下的三维目标检测技术的研究有着重要的现实意义,同时具有广泛的应用前景。随着深度学习技术
现代战争是电子战和信息战的战争。为了满足侦察、干扰、探测、通信等多样化的作战需求,一个完备的作战平台往往集成了多种分立的电子作战装备,极大限制了作战平台的机动性能。而集侦察、干扰、探测、通信于一体的侦干探通一体化作战平台通过参数可配置的硬件和软件实现单一平台多功能于一体,体积小、灵活度高,是未来作战平台发展的必然趋势。可重构接收机在不改变硬件的条件下仅通过调整可配置参数即可以实现多种信号处理模式,
随着科学技术的发展,人们对语音通信质量也提出了更高的要求。语音通信的过程中会同时受到各种噪声的干扰。在低信噪比环境下,语音会被噪声所淹没,严重影响了语音通信质量,甚至会导致无法进行语音通信。因此,高鲁棒性的语音增强技术愈发重要。多通道语音增强算法引入空域信息,实现在空域上的滤波,提高了去噪性能。然而,该算法对麦克风阵列的尺寸、数目和位置都有严格的要求,设备维护要求较高,不利用低成本设备的应用。因此
随着互联网、大数据和人工智能技术的兴起,深度学习技术依靠其强大的特征提取能力,在计算机视觉、智能体的自主决策以及自然语言处理等方面均取得了显著的成果。深度学习技术的快速发展使得其计算加速方法及架构设计成为学界与工业界的热点。现今主流深度学习加速器对单帧图像的智能处理具备很好的提速效果,然而对于视频应用,单帧图像加速技术的直接运用会造成极大的硬件资源浪费,以及大量重复的片下存储器读写操作。深度卷积神
准动态平台卫星链路的建立有利于卫星之间分布式协作,但是星间链路的动态变化会对整个分布式卫星协作系统产生不利影响。为了避免这种不利影响,可以将时间敏感网络(Time Sensitive Network,TSN)技术引入准动态卫星网络中。TSN作为有效的确定性网络在新兴无线通信技术、车载网、工业物联网和航空航天领域都大有作为。TSN通过时间同步、业务调度与流量整形等技术保证系统中数据传输的低时延、高可
病原微生物的防控工作已经成为我国卫生部门十分重视的一项工作。我国目前微生物鉴定工作存在的问题有:手工操作多、主观判断多、自动化程度低、微生物数据信息共享闭塞、国外市场垄断微生物检测核心技术等。针对以上问题,本文对病原微生物样本孵育拍照和后续处理的业务进行了调研与分析,设计并实现了病原微生物样本处理及孵育拍照系统的软件平台。本文通过对微生物检测业务的流程进行分析,分析了系统的功能需求,详细阐述了系统
无人机因体积小、成本低、部署灵活等独特优点在信息感知、情报侦察等众多领域内得到广泛应用。作为获取空间数据的重要手段,无人机中蕴含海量的高价值数据,致使它成为被攻击的主要对象之一。这一点可以从过去二十年中公开的无人机安全事件中得到证实,其中最著名的莫过于伊朗截获美军无人机事件。在无人机系统中,无人机数据链路的安全至关重要,它作为无人机机载端与地面控制端通信的纽带,为无人机的运行及各项任务的执行提供了