目标检测神经网络的对抗攻击方法研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:shelllbw
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习理论知识的不断扩大及硬件计算资源的发展,深度神经网络得到了广泛的应用和研究。然而,由于深度神经网络自身存在不可解释性等技术上的不足,使得其行为难以解释和控制,导致其容易受到对抗样本的攻击而失效。充分研究对抗攻击方法有助于挖掘深度神经网络易失效的原因,促进对抗攻击防御方法的完善和深度神经网络安全性方面研究的发展,提升深度神经网络鲁棒性。目前对抗攻击方法的研究大多集中在图像分类任务中,目标检测中相关研究进展较缓,主要原因在于目标检测任务需要同时对多个目标进行分类和定位,其攻击难度更大,同时,目标检测作为计算机视觉的一个重要方向,有着越来越多的应用,其安全性十分重要。因此,本文的研究集中于目标检测神经网络的对抗攻击方法研究。神经网络中的对抗攻击方法主要被分为两大类,一类是黑盒对抗攻击方法,另一类是白盒对抗攻击方法。目前目标检测领域的对抗攻击方法主要存在以下两方面问题:一方面,对黑盒对抗攻击方法的研究较少,无法仅利用模型的决策结果实现有效的攻击;另一方面,现有的白盒对抗攻击方法生成对抗样本速度慢,应用场景较为局限。针对目标检测领域对抗攻击方法存在的问题,本文开展了如下研究:首先,对目标检测领域现有的黑盒对抗攻击方法和白盒对抗攻击方法的攻击策略进行分析。目标检测黑盒对抗攻击方法主要为基于梯度估计和基于迁移的攻击方法,其优点是不需要了解过多的模型内部信息即可对模型进行攻击,然而基于决策结果的对抗攻击方法在目标检测领域还没有相关的研究,在面对只为用户提供最终决策结果的工业界应用的目标检测模型时,无法实现有效的攻击;目标检测白盒对抗攻击方法大多为全局扰动的对抗攻击方法,优点是攻击成功率高,然而其生成对抗样本需要消耗较多的时间,在面对实时检测任务时不适用。其次,针对现有的目标检测黑盒对抗攻击方法无法仅利用决策结果进行攻击的问题,本文提出基于决策结果的目标检测对抗攻击方法,该方法从使目标检测模型定位出错的角度进行攻击,不需要使用模型的内部信息和输出的置信度信息,仅利用目标检测模型输出的边界框位置信息,沿着对抗边界执行迭代搜索寻找对抗样本从而实现高效攻击。实验结果表明所提出的攻击方法使典型目标检测器Faster R-CNN在VOC2012数据集上的m AR从0.636降至0.131,m AP从0.801降至0.071,有效降低目标检测模型的检测能力,成功实现面向目标检测任务的黑盒攻击。最后,针对目标检测白盒对抗攻击方法应用场景较局限的问题,本文提出对抗补丁位置可变的目标检测对抗攻击方法,该方法从使目标检测模型分类错误的角度来进行攻击,通过优化目标检测模型的损失函数,来训练更新对抗补丁,将最终生成的对抗补丁添加在图像中目标物体上的任意位置,即可快速地生成对抗样本实现对抗攻击。在INRIA数据集上利用YOLOv3典型目标检测模型进行大量实验,证明所提出的对抗攻击方法的有效性,且攻击效果不受对抗补丁位置的影响,同时可以设置目标错误类别实现有目标攻击,平均攻击成功率为0.71。
其他文献
随着无人机技术应用于未知环境探索任务的优越性得到广泛认可,针对于大规模复杂任务的多无人机协同技术逐渐成为研究热点,并沿着小型化、集群化和智能化方向不断发展。多无人机协同避障技术因其必要性而成为多无人机协同技术的研究重点,也因其重大的意义和较高的实现难度而成为亟待解决的问题。传统的多无人机编队避障方法没有考虑自身观测信息与临近无人机观测信息的融合,难以兼顾视野盲区的复杂环境,避障的稳定性会有所下降。
学位
高维磁共振成像技术相较于传统的二维磁共振成像技术能够提供更加多元的组织特性,进而为精准医疗提供技术支撑,具有广阔的应用前景。传统的重建方法将高维磁共振张量展开为矩阵,并利用矩阵的低秩特性进行重建,破坏了原有张量的高维结构,很可能导致次优的结果。因此,为了在高欠采样倍数下尽可能地提高图像重建质量,本课题研究基于张量低秩约束的高维磁共振图像重建方法,包括以下三个研究内容:首先,本课题研究了TUCKER
学位
随着无人机航拍技术的普及,航拍图像在目标检测、跟踪等领域的应用得到普遍研究,而航拍图像与卫星影像的匹配研究相对较少。研究实现无人机航拍图像与卫星影像匹配可以对无人机进行视觉辅助定位、实现航拍图像与卫星影像融合更新地图或者对未知环境进行探测等,具有一定的实际应用价值和研究意义。但是,卫星影像通常图像尺度较大,图像分辨率低,且更新周期较长,而无人机航拍图像是一种小尺度高清图像,且实时拍摄,具有更好的时
学位
随着航天技术的不断发展,航天领域中的各类子系统日趋庞大、结构愈发复杂,并且其需要在更多样的极端环境下工作,这要求航天系统具备更高的可靠性。在航天系统中,控制系统是其最为核心的子系统之一。伴随着传感技术和数据采集技术的发展,利用基于数据驱动的方法对控制系统参数进行监测和开展异常检测,对保障整个航天系统长时间稳定运行具有重要的现实意义。因此本文以航天领域的某控制系统为研究对象,对单参数和多参数异常检测
学位
无人机多光谱遥感在农业中有着广泛的应用,尤其是在水稻长势监测方面具有不可替代的地位。对水稻长势进行监测可以掌握水稻生长状态的空间差异,进而指导田间管理人员有针对性的采取农事活动和投放农业资源,减少化肥和农药的使用量,节约生产成本。无人机获取的多光谱图像具有较高的空间和时间分辨率,通常其选择的光谱波段包含监测水稻长势的诊断信息。现有研究往往针对整幅图像反演与长势相关的某一关键参数,不区分水稻与其他地
学位
随着新技术发展,无人机(Unmanned Aerial Vehicle,UAV)以越来越高的性价比走进人们的视线,在军事领域和民用领域都有很广泛的应用包括但不限于森林灾害预防、军事勘察、巡逻跟踪等场景。相较于单架无人机而言,由多架无人机组成的飞行自组网(Flying Ad Hoc Network,FANET)不依赖于地面基站,灵活性更好、覆盖面积更广、信息搜集能力更强、执行任务的效率更高。无人机之
学位
微波无线能量传输将在一定应用场景下取代电池供电和电缆传输设备充电等方式,为电子设备进行能量供给。它将真正摆脱有线充电的束缚,给人类日常生产生活带来便利。作为远场微波能量传输装置的接收端,整流天线能够将电磁波从自由空间获取,并转化为直流能量提供给负载使用,直接关系到能量传输的效率。本文主要对微波无线能量传输系统中用作接收的整流天线部分进行设计分析,设计了三种工作在5.8GHz结构不同的整流天线,均能
学位
大规模物联网(Massive Internet of Things,MIo T)作为蜂窝物联网的一种,通过将所收集的业务向蜂窝网络回传,可以进一步促进万物的互联互通。由于MIo T设备具有价格低廉、易于部署等优点,MIo T目前已占据了蜂窝物联网中大量的市场份额。但是,即使第五代(5th Generation,5G)移动网络已在全球大面积进行部署,目前的蜂窝网络仍无法做到对全球的无缝覆盖。考虑到基
学位
针对客户产品外场试验的测试需求,本单位研制了小型便携式通用检测平台。为了配合该检测平台的应用推广,本文基于H-JTP(HIT-Joint test platform)联合试验平台,采用测试流程与测试程序代码分离的思想为其开发了配套的测试程序。首先,查阅了国内外文献资料,分析了测试需求,提出了便携式通用检测平台测试软件开发的总体方案。基于H-JTP联合试验平台,采用图形化的方式开发测试流程编辑工具软
学位
在军事作战中,打击目标往往复杂度较高,需要多架无人机协同打击,才能确保有足够的攻击力度和资源量完成任务,这里论文将“协同”的概念转换为博弈论里的合作联盟组建过程。由于集中式网络结构在抗干扰能力、系统鲁棒性和可扩展性方面较差,本文采用了分布式网络结构,此结构也更适用于灵活高速飞行的无人机网络。此外,在分布式网络中,要想成功组建打击联盟,实现各无人机节点的信息交互是基础。因此,本文重点研究了以下两方面
学位