【摘 要】
:
在计算机视觉中的识别和分类任务中,神经网络模型展现出优秀性能,能够取得极高的识别或分类准确率,但当在输入图像中添加人眼难以辨别的微小扰动时,神经网络模型识别或分类准确率大幅下降,这一过程被称为对抗攻击,被添加微小扰动的输入图像被称为对抗样本。在生成对抗样本的工作中,如何提升对抗样本迁移性是对抗攻击研究中的主流工作。对于已知模型结构的白盒攻击方法,生成的对抗样本迁移攻击其它未知神经网络模型,其对抗样
论文部分内容阅读
在计算机视觉中的识别和分类任务中,神经网络模型展现出优秀性能,能够取得极高的识别或分类准确率,但当在输入图像中添加人眼难以辨别的微小扰动时,神经网络模型识别或分类准确率大幅下降,这一过程被称为对抗攻击,被添加微小扰动的输入图像被称为对抗样本。在生成对抗样本的工作中,如何提升对抗样本迁移性是对抗攻击研究中的主流工作。对于已知模型结构的白盒攻击方法,生成的对抗样本迁移攻击其它未知神经网络模型,其对抗样本均展现出较低的迁移性,而且对抗样本迁移性的研究能够对现实世界的攻击有一定的参考与指导意义。本文从上述问题为基点,提出对抗样本迁移性强化方法,使对抗样本在迁移攻击中比现阶段主流算法表现出更优秀的性能。本文主要工作如下:(1)提出了基于特征空间层的攻击迁移性算法,来解决经典基于梯度攻击迁移性算法的攻击成功率不高的问题。特征空间层的攻击算法主要将神经网络划分为不同的卷积层,在经典迁移攻击算法生成对抗样本基础上,平衡对抗扰动方向与对抗扰动强度大小,寻找最优迁移方向,修正对抗样本,从而提升对抗样本迁移性。充分实验证明,与经典迁移攻击算法迁移性能相比,本算法具有更好的迁移攻击性能,平均提升5.08%的攻击成功率,为基于神经网络特征空间层的进阶攻击打下坚实基础。(2)提出了基于神经网络中间层正则化的攻击迁移性算法,解决神经网络中间层攻击的迁移攻击成功率不高的问题。神经网络中间层的划分与特征空间层一致,均为神经网络的卷积层。在中间层攻击的基础上,提出正则化损失函数,旨在从对抗扰动本身特征出发,消除对抗扰动对对抗样本迁移性的影响。具体来看,滤除对抗扰动的高频成分,并寻找最优迁移方向,从而利用该算法生成的对抗样本具有比现阶段中间层攻击更优秀的性能。充分实验证明,本算法是近年来对抗样本迁移性能较好的攻击算法,与现阶段SOTA中间层攻击算法相比,平均提升了4.81%的攻击成功率,进一步说明对抗扰动高频成分对对抗样本迁移性确实有消极影响,神经网络中间层正则化攻击算法有效提升对抗样本迁移性。
其他文献
图形符号的检测作为目标检测的热门研究内容之一,研究意义重大,应用前景广泛。随着社会需求的不断产生以及目标检测技术的研究发展,涌现了越来越多图形符号检测的相关技术,并在物流运输、工厂作业、安防、辅助诊断等方面有着很高的应用价值。但是实际场景中,图形符号的检测也面临较多问题,如图像质量差、目标尺寸小、光照影响、检测速度慢等,都会对其检测效果造成影响。本文主要对复杂背景下的图形符号检测进行研究,分别选取
糖尿病视网膜病变是世界上四大主要致盲疾病之一,对其进行诊断可以预防病变以及确认病变的严重程度,从而采取符合病情的治疗手段。然而传统诊断方法效率低下,需要医生有着足够的临床经验。使用计算机来辅助检测时,血管、视神经盘、黄斑等生理结构与糖网病变具有相似的颜色、纹理等信息,并不易于实现病灶分割。尤其是病变阶段中产生的软性渗出,由于其自身的形态特性与纹理特点,有时容易与硬性渗出、视盘等区域混淆,有时又在眼
第四次技术革命引发了社会的深刻变革,人类正在步入一个更加智能化的时代。科学技术创新推动了产业结构调整和经济转型升级,新业态不断冲击和解构原有的劳动力市场秩序,也对人的职业素养提出了新要求。作为与经济、社会联系最为紧密的教育类型之一,高等职业教育肩负培养高素质、高水平的技术技能型人才的重任,在经济发展与产业转型升级的过程中发挥着不可缺少的作用,同时在新一轮技术革命中,也不可避免地受到人工智能发展的影
以石墨烯和过渡金属硫化物为代表的二维材料,因其单原子层结构,具有极其敏感的化学和生化传感特性。为了提高生物分子检测的灵敏度和减少环境对生物分子识别的干扰,堆垛异质结成为了一种制备高灵敏电子传感器或光学传感器的有效方式。本文旨在设计、制备基于二维材料的、具有高生物传感性能或局部场效应发光性能的垂直场效应石墨烯晶体管(Graphene Vertical Field-Effect Transistor,
表面增强拉曼光谱(Surface-Enhanced Raman Scattering,SERS)作为一种灵敏的光谱学分析工具能够提供样品化学分子的指纹信息,常被应用于分子检测、生物医药和环境科学等领域。主流的贵金属SERS活性基底虽然具有较高的增强因子,但存在高成本、制备复杂等缺点,因此基于半导体材料的SERS活性基底因其低成本、高灵敏度和高生物相容性等优点而开始得到广泛关注和研究。WO3-x半导
随着信息时代的发展,大规模的数据与复杂数据分析方法对查询引擎的性能提出了更高的需求。连接查询能够从多个关联的数据表中抽取出有价值的信息,是当前主要的查询方式。Spark并行计算引擎作为流行的大数据处理框架,使用Spark SQL组件处理结构化数据查询,能够将输入的SQL查询语句经过优化后转换为Spark程序执行,有效地利用了Spark处理大数据任务的优势。然而Spark SQL在优化连接查询时仍然
深度伪造专指基于人工智能的人体图像合成技术,此技术可将已有的图像或视频叠加至目标图像或视频上,用以制造虚假的多媒体信息。人脸替换是深度伪造的一个重要领域,它的基本任务是将目标人物图像的身份特征替换为源人物,同时保留目标人物面部表情、头部动作、纹理细节、背景光照等属性特征。人脸替换可以广泛地应用到影视制作、人脸匿名、在线会议等领域。传统的人脸替换方法依赖于大量的人工操作,耗时长、效率低,而且替换的结
随着大数据时代的到来和人工智能应用需求的不断增长,机器学习展现出来的优势使它成为不同领域智能发展的重要工具。然而,由于其集中式的训练模式,“数据孤岛”和数据隐私问题成为机器学习重大挑战。联邦学习(Federated Learning,FL)作为一种新兴的人工智能技术,通过终端分布式地在本地进行训练,避免了隐私数据直接上传,保障了大数据交换时的信息安全和隐私。尽管如此,传统的FL还面临着长通信距离带
随着物联网的不断部署和应用,大量智能设备接入网络中,对网络的通信和计算资源产生了巨大需求,而边缘计算能为运行在这些设备上的不同应用就近提供丰富的资源以满足这些需求。通过将边缘计算服务器(Edge Computing Server,ECS)部署在网络边缘,这些设备可以将计算任务卸载到ECS上处理,从而降低处理时延与能耗。在边缘计算的任务卸载中,物联网设备需要通过无线信道将任务卸载到ECS,传统的正交
<正>前苏联Ilizarov教授发明的以张力-应力法则为理论基础的Ilizarov骨外固定技术体系,是20世纪骨科发展的里程碑之一[1]。骨搬移(bone transport)技术则是Ilizarov外固定技术体系的重要组成部分[1]。在Ilizarov技术面世之前,临床大量无菌性或感染性骨不连、骨缺损患者的治疗一直是一个