【摘 要】
：
深度神经网络广泛应用于许多领域,但仍然面临对抗攻击带来的风险。对抗攻击是对输入样本添加不易察觉的扰动来产生对抗样本,并欺骗神经网络将样本识别为错误的类别。为了提高深度神经网络对于对抗攻击的鲁棒性,国内外的研究者们分别从攻击和防御的角度出发进行了各种研究。在对抗攻击方面,包括密集对抗攻击和稀疏对抗攻击;在对抗防御方面,包括对抗训练和其他数据增强方法等。现有的攻击算法大多为密集对抗攻击或扰动明显的稀疏
论文部分内容阅读
深度神经网络广泛应用于许多领域,但仍然面临对抗攻击带来的风险。对抗攻击是对输入样本添加不易察觉的扰动来产生对抗样本,并欺骗神经网络将样本识别为错误的类别。为了提高深度神经网络对于对抗攻击的鲁棒性,国内外的研究者们分别从攻击和防御的角度出发进行了各种研究。在对抗攻击方面,包括密集对抗攻击和稀疏对抗攻击;在对抗防御方面,包括对抗训练和其他数据增强方法等。现有的攻击算法大多为密集对抗攻击或扰动明显的稀疏对抗攻击,侧重于追求攻击成功率,忽略了扰动在现实部署的成本问题,然而仅扰动少数像素且不易察觉的稀疏对抗攻击在现实场景中更有可能发生,也更具有威胁性。同时,利用这样的对抗样本对神经网络进行基于对抗训练的鲁棒性防御,能够帮助神经网络更好地学习那些鲁棒的特征。因此,本文关注图像分类领域的稀疏对抗攻击和防御问题,提出了新型的攻击算法和防御算法,主要研究工作如下:（1）基于双种群的约束进化算法实现稀疏的对抗攻击:本文将产生对抗样本问题转化为一个带约束的双目标优化问题,在满足具有攻击性的约束条件下,同时考虑以较小的失真性和稀疏性作为优化目标,并提出了一种有效的对抗攻击算法（DCEA-ISA）。为了弱化约束和目标之间的冲突关系,从而快速搜索出表现良好的解,DCEA-ISA采用了两个种群,分别用于搜索能够成功攻击的解,和仅扰动较小幅度及较少像素数量的解。在产生新解阶段,选择两个种群的解进行交配,得到的子解不但继承了双方的优点,还有可能通过设计的交叉变异算子获得超越父解的性能,促进种群的收敛性。此外,为了提高进化过程中的搜索效率,在DCEA-ISA中设计了基于图像像素的敏感度估计策略。最后在四个数据集上的实验结果验证了DCEA-ISA算法的有效性,表现出该算法比现有的一些先进攻击方法更具有竞争力。（2）基于多目标进化算法实现结构搜索的稀疏对抗防御:本文从结构搜索的角度提出了一种对抗防御方法（DNAS）,利用多目标进化算法搜索具有良好鲁棒性和准确性的轻量网络结构,分别表现为在稀疏对抗样本上有着较小的鲁棒错误率、在干净样本上有着较小的干净错误率,同时在结构上有着较少的参数量。在DNAS中,利用提出的稀疏攻击DCEA-ISA构建对抗样本数据集,设计了一个由本地数据集和即时攻击交替执行的鲁棒性评估策略,节约了进化算法框架下的搜索成本。最后通过对搜索到的一个最佳网络结构进行性能分析和迁移性测试,证明了稀疏对抗样本对于增强网络鲁棒性的作用,同时验证了DNAS面对稀疏对抗攻击的防御能力。
其他文献
近年来,受大数据和计算能力的驱动,深度学习网络在图像分类领域取得了巨大成功。随着神经网络发展迅速,其深度和参数量不断增加,使得图像分类的精度得到了有效改善。然而传统的深度学习网络需要利用大量的数据进行训练,这导致当数据不充分时,网络的分类和泛化性能急剧下降。这大大限制了深度网络预测新类别的能力,从而使得模型很难适用于少量数据场景下的识别任务。为了解决这个问题,最近几年越来越多的研究者致力于开发新的
社会化问答平台这一概念伴着Web2.0时代技术和服务的发展而产生,到Web3.0时代,在不同类型的社会化问答平台中参与知识交流成为获取信息资源的重要形式。在社会化问答平台的发展过程中,由于用户参与门槛低、低质量内容泛滥等现象导致平台知识交流质量和效率也呈现降低势态,探寻社会化问答平台的知识交流机制、识别影响知识交流质量和效率的关键因素,从而针对性地采取措施改善现状成为平台亟需重视和解决的问题。研究
随着经济技术的发展,从生活中的家用电器、移动电话到电动汽车,再到工业机械设备用电,人们的生产生活离不开电力。为满足人们的用电需求,大量的电厂建设项目开工建设,给电力建设行业施工安全管理带来较大压力,而随着时代发展人们对生命健康日益看重,因此电力建设工程现场的施工安全管理需要满足安全施工需求。本文以P自备电厂建设工程为例,对该项目现场施工安全管理进行研究,整理出5个一级指标以及26个二级指标,结合P
随着软件系统规模不断增长,传统的软件单体架构变得愈发难以扩展和维护。新一代的软件架构“微服务”以其内聚性高、耦合度低以及易于扩展与维护等优点受到了广泛关注,越来越多的IT企业将系统向微服务架构进行迁移。微服务系统在带来优势的同时,也迎来了诸多挑战。一方面,微服务系统对质量的要求越来越高,但现有微服务架构的实践更多地是关注于系统的功能实现,而忽视了对微服务系统设计中性能的分析;另一方面,微服务的拆分
RGBT视觉跟踪旨在结合可见光（RGB）和热红外（Thermal）模态的互补优势实现鲁棒的视觉跟踪,是计算机视觉领域中的一个热点研究课题。近几年,基于深度学习的RGBT跟踪方法取得了一定的进展,根据融合方法的不同主要可以分为以下两种类别。一类方法旨在探索融合模态特定表示和模态共享表示。另一类方法旨在利用注意力机制预测模态权重,实现不同模态的自适应融合。虽然这些方法都取得了不错的性能,但是忽略了多模
作为公共图书馆向家长和孩子们展示的一张名片,少儿阅读推广活动品牌在一定程度上代表着图书馆的整体形象,同时还搭载了图书馆面向少儿群体推行的阅读推广服务的内涵和价值。因此公共图书馆开展少儿阅读推广活动品牌化能够利用品牌效应有效提升公共图书馆本身的社会影响力和知名度。但是总体来看,目前我国对于公共图书馆少儿阅读推广活动品牌化的相关研究文献数量较少,且大多都是集中于某个具体案例的研究,缺乏对活动品牌化实践
零样本学习是计算机视觉和迁移学习领域的一个重要的研究课题。零样本学习的任务是依据一些已知类别的图像数据,然后辅以相关的先验信息,进而学习出一个泛化能力强大的模型来实现对未知类别的图像样本的分类。尽管研究者们提出了许多方法来解决零样本学习问题,但是它仍然是一个具有挑战性的课题。近些年来,基于图卷积网络模型的零样本学习方法在零样本学习领域取得了优异的性能。这些方法的主流思路是利用图卷积网络模型来对不同
多视图的表示学习旨在利用来自不同角度或不同数据源的特征学习数据的表示。对于图结构数据,多图学习的目的是通过多个图结构数据的协同学习,挖掘多个视图间的互补信息。近年来,图神经网络（Graph Neural Networks,GNNs）在图结构数据的表示学习方面取得了巨大的成功。现有的图神经网络模型通常可以分为图卷积网络、图注意力网络、图自编码器和图生成网络等。然而,许多传统的图神经网络模型利用固定的
车辆路径问题广泛存在于生活中的诸多方面,如街道垃圾清理、物流配送、集装箱码头堆场作业等。作为求解车辆路径问题的常见方法,元启发式算法可以在合理的时间内获得一个较好的路径方案。然而,随着问题规模的增加,已有元启发式方法往往会出现效果变差、耗时变得不可接受等问题,因此如何提高元启发式算法处理大规模车辆路径问题的能力是一个具有挑战的问题。此外,由于不同的元启发式搜索策略在不同问题实例上往往具有不同的性能
稀疏多目标优化问题（Sparse Multi-Objective Optimization Problems）由于其在机器学习、网络科学及其他许多领域都具有广泛的应用,近年来愈加受到进化计算领域的关注和研究。但现有多目标进化算法在稀疏多目标优化问题上的性能仍然有待进一步研究,目前尚没有专门针对稀疏多目标优化问题设计的性能评价指标。现有的性能评价指标仅关注算法在目标空间的收敛性和多样性而忽视了决策空