【摘 要】
:
近年来,深度学习模型在许多计算机视觉任务上均取得了显著的性能突破。但是,随着深度学习模型的广泛应用与落地,模型本身的安全性受到越来越多的挑战与关注。攻击者可以根据深度神经网络的梯度信息,在原始干净样本上添加微小的像素扰动来欺骗深度学习模型,使得模型的性能显著降低。这种样本被称为对抗样本,给人工智能的产业化安全落地带来了巨大的威胁。研究如何有效地保护深度学习模型免受对抗样本的威胁和提升模型的鲁棒性具
论文部分内容阅读
近年来,深度学习模型在许多计算机视觉任务上均取得了显著的性能突破。但是,随着深度学习模型的广泛应用与落地,模型本身的安全性受到越来越多的挑战与关注。攻击者可以根据深度神经网络的梯度信息,在原始干净样本上添加微小的像素扰动来欺骗深度学习模型,使得模型的性能显著降低。这种样本被称为对抗样本,给人工智能的产业化安全落地带来了巨大的威胁。研究如何有效地保护深度学习模型免受对抗样本的威胁和提升模型的鲁棒性具有十分重要的意义。尽管国内外的许多研究者已提出了各种对抗防御方法来防御对抗样本的攻击,但目前大多数的防御方法已被验证是无效的且并没有带来真正的对抗鲁棒性。对抗训练被证明是当前最有效的对抗防御方法之一。但是,现有的对抗训练方法仍然存在一些不足,主要体现在对抗鲁棒泛化的能力比较弱。针对某一特定攻击的对抗训练模型往往会过拟合于这种特定的对抗模式。针对该问题,本文对对抗训练的鲁棒泛化性进行了深入的研究,主要的研究工作与创新点如下:1)提出了基于域自适应的对抗训练方法。现有的对抗训练防御方法缺乏对不同的对抗攻击方法的泛化。针对这一问题,通过将对抗训练视作一个具有少量“目标域”样本的域适应问题,分别将干净样本分布和对抗样本分布视为域适应问题中的源域与目标域,通过将源域和目标域经过特征变换到相同的特征分布上,以提高对抗训练模型对不同攻击的泛化能力。2)提出了基于鲁棒局部特征的对抗训练方法。当前的对抗训练防御方法主要依赖于全局结构特征,缺乏对鲁棒局部特征的学习。针对这一问题,从特征学习的角度提出了基于鲁棒局部特征的对抗训练方法,通过破坏图像的全局结构信息实现鲁棒局部特征的学习与迁移,以此鼓励对抗训练模型通过鲁棒的局部特征学习,达到提高对抗训练模型的泛化能力的目的。3)为了进一步提高防御模型的泛化性,采用了多模型融合的对抗防御方法,结合基于域自适应的对抗训练模型与基于鲁棒局部特征的对抗训练模型。实验结果表明,提出的两种方法与模型融合的防御策略可以有效地防止模型过拟合于训练中所使用的对抗样本,提高了模型在测试数据上的标准泛化能力与鲁棒泛化能力。
其他文献
随着高速铁路事业的蓬勃发展,列车牵引传动系统的轻量化、高效化成为研究重点。相比于基于工频变压器的牵引传动系统,电力电子牵引变压器具有重量和体积上的优势,且能够实现更高的可控性,是未来车载牵引变压器的发展趋势。列车在行驶过程中会遇到很多工况,弓网离线和过分相为其中两种比较常见的工况,这两种工况均会造成列车短时失电,导致高速列车牵引传动系统发生暂态过电压或过电流,威胁高速列车的安全可靠运行。本文将针对
平顶脉冲磁场综合了稳态磁场稳定度高和脉冲磁场强度高的优势,是脉冲磁场技术的重要发展方向。实现磁场稳定度优于100 ppm、平顶期无纹波的高稳定度平顶脉冲磁场,对比热测量和核磁共振等重大科学实验系统的进一步研究发展至关重要。为实现高稳定度平顶脉冲磁场,需要对30 k A的脉冲大电流进行10 ppm级高精度测量。现存电流传感器中测量精度最高的磁调制式直流电流比较仪(Direct Current Cur
凝结芽孢杆菌作为益生菌,近年来因其特有的益生特性备受关注。鉴于此,在深度解析凝结芽孢杆菌益生特性的基础上,结合目前国内外的研究现状和未来发展趋势,从消化道微生态、营养物质的消化吸收和免疫系统三方面揭示了凝结芽孢杆菌在食品领域的应用机制,并展望了未来在本领域的研究热点,旨在为凝结芽孢杆菌在食品工业中的广泛应用提供支撑,助力益生菌产业的可持续发展。
近年来,气候多变引起的自然灾害频发,早年城市建设遗留下来的问题随之逐渐暴露出来,暴雨内涝等灾害对城市的影响逐渐增大。本文通过对城市暴雨内涝灾害下的城市路网进行脆弱性评价,对城市道路建设起到一定的借鉴作用,推动城市交通向更具有韧性的方向发展建设。本文主要从路网结构和交通功能两个方面,运用构建模型、交通仿真等方法对城市路网暴雨内涝脆弱性进行评价,识别其中的关键单元和脆弱单元,并结合武汉市汉口区域路网进
碳达峰、碳中和的重大需求以及日益枯竭的化石能源危机迫使人们开发可再生的清洁能源,以实现绿色经济与可持续发展。锂硫电池由于其较高的理论比容量(1675m Ah g-1)和理论能量密度(2600 Wh kg-1)成为备受关注的新一代锂电池。然而,多硫化物的穿梭效应不仅导致活性物质的不可逆损耗,而且还造成了对锂金属的腐蚀,降低了电池的循环寿命。针对多硫化物的穿梭问题和聚烯烃隔膜存在的缺陷,本文以锂硫电池
作为传统中药的有效成分之一,生物碱由于其独特的化学结构及良好的生物活性一直以来都是有机化学家以及药理学家重要的研究对象。但由于一些生物碱在自然界含量极少,仅靠提取方法难以获得足量物质进行全面的药理学研究。因此,通过发展化学合成的方法获得天然产物是解决该问题的一条有效途径。此外,化学合成不仅能帮助确认天然产物结构,还能推动相关合成方法学的发展。针对天然产物复杂的环系结构,开发快速构建其核心骨架的合成
随着我国水电能源的大规模开发利用,已经形成了十三大水电基地。梯级水库群优化调度不仅受到负荷、径流、用水需求差异等众多因素限制,还需要协调多个调度目标效益的均衡最优,是水资源管理领域科学研究和工程应用研究的热点问题。本文围绕三峡梯级水库调度需求,以实现水电能源开发利用的综合效益最优为目标,运用水力学模型和栖息地模型,研究了水库生态调度目标和航运目标的量化方法,进而运用代理模型和多目标优化算法对梯级水
随着锂离子电池在动力、消费、储能三大方面展现出越来越重要的作用,其健康状态(State Of Health,SOH)估计也越来越受到人们的关注。一个准确的SOH估计对于电池维护、电动汽车续航能力评估、电池组内单体均衡等方面有着重要的意义。为了获取准确的锂离子电池SOH估计,本文做出了以下工作。首先,本文搭建了电池退化实验平台,在室温和恒温条件下采集了多颗电池的退化数据,与公开数据集一起构了3个数据
随着激光技术与自动化水平的提高,激光自动焊接技术在工业制造业之中得到了广泛的应用。自动焊接过程中,由于工件的热变形、震动及示教轨迹的偏差,导致焊接质量与效率的下降。为了解决这一系列问题,本文设计了一套能够实现自动纠正焊缝轨迹的激光焊接同轴焊缝跟踪系统。该系统包括了同轴视觉传感器、图像处理模块、运动控制纠偏模块,软件部分是在激光焊接机原有控制软件基础上进行的二次开发,其整体执行流程如下:在激光焊接机
医疗领域的数据日益增长,知识图谱能够将零碎的数据连接起来,利用已有的数据去挖掘有价值的潜在的关系,从而实现医学知识的整合。在医疗领域中,慢性静脉疾病的诊疗标准复杂,医学知识专业性强,导致医生和患者掌握的医疗信息不对称,因此如何利用知识图谱降低医生和患者之间的沟通成本,成为医疗领域迫切需要解决的问题。针对上述的问题,提出了面向医疗领域知识图谱的构建方法,并且基于该知识图谱实现了知识问答的应用。利用网