【摘 要】
:
近年来,伴随着对抗性机器学习的深入研究和探索,深度学习图像分类模型面临着不可忽视的安全问题:攻击者利用生成的对抗样本欺骗分类模型,导致模型给出错误的分类结果。这一问题目前已经严重威胁到众多领域的正常发展。安全评估作为一种安全防御手段,可以及时发现模型弱点,进而对模型做出优化,增强模型遭遇对抗攻击时的鲁棒性,因此安全评估可以从预防的角度缓解深度学习图像分类模型面临的安全问题。然而,面对快速发展的对抗
论文部分内容阅读
近年来,伴随着对抗性机器学习的深入研究和探索,深度学习图像分类模型面临着不可忽视的安全问题:攻击者利用生成的对抗样本欺骗分类模型,导致模型给出错误的分类结果。这一问题目前已经严重威胁到众多领域的正常发展。安全评估作为一种安全防御手段,可以及时发现模型弱点,进而对模型做出优化,增强模型遭遇对抗攻击时的鲁棒性,因此安全评估可以从预防的角度缓解深度学习图像分类模型面临的安全问题。然而,面对快速发展的对抗攻击算法,传统安全评估机制表现出不足,主要体现在安全评估指标体系不完善、安全评估内容仍停留在模型分类性能层面。针对深度学习图像分类模型遭遇对抗攻击时表现出脆弱性,以及传统评估机制缺少分类模型安全性评估等问题,本文在传统性能评估指标的基础上,做了如下工作:1.提出面向深度学习图像分类模型的新的安全评估指标体系。本文对深度学习图像分类模型的安全评估需求展开了系统研究,挖掘能够表征深度学习图像分类模型对抗防御能力的因素,在传统性能评估指标的基础上,新增了对抗防御能力评估指标,构建了更为全面的安全评估指标体系,在此基础上,根据不同指标的重要程度,利用层次分析法计算出指标权重,并通过了一致性检验。与传统安全评估机制相比,新的指标体系为所有指标设置了权重值,且将安全性作为评估重点,突破了以往由性能指标决定评估结果的局限,在此评估机制下既能提高模型安全性,又能保证模型的可用性。2.提出面向深度学习图像分类模型的安全评估方案并开展实例测试研究。本文在正确认识到当前安全评估方案存在不足的基础上,通过改进模糊综合评价方法,提出一种新的安全评估方案,该评估方案将定量与定性分析相结合,依托本文提出的指标体系分阶段对目标模型做出全面评估。实例测试实验表明,本文提出的安全评估方案能对模型的分类性能和对抗防御能力做出整体评估,给出模型安全等级并发现模型存在的安全问题,有利于对模型做出针对性的优化,同时评估过程简洁高效,具有较高的实用性。
其他文献
口臭一疾常使人“有口难言”,给患者的心理造成了一定的伤害。五脏六腑皆可致口臭,但主要责之于脾胃。陆为民教授在临证治疗口臭时,继承并灵活运用国医大师徐景藩升降之法,巧添芳香之品、风药等,绝口臭之源,在临证治疗口臭时每获良效。
随着脑科学与神经科学的发展和进步,能够在计算机和大脑之间建立物理上的直接联系的脑机接口(Brain Computer Interface,BCI)受到越来越多的人的关注。由于运动是人最基本的活动,运动意图的产生与识别在个体日常生活中更是无时无刻都在发生。解码脑电信号的运动意图,在医疗康复等方面可以发挥巨大作用。但是因为脑电信号本身空间分辨率低的特点,极大限制了对运动意图的分类精度。本文以基于脑电皮
近年来,人工智能逐渐渗透在人们的日常生活中,使用深度神经网络(Deep Neural Network,DNN)的分类技术也已经广泛应用于各个领域,比如计算机视觉、自动驾驶、自然语言处理等领域。但是,随着深度学习应用范围的不断扩大,人工智能安全问题也越来越突出。精心设计的对抗样本会使得深度神经网络模型做出不正确的判断,甚至导致模型失效。在图像分类任务中,对抗样本就是在原始输入图像中添加人眼不可见的噪
高动态范围图像因其宽广的动态范围,在遥感探测、医学检测等众多领域具有广泛的应用前景,从而倍受学者关注。但高动态范围图像的成像设备价格高昂,从而推动人们探索从低动态范围图像获取高动态范围图像的方法。这类方法分为基于单曝光图像和基于多曝光图像。单曝光图像所包含的场景信息十分有限的,其对高动态范围图像信息的有效恢复也十分有限。而多曝光图像中包含更多有效信息,更有利于高动态范围图像的获取。本文主要研究基于
随着车辆向智能化网联化发展的趋势,车辆暴露出的关键接口越来越多,车辆内部面临的通信安全威胁逐渐增大。攻击者通过访问物理接口或利用其他漏洞,进而利用总线控制器局域网络(Control Area Network,CAN)对车辆实施攻击。模糊测试技术在漏洞挖掘领域是一种常用的安全测试方法,它通过向目标协议网络中发送随机和不符合报文规范的数据,监测引发的异常状态并发现潜在的漏洞。然而目前对于车载CAN总线
目前,由于现代社会对智能电网经济调度和资源分配等优化问题的需求越来越迫切,多智能体系统的最优一致性控制逐渐成为了一个研究热点。传统的针对复杂系统一致性的相关工作主要关注系统实现一致的条件判据,而忽略了系统控制的最优化问题。在实际应用中,不仅要求系统达到一致,还需要优化控制成本,而目前对于最优一致问题的研究大多为具有固定拓扑的系统且采用基于双神经网络的传统强化学习方法。但由于环境变化等原因产生的系统
为分析盾构隧道施工期各因素对管片上浮错台的影响,基于盾构隧道施工期的受力模式拟定了隧道直径、围岩条件、覆土厚度、浆液凝固时间、浆液密度、盾构掘进速度及盾尾间隙等7个主要影响因素,分别建立了盾构隧道施工期上浮分析模型与管片错台量计算模型,分析了施工期各因素影响下盾构隧道上浮错台量的变化规律。进一步地,结合现场监测试验结果,验证了施工期管片上浮错台的现象与规律,得出主要结论如下:(1)地层刚度减弱、浆
近年来,三维人脸模型在虚拟现实、游戏、动画、医疗等领域应用日渐广泛,但是三维人脸模型的获取依赖于专业人员手工制作或使用专业设备进行采集,基于深度学习的三维人脸重建方法因此成为热门研究课题,但是目前为止重建精度仍不够高。表情驱动技术是人脸模型在诸多领域应用的基础,但表情驱动通常使用的Blendshape模型需要专业人员手工制作几十个表情基模型,过程较为耗时,不同的应用场景对表情驱动方案要求也有所不同
移动边缘计算作为一种新兴的计算范式,将计算资源下放至距离用户更近的边缘节点,可以为用户提供更便利的服务。但是由于用户的移动特性,用户在移动的过程中可能存在时延增加甚至服务中断等一系列问题。因此,研究有效的服务迁移策略可以提高服务质量和用户体验。本文主要从迁移决策与迁移路径两个方面展开研究,取得的研究成果如下:1.针对现有的服务迁移决策只考虑到用户在某一位置时是否进行服务迁移的问题,本文引入用户之前