【摘 要】
:
近年来,以深度学习为代表的人工智能技术取得了重大的突破,并已经融入到人们日常生活的各个领域。然而,深度学习技术飞速发展的同时,也极易受到来自对抗样本的安全威胁。攻击者可以利用相关对抗样本生成算法在干净样本中添加细微的扰动,将干净样本转化为对抗样本,从而颠覆模型的原定输出。与此同时,随着对抗样本攻击技术的发展,越来越多的对抗样本生成算法层出不穷,对抗攻击方式也在不断更新,给对抗攻击的防御带来了巨大的
论文部分内容阅读
近年来,以深度学习为代表的人工智能技术取得了重大的突破,并已经融入到人们日常生活的各个领域。然而,深度学习技术飞速发展的同时,也极易受到来自对抗样本的安全威胁。攻击者可以利用相关对抗样本生成算法在干净样本中添加细微的扰动,将干净样本转化为对抗样本,从而颠覆模型的原定输出。与此同时,随着对抗样本攻击技术的发展,越来越多的对抗样本生成算法层出不穷,对抗攻击方式也在不断更新,给对抗攻击的防御带来了巨大的挑战。因此,针对以对抗样本为核心的对抗攻击防御技术展开深入研究具有非常重要的现实意义。鉴于对抗样本带来的安全问题,本文从图像预处理角度着手,利用图像重构和图像去噪技术消减对抗样本中的特定扰动,削弱对抗样本对于神经网络模型分类结果的影响。本文主要工作如下:1.提出了一种基于非负矩阵分解算法的对抗样本防御方法。利用非负矩阵分解算法的降维特性重构对抗样本,去除对抗样本中的冗余信息,从而消减部分对抗扰动。同时,分析了非负矩阵分解过程中各参数对扰动消减效果的敏感性以及干净样本重构后对模型分类结果的影响,确保在不影响模型分类结果的前提下,达到最佳扰动消减效果。实验结果表明,该防御方法在图像识别场景中,对于不同模型和不同攻击算法均能有效地提升模型的分类准确率。2.提出了一种级联融合的对抗样本防御方法。在基于非负矩阵分解算法的对抗样本防御方法的基础上,融合其他图像预处理技术的优势,构建系统的图像预处理防御体系。首先利用小波变换和小波逆变换消减对抗样本中的高频扰动,再引入非负矩阵分解算法重构对抗样本,最后再利用双边滤波消减对抗样本中的低频扰动。实验结果表明,该防御方法摒弃了单一图像预处理方法的局限性,能有效地消减对抗样本中的对抗扰动,从而更大限度的提升模型的分类准确率。
其他文献
随着许多具有带宽消耗的新兴业务的快速发展以及其对现有通信速率更高的要求,可见光通信技术成为6G不可或缺的一部分。利用LED光作为载体,400-800THz超高频段进行传输的可见光通信(Visible Light Communication,VLC)技术有望解决频谱稀缺、高速传输的问题,满足新兴业务对高速传输的要求。然而,可见光通信系统中的非线性损伤严重制约了VLC系统传输速率的进一步提高。通过软件
随着云计算的普及,越来越多的用户将敏感信息存储到云服务器中,为保证云平台数据的机密性和可检索性,研究人员提出了关键字搜索的对称加密算法。现有的可搜索加密方案大多为支持单关键词/多关键词的精确搜索方案,而在实际应用中,容易出现拼写错误等问题,导致精确搜索效率和可用性降低。为进一步提高可搜索加密方案的容错性,本文从对称加密和公钥加密两个方向研究了模糊可搜索加密技术,具体工作如下:首先,针对现有对称可搜
分析了工程建设标准实施评估的基本现状,结合重庆市对大批量现行工程建设地方标准开展的实施评估工作,探讨了工程建设标准实施评估不同方法的优缺点,供行业人士参考。
随着可用遥感图像数据的增加,遥感图像在农业监测、领土安全和其它领域发挥着越来越重要的作用。现有单一卫星传感器无法提供同时满足高空间分辨率和高时间分辨率的数据,因此国内外研究者提出了多种时空融合方法来缓解这个问题,通过融合两个或者多个传感器的数据,得到同时具有高空间分辨率和高时间分辨率的图像。随着图形处理单元硬件的发展和研究的深入,深度学习在许多领域得到广泛应用。在时空融合领域中也提出了一些基于深度
科学认定四荒地经营权法律属性与“再流转”的规范含义是解释四荒地经营权再流转规则的基础。基于历史解释、物债界分的认定标准和承包地“三权分置”改革目标的考量,四荒地经营权承继于原四荒地土地承包经营权,应定性为用益物权。“再流转”的规范含义应指土地经营权设立后的处分行为,由此可认定《农村土地承包法》第五十三条构成四荒地经营权再流转规则。《农村土地承包法》第五十三条并非效力性强制性规定,四荒地经营权再流转
随着电子商务和流媒体平台的兴起,网络中存储着越来越多的数据和服务,信息过载问题也随之出现,推荐系统是解决此类问题的有效技术之一。个性化推荐不仅能帮助用户快速地过滤信息,还能为商家带来巨大利润,因此推荐系统受到了广泛的研究与应用。协同过滤是推荐系统中使用最为广泛的推荐算法,此类算法主要使用用户与物品的交互数据来挖掘用户的偏好从而进行推荐,交互数据可分为显式反馈和隐式反馈,现有的协同过滤算法普遍采用单
随着企业数字化转型,信息物理系统(Cyber-Physical Systems,CPS)在智能机器人、智慧工厂、智能交通、工业监测等多个行业得到广泛应用。为适应现代化分布式系统发展,许多CPS基于微服务架构部署。随着越来越多服务组件接入CPS系统,导致CPS中服务更加复杂、海量、异质,且存在的诸多不确定性,同时,由于存在大量需要动态生成的微服务,必然会导致服务质量波动剧烈,且影响服务组合效率;此外
近年来,随着互联网和互联网金融的快速发展,如何及时有效地对互联网金融企业或产品进行监管,对保障投资人权益、防范金融风险具有重要意义。当前的互联网金融舆情监管主要依靠的是基于人力的各类专项整治监管手段,然而互联网金融涉及业务广,经营方式复杂,传统的监管方式很难及时发现金融舆情并做出有效应对。互联网金融的持续发展在互联网上也催生了一系列关于金融企业或产品的新闻、评论等文本数据,这些文本数据有时效性高、
随着医学影像技术的不断提高,医学成像在临床诊断和治疗中已经成为必不可少的一部分。然而单模态的医学图像难以充分、准确地反映病理组织信息。医学图像融合是指通过各种算法将两幅或两幅以上多模态医学图像整合到一幅融合图像上,融合图像集成了输入源图像的特征信息,能够为临床诊断提供精准的判断依据。目前已经有大量的医学图像融合方法被提出,但是现有的融合方法普遍存在细节、亮度丢失以及颜色失真等问题,医疗诊断需要更多