【摘 要】
:
对于深度神经网络来说,有一个非常有趣的特性就是它们容易受到对抗样本的攻击——攻击者恶意生成的可以造成目标深度神经网络误分类的输入。为了防止对抗样本所带来的威胁,研究者提出了许多启发式防御方法,然而这些启发式防御方法很容易被更强的适应性攻击者攻破。为了结束攻击者与防御者之间漫长的军备竞赛,研究者又就验证模型鲁棒性的相关技术作出了很大的努力,确保对于给定的输入,保证邻近空间不存在任何对抗样本。然而,之
论文部分内容阅读
对于深度神经网络来说,有一个非常有趣的特性就是它们容易受到对抗样本的攻击——攻击者恶意生成的可以造成目标深度神经网络误分类的输入。为了防止对抗样本所带来的威胁,研究者提出了许多启发式防御方法,然而这些启发式防御方法很容易被更强的适应性攻击者攻破。为了结束攻击者与防御者之间漫长的军备竞赛,研究者又就验证模型鲁棒性的相关技术作出了很大的努力,确保对于给定的输入,保证邻近空间不存在任何对抗样本。然而,之前的研究工作集中在以输入样本为中心的对称的邻近空间(具体来说,以输入为中心的超矩形),而忽略了对抗扰动方向的固有的异质性(例如,输入更容易受到某个扰动方向的影响)。在本文中,首先提出一种启发式防御框架DeT,它可以1)防御常见攻击方法所生成的对抗样本;2)在较大对抗干扰下依然能将对抗样本正确分类。De T是一种基于迁移性的防御方法,而且据我们所知是第一种这样的尝试。我们的实验结果表明De T在黑盒攻击与灰盒攻击都能取得很好的防御效果。为了缩小对称鲁棒空间与真实鲁棒空间之间的差距,进一步,我们提出了非对称鲁棒性边界的概念,它考虑了扰动方向的异质性,并提出了一个称为变形虫1的框架。该框架可以验证给定的深度神经网络和输入的不对称鲁棒性边界。通过大量的实验,我们表明,与对称的鲁棒性验证方法相比,输入样本的非对称鲁棒性边界以更精确的方式描述了它的领近的鲁棒空间,使得我们可以将阿米巴的验证结果应用到一系列安全相关的任务中,包括(1)增强现有对抗攻击的性能,(2)解释的模型的预测,以及(3)探索对抗样本的可迁移性。在从对称鲁棒性界限(易于计算但不精确)到真实鲁棒性界限(不易于计算但精确)的范围内,不对称鲁棒性界限在计算效率和建模表达性之间取得了平衡,使其可以对模型的鲁棒性进行更加实际的衡量。
其他文献
我国目前正处在工业化加速发展阶段,处在生产安全事故的“易发期”,安全生产总体稳定、趋于好转的发展态势与依然严峻的现状并存。 洪洞遭遇三张“红牌” 2008年2月24日上午,在纷纷大雪中,山西省临汾市举行了洪洞“12·5”矿难公判大会。矿难的主要责任人王东海(公司实际投资人)、王宏亮(公司法人代表)、孔惠平(公司实际负责人)被判处无期徒刑,剥夺政治权利终身,并分别处罚500万元、1520
张东荪(1886—1973)字圣心,浙江杭州人,我国现代著名的资产阶级哲学家。他提出的“多元认识论”体系在哲学界广为人知,被视作“中国治西洋哲学者企图建立系统的最初尝试”。
摘要:随着国际竞技体操的发展和体操规则的不断深化,针对专业体操运动员的选材日益严苛,省队对基层运动员的选拔门槛也越来越高。多年来,我国业余体校的训练方法乏善可陈,缺少科学的训练方法和手段,造成了大量运动员资源的浪费和成材率的普遍低下。本文尝试对业余体校女子体操运动员的日常训练展开探讨,希望从中归纳和发现可以提高业余体操训练效率和成果的方法与手段,在丰富业余体操训练的多元化教学和提高运动员成材率方面
班集体不仅是学生赖以学习、生活和交往的主要环境,而且是学生个性得以全面发展的重要载体.它既是教育的结果,又是教育的主体,是一种巨大的教育力量.如何提高班级管理水平,搞
为了实现光伏电站发电数据的远程实时传输,设计了一种基于DataSocket技术,使用DataSocket连接前面板对象的方式并结合虚拟仪器技术,远程实时传输光伏电站发电数据系统,实现光
自从中国共产党第十五次全国代表大会将"依法治国,建设社会主义法治国家"作为党致力实现的目标提出以后,关于"法治"这一概念的理解就成为学界争论较多的问题之一,其中一种带
摘要:适当地参加体育训练,既有利于增强练习者的身体素质,同时也有利于培养练习者顽强的意志品质与良好的生活习惯。一直以来,国家都十分重视人们的体育锻炼,尤其是各个阶段的学生。大学生是国家、民族与社会发展的重要支柱力量,其身心健康状况至关重要。然而,当学生处于中小学阶段时,由于课业负担较重,同时还面临着中考与高考的压力,即使对体育活动有着十分浓厚的兴趣,也难以腾出更多的时间与精力用于参加体育锻炼。当到
一、要实践语文课的人文性,首先应运用教材对学生进行人文教育学习语文课不仅仅是让学生学会字、词、句、段、篇、语法修辞逻辑,还要让学生领悟文章的真情深理;要用美好的语
立法在法治建设中具有举足轻重的作用,而目前我国立法的实施效果并不理想.导致这种情况出现的原因便包括立法观念中存在的误区.对外国法制的盲目推崇、对习惯规则的轻视以及
随着市场经济的发展和知识经济时代的到来,人们的思想意识也在不断的更新变化,安于现状、墨守成规的僵化意识正在被时代所抛弃,勇于竞争、开拓进取的新观念越来越鲜明地成为