基于深度神经网络的对抗训练研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:echo1108
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着硬件计算能力的突飞猛进和人工智能成为热门话题,深度神经网络(DNN)作为人工智能的重要工具,已经渗透到各行各业当中。但最近的研究表明DNN容易受到恶意攻击,这种攻击可以集通过在图像或者视频中加入精心设计的扰动来大幅度影响DNN的预测,使得DNN做出错误的判断。而对于这种加入扰动后的数据,我们称其为对抗样本。在对抗样本的研究领域中,主流研究可以分为两类:对抗攻击和对抗防御。对抗攻击研究的是通过攻击目标模型从而产生高质量的对抗样本,而对抗防御研究的是如何有效的应对对抗样本的攻击从而使得模型具有更高的鲁棒性。对抗攻击和对抗防御就像是矛与盾,相辅相成。当前研究中,对抗防御方法可以大致分为梯度信息的掩盖和干扰、对抗训练、对抗检测以及输入变换的方法,而其中对抗训练时最简单也是最有效的方法。因此本文针对对抗训练做了如下工作:首先针对对抗训练收敛不充分甚至不能收敛的问题,本文提出了一种基于自步学习的对抗训练方法。该方法通过模仿人类学习由易到难的过程,通过先学习一些简单的数据然后再过度到困难的数据,从而能够收敛到一个更好的模型。实验证明,在对抗训练中加入自步学习后,模型不仅最终能够收敛并且拥有更高的鲁棒性。不仅如此,本文还探究了不同的采样方法、不同的初始采样比例以及不同的预训练模型对模型性能的影响。其次是本文通过分析当前主流的对抗样本生成算法,发现大部分都是通过在干净样本中加入微小的扰动生成对抗样本,因此在特征空间中,对抗样本都十分靠近模型的决策面。为解决该问题,本文提出了基于监督对比学习的对抗训练方法。该方法引入监督对比学习,在特征空间中聚集同类样本同时拉远异类样本,从而使得样本能够远离模型的决策面,从而提高模型鲁棒性。本文通过在不同数据集以及神经网络上进行对比实验以及可视化模型的损失函数,证明了该方法的有效性。
其他文献
随着能源消耗的不断增加,节能已经成为了一个全球性的问题。在这种情况下,智能照明设计成为了一种非常重要的节能措施。本文通过对智能照明设计的研究,探讨了节能措施在智能照明设计中的应用。首先,本文介绍了智能照明设计的基本概念和原理。然后,分析了智能照明设计中的节能措施,包括光感应控制、时间控制、人体感应控制、光线调节控制等。最后,通过实例分析了智能照明设计中的节能措施的应用效果,并提出了一些改进建议。
期刊
神经调控技术已广泛应用于精神障碍性疾病、脑功能性疾病、成瘾症以及神经系统受损后的功能恢复研究及治疗。在许多在体和离体动物模型甚至人体大脑中,低强度聚焦超声是唯一可以高时空分辨率到达大脑深处的非侵入性神经调控技术,在神经系统基础研究和临床应用中具有非常大的潜力。目前开展的多项超声神经调控研究已经证明了其有效地调控大脑神经活动的能力,但是由于颅骨会造成超声信号的衰减和相位畸变,因此超声信号在经过颅骨之
学位
2020年初爆发新冠肺炎疫情暴发以来,突发公共卫生事件的处置得到了越来越多的关注。X市某应急医疗机构作为应对本次疫情的专门机构,其运行情况得到了社会各界的关心。疫情发生初期某医疗机构收到了大量社会捐赠,但在捐赠工作过程中,暴露出了各种各样的问题。而在突发公共卫生事件背景下,快速、准确地排查与定位具体问题并予以有效解决至关重要。本文首先以X市某医疗机构作为研究对象,采用案例分析法和BP神经网络方法对
学位
报纸
抑郁症(Major Depressive Disorder,MDD)是一种常见的精神疾病,它的典型症状是持续性的情绪低落、快感减退等。电休克疗法(Electroconvulsive Therapy,ECT)是治疗耐药性/难治愈性MDD最有效的手段之一。当前研究已经发现MDD患者脑功能网络和脑功能时变动态网络出现异常。然而,MDD患者脑动态网络的传递特征以及ECT对脑网络动态特性的改变仍然是不清楚的
学位
中国共产主义青年团是广大青年在实践中学习中国特色社会主义和共产主义的学校,是先进青年的群团组织,是中国共产党的助手和中国共产党的后备军。其在政治上接受中国共产党的领导,是党用来团结和教育广大青年群体的群团组织,也为党联系群众发挥了桥梁和纽带的作用。但与此同时,基层团组织边缘化的现象已经十分的显著,有许多亟待解决的问题存在,且群团改革纵深推进特别要求基层团组织建设进行改革,让改革看得到、摸得着。故本
学位
社会治理的重要基础是基层治理,2015年,“四个平台”建设被浙江省提上日程,以解决基层治理过程中出现的条块分割、县乡断层等难题。作为基层治理体系的创新探索,“四个平台”以县乡统筹为理念,通过加强顶层设计,整合资源力量,实现治理体系的功能集成和县乡协同,分类整合镇(街道)所涉及的服务事务和日常管理内容,建成四个功能性工作平台:即便民服务、综合执法、市场监管和综治工作。作为基层治理体系的数字化探索,基
学位
期刊
随着新冠疫情给全世界经济发展带来的影响,尤其是对海外金融市场产生巨大冲击,各种黑天鹅层出不穷。在这个高度不确定时代,一个能实现降低风险的同时攫取资产上涨长期回报的投资策略显得难能可贵。在资产的选择上,单纯持有一篮子资产看起来具有一定的风险防御能力,但危机来临时表现不佳,例如08年金融危机,系统性风险迅速上升,各类资产组合收益普遍出现大幅度回撤。因此,从控制尾部风险、降低回撤幅度的角度,一个回撤保护
学位
游戏化是在以游戏为非核心服务的场景中,通过运用游戏元素来提供游戏体验从而增强核心服务的过程。游戏化设计被应用在许多领域,尤其在医疗、教育领域的相关研究,发现游戏化设计能够达到积极的效果。游戏化也被应用于营销领域,在营销领域游戏化设计被用来作为激励用户行为的手段。营销领域关于游戏化的研究,发现优秀的游戏化设计可以增强用户参与、增加用户粘性、保持品牌忠诚度和提升品牌好感度。目前互联网产品都尝试加入游戏
学位