【摘 要】
：
以卷积神经网络为代表的深度学习相关方法蓬勃发展,在解决图像、语音等感知类问题上已取得了重大突破。深度学习相关方法发展至今,前后提出了AlexNet、VGG、GoogLeNet、ResNet和DenseNet等目前主流的深度学习模型,模型朝着网络层数更深、构建技巧更多的方向发展。这些研究成果真正推动了深度学习的发展,加速了深度学习相关研究成果的落地应用。然而事物的发展往往具有两面性,随着深度学习相关
论文部分内容阅读
以卷积神经网络为代表的深度学习相关方法蓬勃发展,在解决图像、语音等感知类问题上已取得了重大突破。深度学习相关方法发展至今,前后提出了AlexNet、VGG、GoogLeNet、ResNet和DenseNet等目前主流的深度学习模型,模型朝着网络层数更深、构建技巧更多的方向发展。这些研究成果真正推动了深度学习的发展,加速了深度学习相关研究成果的落地应用。然而事物的发展往往具有两面性,随着深度学习相关技术的普遍应用,其暴露出的安全风险日益凸显。近年来的一些研究成果正在表明深度学习方法在技术层面存在较大安全隐患,特别是模型中存在的对抗样本攻击问题对深度学习相关技术的应用形成了严峻的挑战,使得围绕对抗样本生成的对抗攻击等相关方向的研究成为目前深度学习安全领域的研究热点。对抗攻击是一种发生在深度学习模型推理阶段的攻击行为,以图像分类任务为例,通过在输入样本上添加恶意的扰动噪声后可使得模型对当前输入样本以高置信度输出错误的推理结果。现有的相关研究事实已经表明:大部分部署在生产生活中关键领域的深度学习系统均会遭受不同程度的对抗样本攻击,诸如自动驾驶系统、人脸识别系统和智能语音系统等常见应用。为了及时评估对抗攻击行为给深度学习模型带来的安全风险,促进工业界和学术界构建鲁棒、安全的深度学习系统。本文从图像分类任务角度入手,详细分析研究了近年来关于对抗攻击方法中的一些典型成果,并围绕对抗攻击技术原理进行了深入研究。针对生成通用对抗扰动的攻击方法研究现状,分别提出了生成高质量通用对抗扰动的UAP-AN攻击方法和生成高迁移攻击性通用对抗扰动的UAP-MAN攻击方法。在UAP-AN攻击方法中,构建了端到端的攻击网络将随机扰动转换为通用对抗扰动。为了生成高质量通用对抗扰动,设计了包含对抗损失项和内容损失项的优化目标函数,并首次使用图像结构性相似系数来度量对抗样本与真实样本之间的视觉感知差。UAP-MAN方法在UAP-AN攻击方法的基础上进行了优化,在攻击网络的训练阶段联合了多目标模型的对抗损失函数,优化攻击网络中的生成器,使生成的通用对抗扰动更具跨模型的迁移攻击能力。经过实验验证,UAP-AN攻击方法生成的通用对抗扰动在攻击成功率和生成的对抗样本质量上较同类方法均有提升;同时UAP-MAN攻击方法生成的通用对抗扰动较UAP-AN攻击方法更具跨模型的迁移攻击能力。
其他文献
物质使用障碍（substance use disorder,SUD）是国内外社会发展所面临的重要公共卫生问题,是多因素病因导致的慢性复发性脑疾病。SUD具有“难戒断、易复吸”等特点,目前国内外均采用了各种措施遏制SUD,但其全球负担仍在不断加重,究其原因,尽管SUD患者治疗后努力摆脱对物质使用的肉体依赖,但长期物质使用导致的脑结构、脑功能的损伤仍未恢复。因此,迫切需要进行SUD病理学机制的探索,以
【研究背景】食管癌是常见的恶性肿瘤之一,在我国,鳞状细胞癌是食管癌最主要的病理类型,其主要的转移方式为淋巴结转移。常规的术前影像学检查方法包括超声及超声内镜,消化道造影,CT等,尽管在诊断食管癌方面有较高的灵敏度及特异性,但依靠形态学及大小在诊断淋巴结转移方面仍有难点。因此,如何更加有效地在术前诊断淋巴结转移对临床治疗决策有重大意义。PET/CT作为一种新兴的影像检查方法,已在肿瘤领域广泛应用,P
目的:利用扩散光谱成像（DSI）定量参数及形态学方法研究三叉神经痛（TN）患者三叉神经白质纤维束及皮质下结构体积变化,评价不同参数变化以及其与临床的相关性。方法:为了实现高分辨率纤维追踪和基于体素的形态学分析,本研究纳入60名TN患者和35名健康对照者（HCs）,使用T1WI常规磁共振成像（MRI）和DSI进行扫描。采用DSI-Studio软件对DSI数据进行处理,在三叉神经脑池段内手动放置感兴趣
研究目的:利用红细胞参数建立数学模型筛查与诊断地中海贫血（thalassemia trait,TT）,在小细胞低色素性贫血中鉴别α-TT、β-TT与缺铁性贫血（iron deficiency anemia,IDA）。方法:回顾性收集2019年01月至2020年12月北京大学深圳医院地贫筛查人群的八项红细胞参数:RBC、HGB、HCT、MCV、MCH、MCHC、RDW-SD、RDW-CV;根据地贫基
目的:探讨剪切波弹性成像（SWE,shearwaveelastography）和超微血管成像（SMI,supermicrovascularimaging）结合常规超声BI-RADS分类标准对鉴别乳腺良恶性结节的诊断价值。方法:选取88例患者110个常规超声评估为BI-RADS3-5类乳腺结节进行分析,分别进行SWE和SMI检查,全部结节经病理证实为良性或恶性,SWE获得结节的各剪切波包括杨氏模量最
卷积神经网络在计算机视觉领域占据重要地位。为获得一个高性能的网络模型,许多研究致力于卷积神经网络的优化方法。从卷积神经网络的训练角度出发,模型的性能会受到训练中常见问题如梯度消失问题、梯度爆炸问题和鞍点问题的影响。从结构设计角度考虑,合理的卷积神经网络需要具备优秀的特征提取能力,而其能力的强弱很大程度上取决于网络中神经元之间的连接模式。从这两个角度入手,本文对一类面向卷积神经网络的训练与结构优化方
随着物联网智能终端设备的普及和通信技术的快速发展,工业物联网在智慧交通、智能电网、物流与供应链、石油和采矿等重点工业领域得到了广泛应用,已成为“工业4.0”和“智能制造”的代名词。但是,工业物联网在实现智能化的同时,也破坏了传统工业生产系统由物理环境隔离和技术专用性保障的“封闭安全性”。这也导致工业生产系统不仅要面临来自内部的安全威胁,还要面对来自外部的恶意攻击。因此,如何有效保障工业物联网的网络
前庭康复训练是一种基于运动训练的眩晕症治疗方法,其在临床应用表现极佳,然而由于医护人员人手不足等问题,它的推广进展并不顺利。随着计算机技术的发展,基于可穿戴设备的移动医疗成为了医疗领域的研究热点,其在监护、治疗、康复等领域都取得了极大的成功。基于以上背景,本文设计并实现了基于MARG可穿戴设备和Android应用程序的前庭康复训练系统,该系统具有便携性、家庭性等优点,可有效解决前庭康复训练目前存在
目的:1、利用臭氧替代常规造影剂行椎间盘造影,探讨臭氧椎间盘内造影在椎间盘源性腰痛诊疗中的意义。2、比较窦椎神经射频去神经支配联合盘内射频和单一椎间盘射频热凝术治疗椎间盘源性腰痛的临床结局,探究窦椎神经射频去神经支配联合盘内射频治疗椎间盘源性腰痛的可行性、安全性。方法:收集2018年7月至2019年7月连续收治的初步诊断为椎间盘源性腰痛并行椎间盘内臭氧造影的213名患者的病历资料,椎间盘造影阳性者