【摘 要】
:
为使训练模型能适用于分布不同的数据,学术界提出多种无监督深度域自适应算法。但大多数深度域自适应研究忽视了对抗鲁棒性问题,导致深度无监督域自适应模型容易遭到对抗样本的攻击,存在极大的安全隐患。因此研究深度域自适应模型的对抗鲁棒性极其重要。本文针对无监督域自适应模型的脆弱性和如何提升对抗鲁棒性进行重点研究,主要工作和贡献如下:1)为充分研究无监督域自适应模型在对抗样本上的脆弱性,提出了基于伪标签的对抗
论文部分内容阅读
为使训练模型能适用于分布不同的数据,学术界提出多种无监督深度域自适应算法。但大多数深度域自适应研究忽视了对抗鲁棒性问题,导致深度无监督域自适应模型容易遭到对抗样本的攻击,存在极大的安全隐患。因此研究深度域自适应模型的对抗鲁棒性极其重要。本文针对无监督域自适应模型的脆弱性和如何提升对抗鲁棒性进行重点研究,主要工作和贡献如下:1)为充分研究无监督域自适应模型在对抗样本上的脆弱性,提出了基于伪标签的对抗攻击方法和基于迁移学习的对抗训练方法。首先,由于无监督域自适应场景下目标域样本没有标签信息,提出了基于伪标签的对抗攻击方法,使用伪标签替代真实标签以计算目标域分类损失的梯度,并通过多次迭代在样本上叠加小步梯度值来制造攻击样本。其次,提出了基于迁移学习的对抗性训练方法,使用无监督域自适应方法对源域和目标域的对抗样本进行训练,将源域的对抗鲁棒性迁移到目标域,实现无标注目标域鲁棒性的提升。最后,在上述方法的基础上,采用多种对抗策略进行攻击和防御,分析无监督域自适应模型在对抗样本上的脆弱性。2)提出了无监督域自适应对抗性训练框架。在对抗性训练过程中,直接约束干净样本和对抗样本之间的输出一致性能够提升鲁棒性,但是会影响域自适应模型在干净样本上的训练,导致干净样本的分类准确率下降。本文从理论和算法两方面展开研究:理论分析方面,利用理想的目标域分类器重新定义泛化误差上界,能够缓解输出一致性约束误差和目标域分类误差之间的相互牵制,防止分类误差增加。算法方面,首先,提出了基于蒸馏的无监督域自适应对抗性训练框架,以实现域自适应训练和对抗性训练的分离。具体地,预训练域自适应模型,然后将预训练的模型作为教师模型进行对抗性训练,使学生模型的对抗样本和干净样本的输出具有一致性,从而在保证模型对干净样本的分类准确率的同时,可进一步提升模型的对抗鲁棒性。其次,提出了在线特征降噪对抗性训练框架,以消除预训练模型指导能力的限制。具体而言,通过域自适应训练和对抗性训练的迭代来分离两种训练过程并动态更新教师模型,保证模型在干净样本上的分类准确率。在此基础上增加特征去噪损失,使域自适应模型能够更容易实现干净样本和对抗样本的分类一致性,进一步提升模型的对抗鲁棒性。
其他文献
随着工农业不断发展,我国河湖水体黑臭及富营养化现象仍比较普遍,每年因环保疏浚的底泥产量将不断增加。底泥作为一种内源污染治理的产物,虽然含有污染物质,但其仍有利用的价值。实现底泥的资源化利用,将是未来处置底泥的主导手段。底泥含水率大,对其堆存、转运及后续处理处置都产生很大影响,因此,对底泥进行脱水是底泥后续处理的必要前提,也是对其进行无害化处理、实现资源化的重要保障。目前利用絮凝剂对疏浚底泥进行脱水
弗雷德里克·詹姆逊从晚期资本主义文化批判与建构角度构筑了他的文化全球化策略。在坚持辩证的、总体的、历史的文化视域中,詹姆逊重点聚焦文化的全球化困境批判,为应对晚期资本主义文化危机寻找出路。伴随着左翼政治运动的开展,文化工业的发展以及文化批判的深化,晚期资本主义与后现代主义的全球化思潮有了新的发展。在詹姆逊看来,晚期资本主义存在多重的矛盾、潜在的危机、社会的同化与个人的异化等问题。为了揭露资本主义文
以碳化硅(Silicon Carbide,SiC)金属氧化物半导体场效应晶体管(Metal Oxide Semiconductor Field Effect Transistor,MOSFET)器件为代表的第三代功率半导体,凭借其开关速度快、耐压水平高等特点为提高永磁同步电机(Permanent Magnet Synchronous Motor,PMSM)驱动系统的效率和功率密度带来了新的机遇。然
由于微地形小气候的影响,途经山区的110 kV输电线路在冬季时导线和架空地线极易出现严重的覆冰情况,架空地线严重覆冰将使得地线的弧垂增大,引起相导线对地线的放电,也可能使地线断裂发生断线事故。目前针对架空地线的覆冰还没有有效的融冰措施,考虑取消架空地线是一个可行的减少覆冰事故的措施。去地线带来的雷击问题将会影响线路的正常运行,因此在线路中加装具有防雷功能的复合避雷器组合绝缘子,以此实现对去地线线路
硅磷酸钙支架是一种人工合成的无机非金属材料,是治疗骨缺损最重要的植入物之一,其生物和物理上与天然骨的矿物部分相似,通常被用作骨替代品,具有促成骨分化的能力。然而,在支架内精确控制干细胞的增殖和分化仍然具有挑战性。在本论文中,我们设计了一种能够招募内源性干细胞、刺激其成骨分化并实现良好骨修复功能的复合支架。首先,利用溶胶-凝胶法制备硅磷酸钙粉末,再通过泡沫浸渍方法得到多孔硅磷酸钙支架。最后将硅磷酸钙
本文开发出基于大气压等离子体射流(Atmospheric Pressure Plasma Jet,APPJ)、以环境空气为工作气体且能够通过温度较高的气流实现难挥发物质热解吸的离子源,以应对等离子体离子源在处理非挥发性固体样品时通常需要使用气瓶与加热器等辅助设备,使得设备更为复杂且便携性降低的问题。为了使离子源发挥出良好的解吸与电离效果,需要对其离子化过程进行分析。然而,以大气压空气为放电气体的等
海上独立电力系统是海洋资源开发与利用的关键环节,以海岛独立电网和海上油田电网为代表的海上独立电网是我国海洋资源开发与岛礁可持续发展的重要保障。海上独立电网中感应电动机的投切及海上移动电源的接入,是影响海上独立电网稳定运行的关键因素。基于此,本文开展了海上独立电网中电动机负荷起动能力及暂态安全评估研究。提出感应电动机负荷起动能力评估指标及多感应电动机负荷起动策略;建立了海上移动电源接入海上独立电网的
于2017年至2018年对广东丹霞山国家级自然保护区的翼手目动物进行调查,主要采用日栖息地与夜栖息地、捕食区网捕等调查方法,共调查到翼手目5科13属23种,其中蝙蝠科(Vespertilionidae)9属15种,菊头蝠科(Rhinolophidae)1属4种,蹄蝠科(Hipposideridae)1属2种,假吸血蝠科(Megadermatidae)1属1种,犬吻蝠科(Molossidae)1属1
旱喷是城市休闲区域内常见的小型水体景观,具有较强的观赏性和人群互动性。夏季旱喷水景能改善局地的热环境,对人的身心健康有益。然而随着全球气候逐年攀升,夏季城市中的极端天气数量逐渐增加,过热的室外气候极大地降低了人体室外热舒适,也给室外旱喷场地附近的亲水活动带来了巨大挑战。重庆是国内著名的“火炉”城市之一,夏季气候高温湿润,城市室外热环境问题严峻。在重庆城区夏季现有气候背景下,发现城区内旱喷的热环境现