【摘 要】
:
面对人工智能引起的新一轮产业变革,安全、可信的智能系统是保障社会实际应用的重要基础。然而,理论研究与实际测试表明智能技术尚不成熟,构建安全可信的模型算法仍是研究领域中的难题。图深度学习模型,例如图卷积网络,因为在一些任务上的出色表现引起了研究人员的关注。然而,图深度学习模型易受对抗攻击产生的对抗样本影响,对抗样本严重影响了深度学习模型的实际性能。因此需要促使研究者设计一种先进的防御方法,以削弱潜在
论文部分内容阅读
面对人工智能引起的新一轮产业变革,安全、可信的智能系统是保障社会实际应用的重要基础。然而,理论研究与实际测试表明智能技术尚不成熟,构建安全可信的模型算法仍是研究领域中的难题。图深度学习模型,例如图卷积网络,因为在一些任务上的出色表现引起了研究人员的关注。然而,图深度学习模型易受对抗攻击产生的对抗样本影响,对抗样本严重影响了深度学习模型的实际性能。因此需要促使研究者设计一种先进的防御方法,以削弱潜在的对抗样本对模型鲁棒性的影响。为了解决以上问题,本文主要从以下两个方面进行探索研究:1.针对图节点分类模型性能容易受到对抗样本的负面影响,本文设计了一种基于图纯化的节点分类防御方法。针对在不同扰动环境下采集到的图数据进行分析,尝试寻找对抗样本在数据集中的内在特点。本文发现除了攻击者倾向在两个特征相似度极低的节点之间添加边以外,也善于去创造存在特征相似度极低的节点对所形成的路径。为了降低这些对抗样本对节点分类模型效果的破坏,该方法通过减弱具有这些特征的边在模型特征聚合时起到的作用来尽可能的恢复节点分类模型的性能以求能够达到防御效果。2.在得到了图纯化处理后的图数据之后图中仍残留部分对抗样本,为了在这种情况下进一步提升节点分类模型的性能,本文设计了一种结合图纯化与决策边界的节点分类防御方法。利用模型输出信息来近似计算不同类型节点在线性决策边界上的位置信息,之后通过引入自训练机制来提取图数据集中的信息,通过为大量无标签节点打上伪标签来扩充数据集中带标签节点的比例,进一步减弱对抗样本降低模型性能的能力,恢复模型原有的性能。本文提出的防御方法,使得图数据集中残存的对抗样本的负面作用进一步被削弱,从而进一步提升节点分类模型的分类性能。实验结果表明,本文设计的面向图数据节点分类模型的防御方法能够有效地保护节点分类模型在不同类型对抗样本下的节点分类性能。
其他文献
脑机接口(Brain Computer Interface,BCI)是一种通过神经活动识别人的意图并将电生理信号转换为设备控制命令的技术。基于脑电(Electroencephalography,EEG)的运动想象(Motor Imagery,MI)脑机接口在构建人脑与外部设备的通路中得到了广泛的应用。然而,由于EEG严重受到低信噪比和不可预测的模式变化的影响,基于MI的EEG信号的解码仍然是一项具
心脏磁共振成像(cardiac magnetic resonance,CMR)主要用于心脏功能评估和心血管疾病诊断。通过心脏磁共振图像评估临床参数,包括射血分数、心室容积、脉搏输出量和心肌质量,它们被认为是黄金标准。应用计算机辅助诊断来解决这一问题已成为近年来的热点。以往的研究提出了很多基于传统特征的方法,随着卷积神经网络的发展,心脏磁共振图像中器官自动分割方法相对于传统特征提取方法在速度和准确率
文本主题内容的提取在自然语言处理领域内是一个基础性的研究问题,它为人工智能的各种应用提供了相应基础。然而受传统挖掘技术的限制,智能化的准确提取文本内容还存在较大问题。特别是在过去的几年里,人们存储数据的能力不断提高,再加上互联网的日益普及,已经创建了大量的电子文本,这使得人工阅读甚至传统挖掘技术去适应这快速发展的信息社会已经显得不合时宜。因此研究一项能够快速且智能化提取文本内容的模型,有助于推动整
随着互联网商品交易日益频繁,商家希望能够从用户评论中了解用户的喜好,从而改进商品。传统情感分析的困境在于无法准确判断评论中用户对商品各个方面的情感偏好,而方面级情感分析这类细粒度的方法能够有效识别不同方面的情感,因此更能满足商家的需求。基于依存句法的方法能够捕获方面词与意见词之间的远距离信息,从而被广泛用于方面级情感分析任务,但该类方法仍然存在句法信息学习不足,以及句法信息学习与上下文信息学习分离
随着移动互联网的快速发展和应用,移动应用程序成为人们进行移动办公、社交活动以及网络购物的重要载体。通过流量识别移动设备上安装的应用程序是网络管理员和营销机构等获取信息的重要手段。识别移动应用流量可以为移动互联网流量的配置部署提供支持,改善基于业务或者应用的细粒度移动网络资源分配,增强移动网络和应用程序的安全性。由于移动应用程序的多样性以及加密协议的大量使用,传统流量识别技术不能很好地适用于移动端的
<正>2022年6月23日,深圳市第七届人民代表大会常务委员会第十次会议通过了《深圳经济特区智能网联汽车管理条例》,自2022年8月1日起施行。《条例》全面贯彻中央战略部署,在与国家法律、法规、规章相衔接的基础上,在国内首次对智能网联汽车的准入登记、上路行驶等事项作出具体规定,是国内首部关于智能网联汽车管理的法规。
随着互联网大数据的到来,人们时刻面临着网络信息过载的问题,加之网络新闻中充斥着大量的“标题党”现象。因此,越来越多的人对文本摘要生成感兴趣。文本摘要技术属于自然语言处理领域,是利用计算机对原文内容进行分析,将关键含义提炼出来,形成简短文本的技术。近年来,大量学者们在文本摘要技术上有所研究,使之有了很大的进步,但依然面临着诸多挑战。本文针对抽象文本摘要方法中存在信息丢失以及未登录词等问题,研究自动关
如今网络自媒体和电商平台逐渐成为大家生活中不可缺少的一部分,用户越来越倾向于在网络上留下自己的评论和看法,由于这些带有情感和观点的文字信息影响着舆论方向以及作为商家和卖家行动的参考,情感分析已经成为一个热门的方向。在单个评论中,经常会出现多个情感的表达,为了更准确的对文本进行分析,诞生了方面级情感分析。方面级情感分析能获得更有针对性更准确的情感表达,已经成为当下研究的热门课题。方面级情感分析的模型
对于事实类问题,问答系统比传统搜索引擎给出的答案更准确与简洁。与关系型数据库不同,知识图谱可以将数据按照逻辑网络的形式进行存储,并能以符合人类认知的方式来描述实体与实体之间语义关系。基于知识图谱的问答系统既有知识图谱的数据存储表示优势,又具备问答系统的优势,是目前关注的热点之一。目前基于知识图谱的问答系统虽然能有效地解决简单问题,但是仍然存在数据信息利用不完全以及语义理解不充分的问题,同时对多跳问
明湖是安徽省唯一项目入选水利部首批幸福河湖建设项目,项目以提升人民幸福感为目标,依托河长制,通过治理河湖和保护生态,打造美丽城市,为市民提供更好的居住生活环境。文章分析了明湖建设过程的具体做法、建设亮点及取得的初步成果,并对项目未来进行了展望。