【摘 要】
:
漏洞是危害计算机系统安全的主要因素之一,程序漏洞的自动检测具有非常重要的研究意义,也是一个非常具有挑战的研究问题。通常,漏洞检测需要分析不完整的程序(Partial Program),而传统基于规则的静态漏洞检测方法和工具在分析不完整程序上具有较高的漏报率和误报率。机器学习(特别是深度学习)为不完整程序漏洞检测提供了新的思路,但已有方法在真实程序上的效果仍然有待验证。我们提出了基于图神经网络的不完
论文部分内容阅读
漏洞是危害计算机系统安全的主要因素之一,程序漏洞的自动检测具有非常重要的研究意义,也是一个非常具有挑战的研究问题。通常,漏洞检测需要分析不完整的程序(Partial Program),而传统基于规则的静态漏洞检测方法和工具在分析不完整程序上具有较高的漏报率和误报率。机器学习(特别是深度学习)为不完整程序漏洞检测提供了新的思路,但已有方法在真实程序上的效果仍然有待验证。我们提出了基于图神经网络的不完整程序漏洞预测框架,通过提取不完整程序的抽象语法树、控制流图等图结构信息,使用已有图神经网络方法训练漏洞预测模型,来预测不完整程序中是否存在漏洞。在此框架下,我们对比了传统的基于规则的漏洞检测工具以及目前结合机器学习的漏洞检测方法,通过在真实程序上的大规模实验表明,基于图神经网络的方法能有效提高检测的精确率(76%,相对提升50%以上)和召回率(72%,相对提升78%以上)。但是深度学习系统目前尚缺乏合理的可解释性,因而对上述框架的可靠性提出了挑战,而鲁棒性(Robustness)是衡量深度学习模型可靠性的关键属性。鲁棒性验证是提高深度学习模型鲁棒性的有效手段,但是已有鲁棒性验证工作代价高昂且难以扩展。通过对深度神经网络的前向传播原理进行分析,我们得到如下观察:深度神经网络的不同输入周围存在反例的可能性是不同的,并且对于最大和第二大输出值之间具有更小差异的输入更可能是网络的脆弱输入,其周围更容易存在反例。基于此观察,我们提出了一种基于脆弱输入的深度神经网络鲁棒性验证加速方法,通过优先选择更脆弱的输入来做鲁棒性验证,以更早在验证过程中找到反例。我们将方法应用于两个深度神经网络验证工具和四种深度神经网络攻击方法,并在ACAS-XU和MNIST两个测试集上开展实验,测试结果表明,我们的方法在深度神经网络验证时能将发现对抗样本的概率提升至90%以上,在深度神经网络攻击时能将攻击成功率提升约3.3倍。
其他文献
在未来信息化战争中,卫星拒止条件下,现有装备无法满足在复杂环境中实现高精度导航定向的需求。与此同时,无人系统对独立于卫星导航的全自主、高精度、长航时的导航需求也愈加迫切。自然界部分生物可以从自然界的偏振光、地磁场等环境中提取自身运动的航向、姿态等信息用于导航。这种本领具有全自主、抗干扰、测量误差不随时间累积等特点,可以有效改善当前导航系统中定向误差累积,环境适应性不强等问题。因此,研究偏振光地磁复
近年来,无人机由于具有环境要求低、操作简单不易出错、灵活可靠成本低等特点,在军事领域和民用领域都获得了广泛应用。但随着任务环境越来越复杂、任务要求越来越高,单个无人机的有限容量已经不能够满足复杂的任务需求,利用多无人机协同执行任务成为了重要发展趋势。通过多无人机协同航迹规划可以实现对无人机群的整体控制,从而让航迹生成更加合理、飞行过程更加安全、任务完成更加高效。多无人机的协同航迹规划问题既要考虑防
认知雷达作为智能化雷达的初级阶段的产物,在军用、民用领域有着十分重要的应用。自适应波形设计技术是认知雷达的关键技术之一,是认知雷达智能性的集中体现。自认知雷达的概念提出以来,自适应波形设计技术就受到了相关领域学者们的广泛关注。本文对基于概率密度函数间欧式距离测度的自适应波形设计问题展开研究。第一章首先梳理了认知雷达的发展过程和研究现状,对现有的认知雷达架构进行统一;并且归纳了当前认知雷达自适应波形
聚类算法是机器学习、数据挖掘领域重要的研究内容,它能够自动地从海量无标签的数据中提取信息使得相似的数据被聚在一起而不相似的被分离开来。最近几年来,具有多视图特征和缺失特征的聚类算法研究越来越得到学术界的关注,逐渐成为研究的热点问题。现有的多视图聚类方法通过相似度或者特征融合的方法在最优的相似度上做聚类,但是往往优化步骤复杂、算法复杂度较高。同时现有的缺失聚类算法将缺失值填充和聚类过程分割开来,往往
湿度是表示湿空气中水汽含量多少的物理量,湿度测量是地面及高空气象观测的重要内容之一。湿度测量的方法和仪器较多,基于图像识别法的显微成像式露点型湿度传感器能准确测量湿度,本文主要从以下三个方面对露点型湿度传感器进行性能优化研究:从测量性能研究上出发,除了开尔文和拉乌尔效应外,还分析了其他影响露点型湿度传感器测量性能的因素,包括露点型湿度传感器使用过程的把控和镜面凝结与消散过程时机的判断。从镜面凝结状
计算机、手机等智能设备在给人们带来便利的同时,也带来很多安全问题。传统的观点认为物理隔离环境下的系统相对安全,但随着技术的发展,这种防护方式也面临着新的威胁。作为信息隐藏技术的重要部分,音频隐写技术近几年发展迅速,同时声学隐蔽通道是突破物理隔离的一种重要方式,因此研究物理隔离环境下基于音频的隐蔽通信方法具有重要的意义。本文以物理隔离环境为背景,以音频隐写为主要研究对象,从隐蔽通信的实际应用角度出发
端点拥塞是高性能计算(HPC)互连网络的瓶颈,并严重影响系统性能,尤其是对延迟敏感的应用程序来说。对于持续时间远远大于网络往返时间(RTT)的长消息(或流),网络可以通过主动或被动的拥塞控制机制将每个源的注入速率动态控制为适当的水平,从而有效地减轻端点拥塞。但是,许多HPC应用程序产生混合流量,即短消息和长消息的混合,并且由短消息在数量上占主导,但长消息的总量很大。要调度由这些短消息引起的快速变化
教学质量评价工作是教育评估的一项重要工作。本论文针对目前教学质量评价缺乏统一全面的评价方案的现状,在全面分析教学活动各要素的基础上,构建了一种多视角复合型教学质量评价体系,提出了基于多种现代评价方法的教学质量评价方案,详细设计了各个环节的评价指标体系和评价方法,并在Excel中实现了各个评价环节的计算,制作了各个评价环节的评价计算表,验证了本文提出的评价方案的合理性和可行性,并开发了基于Web的学
近年来,随着生活水平的提高和交通的快速发展,世界人口的指数增长和随之而来的城市化导致人群聚集得更加频繁。在这种情况下,人群密度分析的问题对于在人群监视和场景理解等拥挤场景中建立更高水平的认知能力至关重要,在公共安全领域意义重大。人群密度分析旨在对拥挤场景中的人数进行分析,计算总人数和密度估计,其中密度估计旨在将输入的人群图像映射到其对应的人群密度图。但像其他任何计算机视觉问题一样,人群密度分析也面
多智能体编队控制是指多个智能体在向目标机动的过程中,形成并保持某种特定构型,同时能够躲避障碍以适应环境约束的控制技术,在工业、军事、航天等众多领域有着重要的应用价值。本文以此为研究背景,开展了相对位置约束型编队机动控制方法设计、相对方位约束型编队机动控制方法设计、智能体之间的碰撞规避以及编队控制建模与仿真分析等问题的研究,取得的主要成果如下:相对位置约束型编队机动控制方法设计。假设各跟随智能体能够