基于栅栏函数构造的深度神经网络控制混成系统安全验证研究

来源 :南京大学 | 被引量 : 0次 | 上传用户:wulixx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度神经网络在许多复杂应用场景中证明了其替代人类智能进行决策的潜力。信息物理融合系统中大量嵌入了深度神经网络控制器进行智能控制。深度神经网络黑箱本质、神经元数量大和非线性的特征,使得对其行为进行理解和分析非常困难。特别的,如何确保深度神经网络控制的安全攸关系统满足必须的安全性质,成为迫切而又极具挑战的难题。基于混成系统为安全攸关信息物理系统建模,运用形式化验证技术分析验证系统的行为是否满足安全性质,是保障这类系统安全性最有效的手段。针对深度神经网络控制的混成系统,已有的工作通过计算可达集和基于数据驱动的方法构造栅栏函数来验证系统的安全性质。计算可达集验证系统的安全性仅能保证有限时间内的系统安全。基于数据驱动的栅栏函数构造方法受样本数据的影响大,面向高纬度系统时,成功率不高。针对上述问题,本文首次提出了两种新型栅栏函数构造方法来验证深度神经网络控制混成系统的安全性。与数据驱动的方法不同,这两种方法分别通过构造近似系统和逼近系统,直接生成待验证系统的栅栏函数,具有更高的成功率。具体的,本文的主要研究工作如下:1首次提出一种新的基于多项式近似系统的栅栏函数生成方法。其核心思想在于使用多项式逼近DNN控制器,并基于系统真实运行轨迹评估两者之间误差,从而将原本复杂的DNN控制器转化为带误差的多项式控制器,以此构造近似的半代数混成系统来生成原系统的候补栅栏函数。随后运用SMT求解器从这些候选栅栏函数中选出真正的栅栏函数。为克服近似误差带来的副作用,进一步设计了迭代框架,通过适度扩展误差估计上界,提高生成的成功率。相比于已有的基于仿真的候补栅栏函数生成方式,该算法更加稳定高效。2首次提出基于逼近系统的栅栏函数生成方法。数据驱动的栅栏函数生成方法受限于后端SMT求解器的验证能力,对一些高维系统和高复杂度的控制器无法在有限时间内验证,因此本文又提出一种栅栏函数的直接生成方法。该方法引入伯恩斯坦多项式抽象来构造抽象半代数系统,同时利用伯恩斯坦的泛化定理得到逼近多项式和原神经网络控制器间误差的严格上界,保证生成的抽象半代数系统是原系统的严格闭包,这也意味着该抽象半代数系统的栅栏函数一定也是原系统的栅栏函数而不必再经过SMT求解器验证。为了缓解伯恩斯坦多项式逼近误差较大的问题,本文进一步提出了一种基于划分的迭代式验证框架,能够有效的将原问题转化为多个子问题从而降低计算复杂度。该算法突破了数据驱动栅栏函数生成算法的计算瓶颈,大大扩展了可验证系统规模。3开发原型工具并完成对比实验基于以上工作,本文设计并实现了原型工具,在一组benchmark上评估了两种算法的有效性,并与当前先进的工作进行对比。实验证明,相比已有工作,本文提出的两种方法在栅栏函数生成成功率和可处理问题的规模上有显著提升。
其他文献
随着新型Ga N功率器件的应用,开关电源在高频化和高功率密度化方面取得了突破性的发展,将Ga N功率器件作为电源变换器软开关的开关管,开关电源整体功率密度将大幅提高。本文以高频和高功率密度为目标,结合Ga N功率器件的应用,针对AC/DC变换器进行研究。为满足对电能质量的要求,本文AC/DC变换器采用两级式结构设计,前级为PFC电路完成功率因数校正,后级为DC/DC变换器,应用软开关和同步整流技术
点云数据配准任务的目的是对两帧点云数据做空间点级的匹配工作,在无人驾驶、家用机器人、无人机的飞行、地理信息系统的研发等领域有着良好的应用前景。随着深度神经网络广泛应用于点云数据的分类,分割等工作,并取得了很不错的成果,点云的配准工作也引入了深度学习方法,并取得了明显的进步。在此背景下,本文运用卷积神经网络对点云的配准任务进行了深入研究。对于两帧高度重叠的点云配准,传统的方法通过自定义的方法来寻找最
统计表明,一款新药从设计到上市的研发周期平均需要十三年的时间和多达几十亿美元的研发成本。其中,生成类药性分子候选库是药物合成的关键步骤。通过有效的算法快速得到准确的类药性分子候选库是加速新药研发的重要手段,因此尝试使用深度学习方法生成分子候选库具有实际价值。基于深度学习的类药性分子生成模型优化研究中,提出了一个基于改进型变分自编码器的分子生成模型。首先,在变分自编码器架构中使用Dilated CN
自?五世纪照相机被发明以来,人们一直热衷于将喜爱的照片作为装饰品或馈赠品。随着科技的发展,照片的形式也在不断地改变:从最初的黑白相片,到彩色相片,再到近?几年流行的电子相框,照片的表现能力愈发强大,但始终停留在二维平面上。随着计算机视觉技术的发展,计算机3D建模技术以其更加直观的视觉体验和更加丰富的表达能力逐渐成为计算机视觉、计算机图形学领域的热门研究课题,因此“3D照相馆”也成为了一个比较热门的
螺钉是电子产品中最为常见的紧固件之一,科学高效的螺钉拆卸方法是实现电子产品无损拆卸的必要条件。而目前针对电子产品螺钉的专用拆卸设备设计研究较少,自动化拆卸水平较低,现有研究存在拆卸设备与自动化支撑算法结合不紧密、检测方法较为落后、拆卸对象较为单一的缺点。本文针对螺钉拆卸中存在的诸多问题,进行了电子产品螺钉拆卸设备设计及检测算法研究,工作内容如下:(1)根据电子产品整体较大而螺钉尺寸较小的图像特征,
生产现场是企业创造效益的直接场所,所以现场管理在企业的经营管理中具有非常重要的地位。生产现场管理运用科学的管理制度、方法及标准是对现场的工作人员、机器设备、生产物料、及生产方法信息等各个要素进行科学有效的管理过程,现场管理改善活动则是现场管理的深化,通过一系列永无止境的持续改进活动,对生产生产现场的人员,机器,材料,方法和环境等生产因素进行改善,实现各生产要素之间的合理配置,减少生产过程中各种不必
学位
氢气作为一种清洁能源,是传统化石燃料的有效替代品。电解水制氢是一种有效的制氢方法。尽管贵金属铂基材料在电解水析氢反应中表现出良好的催化活性,但其昂贵的价格和有限的储量极大地限制了其商业应用。因此,研究开发高效廉价的非铂基析氢催化剂是实现电解水制氢广泛应用的关键。目前,研究人员已开发出多种非铂基催化剂,但其性能与铂基催化剂相比仍有较大差距。在此基础上,本文对过渡金属氮化物催化剂的制备及其在碱性析氢中
机械零件最常见的失效形式是疲劳断裂,疲劳断裂也是航空发动机叶片常见的失效形式,且现代社会对飞机的飞行性能有很高的要求,这需要航空发动机提高其推力和推重比,因此对叶片等薄壁零件提出了包括疲劳寿命在内的更高的使役要求。疲劳裂纹多起源于零件表面,而表面强化处理技术可有效提高零件疲劳寿命,提高零件的使役性能。激光冲击强化技术(Lasershockprocessing,LSP)技术是最新且高效的表面强化技术
能够发出特定白光的标准白光源作为物体颜色评价的基准,在颜色传感领域中的地位举足轻重。对于具有标准白光发光性能的新型发光材料(如白光LED)的研究,对颜色传感领域的发展也有非常大的益处。而稀土掺杂玻璃作为一种具有优异发光性能的荧光材料也备受关注,在发光领域有非常多的研究。在本课题中,我们研究了Dy3+掺杂的Zr F4-Ba F2-Al F3-Na F(Dy3+:ZBAN)玻璃的白色发光特性。主要的研