面向分布式数据安全的随机权神经网络联邦增量方法

来源 :中国矿业大学 | 被引量 : 0次 | 上传用户:yhmlivefor54
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数字化技术进入高速发展期,大数据和人工智能等技术迎来爆发式展,随之而来的是数据的隐私和安全问题。如今人们越来越重视数据隐私安全,因此各国都在加强对数据安全和隐私的保护,制定了各项法规。这些法规的建立在不同程度上对人工智能传统的数据处理模式提出了新的挑战。要解决大数据的困境,仅仅靠传统的方法已经出现瓶颈。2016年联邦学习作为解决当前困境的方案之一被谷歌研究院率先提出。在联邦学习过程中,训练数据仍然保存在参与者本地的这种机制既能实现对各参与者训练数据的共享,又能保证对每个参与者隐私的保护。因此联邦学习一经提出,就得到广大学者的青睐。然而,传统联邦学习算法大多是基于梯度算法实现的,其存在如收敛速度慢、易陷入局部极小点、对初始参数的设定依赖性较强等难以解决技术瓶颈。随机权增量神经网络作为一种轻量级、快速的浅层神经网络,将其引入联邦学习将是解决上诉问题的有效方案,然而其随机性和增量学习特性将给联邦学习的实现带来诸多挑战问题,为此本文开展面向分布式数据安全的随机权神经网络联邦增量学习方法研究,主要创新工作概括如下:(1)提出一种基于随机权增量神经网络的横向联邦增量学习方法(Horizontal Federated Incremental Learning Method with Random Weight Neural Network,HFIRWNN),针对边端数据集具有相同特征空间和不同样本空间的应用场景,以随机权神经网络作为边端模型,通过构建联邦增量学习方法,实现了数据隐私安全下的分布式协同建模。(2)提出一种基于随机权神经网络的纵向联邦增量学习方法(Vertical Federated Incremental Learning Method with Random Weight Neural Network,VFIRWNN),针对边端数据集具有相同样本空间和不同特征空间的应用场景,将特权信息范式引入联邦学习,构建了一种的新型纵向联邦框架,解决了传统纵向联邦框架中各边端相互依赖、难以独立应用的难题。(3)为提高边端随机模型的学习效率,引入随机配置网络,提出基于随机配置网络的联邦增量学习方法(Federated Incremental Learning Method with Stochastic Configured Networks,FSCNs)。针对横向联邦学习,结合监督机制的特点,对隐层节点构建了加权聚合策略(Weighted Aggregate Strategy,WA)和贪婪选择策略(Greedy Choice Strategy,GC),每种策略分别设计了速度优先算法(speed priority algorithm)和质量优先算法(quality priority algorithm)。针对纵向联邦学习,将监督机制与特权信息范式相结合,提出了纵向联邦SCNs(Vertical Federated Learning SCNs,VFSCNs),解决了传统纵向联邦框架必须依赖合作方进行联合预测的缺陷。此外,HFSCNs和VFSCNs解决了HFIRWNN和VFIRWNN隐层节点存在一些对模型没有贡献或贡献不大的问题。综上所述,为了应对数据隐私安全下的协同建模问题,本文以随机权神经网络作为边端学习,重点研究横向联邦增量学习和纵向联邦增量学习方法,针对不同现实场景构建了不同的学习算法,将联邦学习发展为增量学习模式。
其他文献
十九世纪末开始,徐州出现了一批建造精良、中西合璧的教堂建筑,见证了徐州城市发展脉络,展现了传统建筑与西方建筑文化的融合,是弥足珍贵的建筑遗产。本文以徐州近代教堂建筑为研究对象,通过查阅国内外相关文献、地方史志等资料,对天主教和新教在华和在徐州地区传播的历史概况和建筑活动进行阐述;通过实地现状调研、勘察记录测绘工作,对徐州现存近代教堂建筑的建筑特征和建造技术进行了重点剖析;通过对徐州近代教堂建筑的价
学位
钛及其合金因具有质轻、耐腐蚀性好、强度高和生物相容性好等优势,被广泛应用在临床硬组织修复及替代等领域,临床短期(5-10年)修复效果显著但远期疗效不佳,原因如下:(1)钛及其合金弹性模量(>110 GPa)远高于人体骨(10-30 GPa),易引起长期“应力屏蔽和应力刺激”,造成植入材料周围骨组织吸收和萎缩;(2)钛合金中含有Ni、Al、V等有害元素易引起细胞和组织毒性,导致器官损伤、骨软化、贫血
学位
超级电容器兼具传统电容器和二次电池的特性,且具备充放电速度快、环境友好及优异的循环寿命等优点。电极材料是决定超级电容器性能的关键因素,研究开发性能优越的电极材料成为当前的研究热点之一。废糖液(WSS)是工业生产维生素C中所产生的液态废弃物,其碳水化合物含量较高,碳氧元素丰富,是制备超级电容器用炭材料的潜在原材料。利用WSS作为原材料制备超级电容器电极材料,不仅能够对其进行充分利用,还有利于减少环境
学位
红会第一煤矿南翼井田南101工作面煤层倾角平均58°,煤层平均厚度34.0m;北101工作面煤层倾角平均7°,煤层平均厚度27.0m。煤层西、北发育有F1h-1号逆断层,落差最大约220m,地质条件复杂。研究采动作用对断层活化滑移规律及地表未搬迁区域的影响,对于缓解工作面采掘接续紧张,指导煤矿安全高效开采,具有重要的意义。论文综合运用工程调研、理论分析、岩石力学实验、数值模拟和现场工程实践等方法,
学位
随着自动化、智能化时代的到来,人们对电能质量的要求更为严格。电压暂降作为严重影响电能质量的因素,其中由短路故障造成暂降发生的频率最高。因此,研究电压暂降检测、治理装置补偿及控制策略对解决短路故障中的电压暂降问题具有重要的意义。本文从电压暂降的检测算法、动态电压恢复器补偿及控制策略三个方面进行研究。1)针对电压暂降检测算法,首先分析了低压配电网存在A、B、C、D、E、F、G七种典型三相电压暂降类型。
学位
迎回采面掘巷能有效缓解采掘接替紧张关系,但巷道受两次工作面采动影响,尤其是上区段工作面采动影响期间,巷道要经历基本顶断裂到稳定的全过程。张掖市宏能煤业有限公司1108回风顺槽是半煤岩梯形巷道,半煤岩体巷道的岩层或煤层占整个掘进工作面积的1/5~4/5,受到多次开采扰动影响,加上巷道围岩结构特殊、强度低,其变形量大、变形时间长,巷道维护更加困难,极大地增加了维护与返修成本。本文采用现场调查、理论分析
学位
随着现代工业的发展,具有曲面外形、厚截面等复杂形状零件的检测越来越多,且对检测精度、检测速度以及可靠性的要求越来越高,这就对超声无损检测技术提出了新的挑战和问题。目前针对曲面零件的缺陷检测仍然采用人工检测的方式,采用人工检测的方法劳动强度大、效率低,很难控制探头完成均匀扫查,也很难控制探头能够准确对准复杂曲面表面法线方向,容易造成漏检或者误检而引发事故。为了解决曲面零件的自动超声检测问题。将现代机
学位
在我国西北矿区煤矿突水事故中,由煤层底板砂岩裂隙含水层发生突水从而造成矿井被淹的情况实属罕见;新上海一号煤矿发生的由侏罗系宝塔山砂岩含水层引发的“11.25”底板突水淹井事故在西部侏罗纪煤层的开发过程中尚属首例。宝塔山砂岩含水层在宁东地区及其周边区域普遍存在,新上海庙一号煤矿、榆树井煤矿、灵新煤矿、羊场湾煤矿以及槽村煤矿等矿区未来下组煤开采均会受到宝塔山砂岩含水层的威胁,因此有必要对宝塔山砂岩含水
学位
随着通讯电子行业的发展,电子元器件越来越呈现出小型化、高集成化和高功率化。电子元器件的热流密度随功率的增加而增加,并且狭窄的封闭空间会抑制热量散失并限制大型对流换热设备如风机等的使用。聚集的热量会严重影响设备性能的正常运行,甚至会损害设备的使用寿。相关研究表明,温度超额定使用温度10℃,设备的预计使用寿命将缩短50%;降低工作温度对芯片运行的可靠性提升有着重要的影响,芯片工作温度每降低1°C,其失
学位
城市典型地物包括建筑物、道路与树木等,是城市中的重要主体,在一定程度上反映了城市的发展规模。准确获取城市典型地物的变化信息对于城市发展规划、土地管理、绿化监测、地理数据库更新等实际领域中具有重要的作用与意义。利用遥感手段对城市典型地物进行变化检测可以快速准确的获取地物的变化信息,借助机载激光雷达(Light Detection and Ranging,Li DAR)点云数据可以实现城市典型地物的三
学位