联邦学习中若干关键通信问题的研究

来源 :杨树南 | 被引量 : 0次 | 上传用户:geona
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,在物联网(Internet-of-Things,Io T)和第五代移动通信(5G)的推动下,人工智能(Artificial Intellegent,AI)蓬勃发展,大量新兴应用随之涌现,对数据安全性和隐私性提出了更高要求,同时更加严格的数据保护法律相继出台,限制了对数据有着大量需求的人工智能的应用。机器学习(Machine Learning,ML)或深度学习(Deep Learning,DL)模型可满足部分人工智能需求,然而数据孤岛的出现,众多数据还无法充分利用起来。为解决这一问题,联邦学习(Federated Learning,FL)技术将训练模型的任务交由用户这一数据持有方,通过服务器对训练好的本地模型做聚合更新。此时用户和服务器通信传输的是梯度或模型而非原始样本数据,这为用户提供了低时延高安全的模型训练服务。其中用户选择和资源分配是影响着联邦学习的训练速度、模型性能以及能耗等的关键问题,此外,将差分隐私引入联邦学习也是对其数据安全性的重要研究方向。针对联邦学习中的训练加速和模型传输安全问题,本文首先考虑单小区下联邦学习中用户选择和资源分配策略,然后拓展到多小区场景,利用区间干扰为差分隐私服务以加强模型安全性能。主要工作如下:第一,在无线资源受限的单小区联邦学习场景中,本文考虑结合用户选择及资源分配以实现加速联邦学习的效果,定义了均衡单次迭代时间和训练数据量的新的性能指标,称为训练效率,结合凸优化方法构建了用户选择、带宽分配和随机梯度下降(Stochastic Gradient Descent,SGD)批量大小选择,以最大化训练效率为目标的联合优化问题。本文提出的算法把原问题分解为用户选择和资源分配两个步骤,将非凸问题拆解出凸问题简化求解过程。仿真结果显示了其在加速联邦学习训练方面的有效性。第二,针对联邦学习的安全问题以及传输时延问题,本文引入差分隐私(Differential Privacy,DP)并结合空中计算(Over-the-Air Computation,Air Comp),对多小区联邦学习场景建模,构建了利用区间干扰满足差分隐私要求,联合优化用户梯度传输功率、人工噪声传输功率和去噪因子的最小化均方误差(Mean Square Error,MSE)问题。利用凸优化原理求解,得到了问题的闭式解并设计了迭代算法交替优化各小区用户的传输功率,进行了各因素之间的影响分析。实验仿真表明差分隐私与联邦学习系统性能间存在一个权衡,利用适量的区间干扰满足差分隐私要求的同时,可降低人工噪声的传输功率,同时揭示了参与训练的用户数量越多,整个系统的功率开销也会相应降低。
其他文献
随着高校教育的普及与办学规模的不断扩大,大批的新建校园建筑不断涌现,其中科研实验建筑中的实验单元,即实验室空间与研究室空间,作为高校师生进行科学研究活动的主要场所几乎是除去住宅及寝室外停留时间最长的场所,因此在实验单元设计中充分利用天然采光无论是从提升使用者视觉舒适度的角度,或是节省照明能耗、提升工作效率、保护视力健康等角度都有着重要意义,所以针对实验单元的天然采光水平进行评价、分析与提升是非常有
学位
防腐涂料可以保护金属基材,防止腐蚀,水型防腐涂料由于环保性、低VOC排放等优点成为防腐涂料研究的重点。本论文利用氧化石墨烯和聚苯胺/氧化石墨烯具有独特结构和性能的特点,对水性环氧富锌涂料进行改性,制备防腐蚀性能优越(能降低锌粉的用量)的水性环氧富锌涂料,实现保护环境、节约资源和降低生产成本的目的。论文的研究工作包含两部分:第一部分:氧化石墨烯(GO)/水性环氧富锌涂料的制备。通过改进的Hummer
学位
进入老龄化社会以来,老年慢性病患者基数不断扩大,慢性病已经成为威胁人类健康的首要疾病和死亡原因,不仅会影响患者身体健康,治疗过程中产生的巨额医疗费用也会给患者带来极大的经济负担,从而使患者面临身体上、经济上和心理上多重压力。据统计,我国慢性肾脏病的发病率高达10.8%,患者约1.3亿,老年慢性肾脏病患者面对疾病的困扰,出现焦虑情绪的比例不断增加,不仅影响着患者的生活质量,而且不利于慢性病的治疗,但
学位
石油在社会生活中扮演着非常重要的角色,但石油在存储和运输过程中泄露事故的频发以及工业生产中大量含油废水的肆意排放,不仅造成了资源浪费更对人们赖以生存的生态环境造成了巨大破坏。因此开发制备油水分离材料逐渐成为人们关注的焦点。吸附型三维多孔油水分离材料由于具有孔隙率高、密度低、使用简便等优点一直是油水分离材料中的研究热点。但传统的三维多孔油水分离材料存在制备过程复杂、材料价格昂贵、不可生物降解、不可循
学位
本文以“赵宇正当防卫案”作为分析的切入点,对当前正当防卫司法认定中较为突出的几个问题进行归纳,着重讨论正当防卫制度中比较重要的两个构成条件——防卫时间和防卫限度,分析和比较当前法学界各种不同的认定学说,并对司法实践中应采用的学说观点准确判断防卫时间和防卫限度提出建议。首先,笔者认为在确定防卫时间开始的节点时,应当采取“直接面临说”作为防卫时间开始的认定标准;而在确定防卫时间结束的节点时,采取“排除
学位
近年来随着大数据、云计算、万物互联等新兴业务的发展,人们在生活和工作中对带宽和信息传输速率的需求越来越高,光纤通信系统作为骨干网的重要组成部分,承担着扩大系统容量的巨大压力。偏振复用技术只需在系统收发端稍加改动即可以在使用现已铺设的光纤链路的前提下使频谱效率翻倍,因此已经在光纤通信领域被广泛研究。然而光纤信道并不是理想信道,相干光通信系统中引入偏振复用技术也带来了多项线性损伤,例如偏振态旋转,偏振
学位
我国老龄化日渐严重,据国家统计局发布的最新数据显示,我国老年人平均有8年左右的时间是带病生存的状态,且部分老年人因身体机能逐渐退化而导致失能,生活质量进一步降低。受我国传统孝文化和养老观点,现阶段我国老年人特别是失能老人仍然更倾向于选择居家养老模式。因此,如何满足这一部分失能老人的长期照护需求,成为我国养老事业中不可忽视的问题。本论文是基于笔者在广州市某机构的实习经历。首先,以随机抽样的方式对广州
学位
城市管理作为城市发展的恒定主题,一个城市的管理水平体现着其政治、经济、文化建设与和谐社会发展程度。而随着社会不断的现代化进步,旧有的城市管理模式已然不符合现今的社会需要。提高城市管理水平,是转变政府职能的必然要求,也是公共服务的重要内容,还是促进城市健康发展的重要基础。信息化技术的高速发展为城市管理的创新提供了契机,数字化城市管理系统的建设与应用,将打破现有的传统城市管理模式,形成“大城管”格局,
学位
随着人工智能技术在现代科学领域的飞速发展,国外研究人员开始将人工智能技术中的深度学习方法应用到音乐创作中来。而在国内的音乐创作中,尤其是中国民族音乐的自动作曲,由于民乐数据量小、音频格式转换困难、民乐特征难以还原等原因,仍鲜少有人涉足。民乐作为中国传统音乐的一张名牌,若使用人工智能技术,或将为其注入新的活力与生机。本文将古筝作为中国民族乐器的代表,使用长短期记忆的循环神经(Long Short-T
学位
从第三代移动通信(3G)以来,接入移动通信网络的终端数量迅速增长,人们对移动通信数据业务(流量业务)的需求也越来越高,这使得移动通信运营商不得不重视无线网络容量的问题。在一些基数站量已经很多的大型城市或社区,站址资源已经非常紧张,使用传统的小区分裂进行扩容的方式已经越来越难。多波束天线是将传统的宽角度扇区覆盖,切换成多个高增益窄波束进行覆盖,对每个独立窄波束覆盖的区域配置不同的载波,从而实现系统容
学位