非光滑组合优化的分布式算法设计

来源 :西南大学 | 被引量 : 0次 | 上传用户:zxy6651
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在通信、计算机等信息技术蓬勃发展的当下,“大数据”、“物联网”、“人工智能”等词汇已广泛出现在经济、社会、文化和生态等诸多领域。这些新兴科技对数据规模的要求日益增长,给传统的、依赖于单机进行数据存储和运算的集中式优化策略造成了巨大冲击。在这种背景下,建立在网络通信基础上、以去中心化存储和并行计算为特征的分布式优化方法吸引了众多学者的目光。相较于把目标问题和数据都集中于单一中心节点的集中式优化方法,分布式优化方法将目标问题分解为一系列子问题,分散部署到位于具有连通性的网络拓扑上的节点中。每个节点均保有存储器和运算器并私有化其局部目标问题,实现本地化的数据处理。凭借并行运算和相邻节点之间的信息交互配合,分布式优化方法在降低通信与计算成本、提高网络鲁棒性和有效解决大规模复杂优化问题方面凸显优势。但是,目前的分布式方法大都基于梯度信息,需要目标问题满足光滑性条件。部分可应用于非光滑问题的成果仅考虑单函数的问题模型,难以应用于带复杂约束的实际工程问题。鉴于此类情况,本文面向一类具有工程普适性的,在无人机编队控制、传感器源点定位、能源系统经济调度和大规模机器学习等领域均有广泛应用前景的非光滑组合优化问题开展研究。在现有的相关工作基础上,设计并深入分析有效的分布式优化算法,主要工作内容概括如下:(1)目前的分布式非光滑组合优化成果主要集中于一类具有光滑+非光滑结构的问题,该类问题中代价函数整体是非光滑的,但需要部分项具有光滑性质。因此,在现有工作的基础上,本文研究另一类非光滑组合优化问题,它由两个非光滑的代价函数组成,其中一个是强凸函数,另一个只是适当的凸函数。引入桥变量实现代价函数与决策变量解耦,然后基于由拉格朗日函数构建的等效对偶问题,在对偶域内设计了分布式优化算法。此外,考虑到同步算法机制要求所有节点必须在同一时刻进行更新,利用随机块坐标下降技术,进一步开发所提算法的异步形式。每个节点在独立激活的前提下执行算法,并且被允许在重新激活时利用上一轮迭代结果继续运算。基于不动点理论、强对偶性质和一阶最优性条件,从理论上证明所提出的同步与异步算法的收敛性。最后,通过对机器学习中正则化问题的仿真实验验证所提出的同步与异步算法的有效性并分析算法在不同拓扑和步长下的性能差异。(2)研究一类更复杂的、由三个函数组成的分布式非光滑组合优化问题,同时引入比一致性约束更具一般性的描述网络耦合关系、带线性算子的边约束。每个节点需要处理的局部代价函数由一个具有利普希茨连续梯度的凸函数和两个非光滑的凸函数组成,其中一个非光滑项中还包含一个线性算子。相较于两个函数构成的模型,该问题对机器学习、电力负荷经济分配和群体智能控制等领域中的复杂带约束优化问题有更强覆盖能力。通过设计惩罚函数,可以将边约束转化为优化问题的第三个非光滑项。利用拉格朗日函数将线性算子与代价函数解耦,并在原始—对偶域内使用三个临近算子来分别处理非光滑项,设计了新的分布式优化算法。然后,根据不动点理论与一阶最优性条件完成收敛性分析与证明,并且在非遍历意义上,通过最优残差显示该算法的次线性收敛速度。最后,基于带约束二次规划问题和最优电力负荷分担问题进行仿真实验,分别验证理论结果的正确性和算法的工程应用价值。(3)现有的分布式优化算法往往采用全网一致步长,但全局参数阻碍了分布式算法具有完全去中心化的结构。同时,全局步长意味着算法在开始执行前,需要通过多轮次通信以保证步长统一。为了消除全局参数的影响,本文在设计算法的过程中,均引入非协调常数步长,使所有步长局部化。此类非协调步长在算法初始化阶段由各对应节点直接设置,其中基于边的非协调步长首先在该边两端的节点上分别选取,随后通过节点间的一轮信息交互平衡。此外,在对本文所提算法进行收敛性分析时,通过严格的理论推导给出每个非协调步长独立的参数取值范围。获得的非协调步长上界不涉及全局信息,以避免所有步长均受限于全局最小取值范围的问题。综上所述,本文聚焦于非光滑组合优化问题,设计并分析分布式优化算法。在现有的分布式优化理论基础上进行深入的探讨,为分布式优化应用于实际工程问题提供新的技术工具与理论框架支持,具有积极意义。
其他文献
基于六经辨证体系中“三阳合病”理论,提出慢性阻塞性肺疾病急性加重(acute exacerbation of chronic obstructive pulmonary disease, AECOPD)可见三阳合病,当三阳合治。AECOPD因其常由外感诱发,故可见太阳表证;邪气入里,可见少阳半表半里证与阳明热证。痰饮水湿为AECOPD的重要病理产物,故AECOPD三阳合病亦常兼太阴。临证时应重视辨
目的:探讨刘建秋教授基于象思维论治痰热郁肺兼气虚血瘀型肺胀的临床经验。方法:通过临床跟师,将刘师基于象思维对肺胀的中医病名,肺胀的核心病因病机,临床诊断,辩证治疗规律及特色药对应用进行汇总分析,最后以案例一则进行佐证。结果:提出“象-取象比类”进行肺胀病名解释,应用“肺-金曰从革”理论衍生出肺失宣降,肾不纳气的核心病机,并提出气郁痰阻为发病关键,采取“象-司外揣内”的方式进行辩证分型,治疗上多采用
目的 探讨宫颈癌(UCC)组织中细胞周期调节蛋白-67(Ki-67)、性别基因框蛋白9(SOX9)蛋白表达及临床意义。方法 收集2020年3月至2021年3月南阳市第一人民医院收治的80例UCC患者临床资料。所有患者均接受宫颈活检,取病理组织采用免疫组织化学检查,检测Ki-67、SOX9蛋白表达情况,分析UCC组织中Ki-67、SOX9蛋白表达与病理特征的关系。结果 80例宫颈癌患者均接受免疫组织
敦煌石窟延续至今千余年,壁画内容丰富,佛传故事画作为其中的重要题材,从北凉延续至五代,同样具有丰富的表现形式,文化内涵以及历史演变,包括单画幅式、连环画式、屏风画式以及一些特殊表现形式如绘塑结合等,为我们深入了解敦煌佛传故事画的魅力提供详实的内容。在前人研究成果的基础上,结合佛教经典整理归纳敦煌佛传故事画图像内容与艺术的相关资料。可知,佛传故事画初入中国,在敦煌地区融合发展,从壁画内容中可以窥见不
在旧收入准则执行过程中,上市公司通常存在哪些盈余管理手段?新收入准则的实施又会扼制哪些盈余管理手段?哪些盈余管理空间又会出现?这是当前值得我们深入研究的课题。本文在解读2017年修订的收入准则的基础上,结合旧准则执行过程中已经存在的盈余管理方式,分析新收入准则会如何影响企业的盈余管理方式。本文认为,新收入准则的实施对上市公司的盈余操纵有一定的抑制作用,但部分盈余管理空间仍然存在,同时也出现了新的盈
慢性阻塞性肺疾病(COPD)是呼吸系统常见的慢性疾病,中医药在治疗上有独特优势,郭洁教授根据多年临床经验,认为COPD病位初始在肺,后累及脾肾二脏,甚者及心。主要病机可分为肺脾气虚、肺肾气虚、气阴两虚、浊毒内蕴、痰瘀互结。治疗上强调分型分期论治,稳定期以虚为主,治法以扶正;急性期以实为主,治法以化浊祛邪。提出治疗原则为清热化痰,活血祛瘀,化浊解毒,补肺健脾,并善于运用调理气机之法,自拟化浊解毒方,
推进档案信息化建设是高校档案事业发展的必然趋势,也是开放大学利用先进技术手段服务事业发展需要和师生档案利用需求的重要举措。通过问卷调查、实地考察、座谈交流、电话咨询等多种方式采集信息,对开放大学档案信息化建设情况进行实证分析,总结归纳出开放大学档案信息化建设存在体制机制不够健全、基础建设不够到位、资源建设力度不够、服务利用仍需优化、安全保障有待完善等问题,提出创新体制机制、夯实建设基础、加大资源建
针对现行迟滞模式控制的开关电源系统技术问题,设计了一种基于迟滞模式控制的开关电源系统,由迟滞比较、电压采样、三角波产生、逻辑控制等功能模块构成。迟滞的设计存在于误差放大器的后级,其输出COMP为VOUT的采样信号于基准电压的放大信号,输出信号反馈节点FB端的工作迟滞量较小,三角波信号与COMP进行迟滞比较,它的三角斜率与采样换相点的电压基本无关。实验结果表明,基于迟滞模式控制的开关电源系统工作频率
在大数据的时代洪流中,电力系统也向着智能化和信息化的方向发展,与此同时,智能电网的安全可靠供电也面临新的挑战。其中,在电网进行输配电的过程中,存在一些企业或者个体用户的窃电行为,严重损害了电网公司的经济利益,而且窃电带来的损失使得配电网在实际运行中的负荷大于预计负荷,为电力系统带来很大的供电安全隐患。如今,窃电方式更加先进化、多样化和隐秘化,这与相对落后的传统的异常用电检测技术及用电管理模式的矛盾