【摘 要】
:
近代信息技术的爆炸式发展以及数据量的激增导致传统的集中式优化理论和方法愈加难以适用于如今大规模、分布式的数据架构。因此,去中心化、分布式理念的提倡,使得越来越多的学者们关注于分布式优化领域并提出了许多优异且经典的分布式算法。分布式优化方法同传统集中式优化方法最大的不同就在于其将一个大规模优化问题分为众多子问题进行求解,每一个子问题依托于一个实际的智能节点,节点之间只需要通过和邻居节点的交互即可求解
论文部分内容阅读
近代信息技术的爆炸式发展以及数据量的激增导致传统的集中式优化理论和方法愈加难以适用于如今大规模、分布式的数据架构。因此,去中心化、分布式理念的提倡,使得越来越多的学者们关注于分布式优化领域并提出了许多优异且经典的分布式算法。分布式优化方法同传统集中式优化方法最大的不同就在于其将一个大规模优化问题分为众多子问题进行求解,每一个子问题依托于一个实际的智能节点,节点之间只需要通过和邻居节点的交互即可求解子问题,进而协同地最终得到全局问题的最优解。所以,相较于集中式优化,分布式优化算法有着更加优越的鲁棒性、灵活性,并且能缓解一定的通信负担,节约更多的计算资源。传统的分布式优化算法研究主要集中在对不同网络结构的考虑和不同约束的处理。与此同时,这些分布式算法所处理的目标函数较为单一,使用场景较为局限,并未对问题进行进一步细分和建模。因此,对于不同的问题模型和约束条件,本文在已有的研究基础上,着力于解决更加实际的多块可分离优化问题,设计性能更加优异,应用场景更加广泛的分布式优化算法,现将主要研究内容概括如下:(1)针对更加实际的优化问题设计分布式算法,即优化问题的每一个子问题都由一个利普希茨可微的凸函数、一个非光滑凸函数和一个带线性算子的非光滑凸函数构成。对于该问题模型,本文通过应用一阶最优条件、近端算子和原始—对偶技术等,首先设计了同步的分布式原始—对偶分裂算法(S-DPDS)。同时考虑到网络中不同智能节点的内在差异性及外部因素的影响,该同步算法允许每个节点使用非协调步长,并且所有参数都进行了异构处理。因此该同步算法是完全式的分布式算法。然后,通过使用矩阵不等式、不动点定理等理论,本文证明了该同步算法的收敛性,并且给出了简洁的收敛条件,以更加有利于算法在实际应用时的参数选择。(2)本文通过应用随机块坐标方法,将同步算法推广到了异步的形式,并命名为A-DPDS。在异步算法的迭代过程中,仅仅部分智能节点的子集被随机激活,以此模拟实际场景中仅部分节点可正常工作的情况,算法的异步实现也能够进一步提升系统的鲁棒性。对于该异步算法,本文证明了其与同步算法相同的收敛条件。为证明理论的正确性,本文对算法进行了仿真实验。其中包括异步算法迭代时节点被不同概率激活的算法性能比较,和其他求解多块问题的算法进行比较。(3)为解决更加实际的工程问题,本文使用所提出的算法结合分布式模型预测控制解决一类线性二次一致性优化问题。考虑到分布式模型预测控制本质也是一种优化控制策略,本文从模型构建的角度求解问题。通过设置合适的线性算子,示性函数等方法,本文将一类针对具有双积分动力学系统的线性二次优化问题转换为多块可分离优化问题。然后对于该问题再使用同步和异步的分布式原始—对偶分裂算法,以优化多块可分离问题的思想优化分布式模型预测控制。综上所述,本文聚焦于目标函数更加具体的多块可分离优化问题的研究,提出了更加具有针对性和实用价值的分布式优化算法。并充分考虑到异步与异构的情形,使得算法具有更强的鲁棒性和实用性。本文的研究内容也将进一步丰富和完善分布式优化理论及应用研究,对进一步促进分布式优化算法在实际工程问题的落地具有重要的理论意义和实践价值。
其他文献
混合自由空间光-射频(Free Space Optical-Radio Frequency,FSO-RF)通信能够同时拥有FSO的超高信道容量、无需频谱许可、抗干扰能力强,以及RF的覆盖范围大、广播特性之优势,近年来受到广泛关注,并被认为是面向未来网络最具潜力的技术之一。为了进一步提高频谱效率,支持多用户共享时频资源的非正交多址接入(Non-Orthogonal Multiple Access,N
人工智能在自然语言处理、知识表示、自动推理、机器学习等方向上的长期发展使其具备了知识采集、整理、传输、存储、分析、呈现和应用上的天然优势。人工智能与教育的结合,能够解决教育资源在时间和空间上的分配不均,以其在知识记忆、复述和再现上的优势减少教与学双方的低层次教学投入。此外,人工智能采用机器学习的方法,辅助教与学双方对学习过程信息的理解,这既有利于教育工作者提升教学设计质量,也有利于学习者提高学习效
利用我国33个大中小城市2005—2018年的面板数据,从房地产投资、房地产消费、房地产开发企业规模3个方面选取11个指标,采用熵值法计算得到房地产经济综合指标,并构建静态与动态面板模型,探究人口流动对房地产经济的影响机制。实证结果表明:静态面板模型与动态面板模型回归结果均显示,全国层面人口流动对房地产经济发展具有显著的正向影响;静态面板回归结果显示,人口流入较快地区的房地产经济水平提高显著,而人
在信号处理领域中,压缩感知(Compressed Sensing,CS)作为一种新的信号处理框架,与传统的奈奎斯特(Nyquist)采样相比,仅需要较低的采样率就能还原出成原始信号。CS的提出不仅解决了传统采样中压缩与采样分开进行的问题,还极大地减少了信息的采样频率、信息存储以及传输代价的需求。CS理论表示对可压缩或者具有稀疏性的信号,可以通过一定条件下的观测矩阵映射到低维空间上,最后通过优化算法
人们的内心情感往往通过面部表情直观地体现出来,面部表情是人类进行情感交互的一种重要方式。在日常生活中,可以通过肉眼轻易观察到的表情称为宏表情,其持续时间在0.5秒到4秒之间。宏表情的发生可以被人类自主控制用以掩饰内心真实情感,在一定程度上具有欺骗性。然而,人们在掩饰真实情感过程中,难以避免地会在瞬间泄露出无意识的面部表情,将这种十分短暂、微弱的面部表情称为微表情。微表情作为一种自发式的情感表达方式
随着无线通信基础设施和服务需求的不断增长,通信业务也逐渐从单一化的语音形式转变为多样化的图像、数据、视频等多种形式。然而,有限的射频(Radio Frequency,RF)频谱资源很难满足人们对带宽日益增长的需求。另一方面,自由空间光(Free Space Optical,FSO)通信作为短距离高速率传输数据的有效手段获得了广泛的研究关注,因为与传统的RF通信相比,它具有高带宽、大容量、高安全性、
自适应滤波器因其能够根据不同类型的输入信号自适应调整系统参数,输出期望的滤波结果而被广泛应用在自动控制、生物医学检测、雷达系统等实际工程领域。从实际应用方面出发,系统所处的噪声环境并不满足单一的高斯统计特性,而是非高斯噪声环境居多。所以在算法设计过程中仍主要以非高斯噪声为背景建模。基于变量之间的相似性度量方法为确定数据系统与学习模型之间的关系提供基础。二阶误差准则的相似性度量在应对高斯环境时具有良
神经网络在诸多应用领域展现出了优异的性能,这很大程度上依赖过度参数化的模型结构,以及各类数据增强技术提供的数据量保证。在此发展趋势下,神经网络的损失表面愈加复杂,仅通过最小化训练损失已经无法保证模型的泛化性能。对神经网络的泛化误差与收敛点特性展开研究,设计更高效的性能提升算法尤为重要。统计学习理论通过假设空间与样本数量构建泛化误差上界,虽然无法完整解释神经网络的泛化性能,但此类理论具备重要的指导意
随着移动互联网时代的来临,社交媒体、电子商务等新兴平台的不断涌现,随之产生的各式数据呈几何指数上升。不仅如此,监控摄像头网络、车联网系统、智慧医疗影像等技术的发展也产生了海量的数据。这些数据不仅具有极高的商业价值,同时也是涉及国防安全,国计民生的重要资源。如何运用好现代信息技术从这些海量的数据中搜索所需的数据是一个极具价值且有挑战的工作。基于哈希学习的图像检索方法具有储存性能优、查询耗内存少、速度
在实际生活中总存在各种不确定性,复杂的网络由于耦合度高,更容易受到随机扰动的影响。而这种随机干扰会对系统稳定性产生不可忽视的影响,因此对于随机系统稳定性的研究引起各国学者的广泛关注。而对于此类系统,脉冲控制是非常有效的方法和手段。脉冲能够使系统状态发生瞬时的改变,使得系统偏离原有的运动轨迹。学者利用这一特性,通过施加合适的脉冲,使得系统状态趋于期望的运动轨迹。除此之外,脉冲系统还有低成本、高效率、