分布式网络中的随机优化算法研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:NK123456
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文研究分布式网络中的优化问题,并采用随机优化算法来进行有效求解。具体而言,网络中的节点都有本地的目标函数与约束,我们的目的在于优化全局的目标函数,使得整个网络的效用最大化。分布式网络按照信息处理方式可以分为有中心分布式计算与无中心分布式计算两大类,其在鲁棒性、工作时长、通信代价、存储代价等方面各有优缺点。本文对这两种分布式计算方式都有研究。具体包括:本文对无中心分布式一致优化问题进行了研究,研究的具体内容为网络中的节点包含复杂约束的情形,其中的复杂约束为多个简单约束的交集。本文在前人提出的集中式的梯度投影法,以及分布式的随机梯度投影法的基础上,提出了两种分布式的原对偶分离投影算法。二者的不同点在于对于约束的处理方式,一种是确定性的处理,即每次迭代中都处理所有的约束;一种是随机性的处理,即每次迭代中都随机性挑选某个约束进行处理。这两种算法采用分离投影的方式,解决了复杂约束投影难以计算的问题,同时采用原对偶的方法,提高了算法的收敛精度与速度。且本文对确定性算法进行了理论分析,证明了其收敛性。在数值实验中,也证明了两种算法的有效性。本文对于有中心分布式的计算方式也进行了研究,研究的具体内容为社交网络中的符号网络的链路预测问题。针对该问题本文采用了低秩矩阵分解的问题模型来有效减少网络的参数,且适应于大数据的情况。同时我们提出了两种分布式的异步随机梯度下降算法来进行有效的求解。二者的不同点在于异步的完全程度,一种是部分异步的,即每个节点异步地处理随机平均分配的多个目标函数,而后再进行同步;一种是完全异步的,即每个节点完全异步地处理随机选择的单个目标函数。我们在现实中的两个数据集中验证了我们的算法,实验结果验证了我们的算法的有效性,且能够实现接近线性的加速比。
其他文献
随着工业的快速发展以及产业转移进程加快,各类生产行业向环境中排入了大量的铬酸盐,造成了环境中铬含量远超自然界的天然承受量,严重危及到了生态环境和人体健康。开展对铬
随着造纸行业的不断发展,原料短缺、能源紧张、污染严重等问题日益突出,废纸的回收与利用成为了发展的新方向,近些年发展起来酶法脱墨与传统化学脱墨相比,具有节能、环保、针
经济增长是社会发展进步的目标.我国经济呈现出一体化趋势并逐步推进,单个区域的经济增长不再纯粹依靠其内在的动力因素,同时也更多地受到来自周边地区经济增长的拉动作用.本
现代电网的不断发展对可靠性和安全运行有更多更高的要求,电力系统仿真、故障诊断和运行分析的基础是准确的数学模型和参数,这些参数对电网安全运行有着重要意义,故快速准确获得可靠的电网模型参数是保证电力系统安全运行的基本问题。相量测量单元(PMU)为电力系统的安全稳定运行提供了一种关键的测量装置。PMU在电力系统发电机组的安全监控、合理调度、电网状态的监测与发电机动态过程的控制等方面起到了至关重要的作用。
21世纪,大数据、云计算是最重要的命题,而作为基础设施的数据中心也显得越来越重要。对于数据中心的研究具有非常重要的经济意义和现实意义,能够给国民经济和社会发展带来很
为了电动汽车的安全和高效运行,汽车的电池管理系统必须能够精确估计荷电状态(State of Charge,SOC)。本文以镍钴锰三元锂离子电池为研究对象,以电动汽车为应用背景,针对电池
随着油气资源不断的被开发,深井和超深井的数量也越来越多,随着井深的增加,钻头的卡滑现象、慢的机械钻速等都是需要解决的问题,提高钻井效率问题也成为油气开发的一大研究热
稀土基纳米材料由于其独特的磁性、催化和光学等性能,在低阈值激光器、生物影像造影剂、电视机显像管、手机屏幕、白光LED、荧光灯、光电子器件等领域具有极其重要的作用。稀
当下中国已迈入全面的消费时代。受消费文化影响,都市电影的创作动机和意图发生转变,受众的地位得到空前提高;都市电影的叙事内容也发生了变化,各种与消费文化相关联的现象直
1982年,在美国推出了全球第一支股指期货——价格线综合指数期货合约之后,发达资本市场相继推出了不同标的的股指期货合约,因此,国外学者很早就着手于对股指期货市场价格发现功能进行研究。结果表明,指数价格内部之间具有较强的自相关性,并且期货市场价格领先于现货市场,股指期货收益率的变动领先于相应标的现货指数收益率。我国市场推出股指期货的时间晚于美国30多年,我国处于股指期货发展的初期阶段,国内学者对于股