【摘 要】
：
近年来深度学习在图像、语音、自然语言处理等诸多领域得到广泛应用,但随着人们对深度学习的训练速度和数据处理能力的需求不断提升,传统的基于单机的训练过程愈发难以满足要
【机 构】
：
中国科学院计算技术研究所,中国科学院大学,北京旷视科技有限公司
【基金项目】
：
中国科学院战略性先导科技专项(B类)(XDB24050200),国家自然科学基金面上项目(61972380,61702484),中国科学院计算技术研究所创新课题(20166060)
论文部分内容阅读
近年来深度学习在图像、语音、自然语言处理等诸多领域得到广泛应用,但随着人们对深度学习的训练速度和数据处理能力的需求不断提升,传统的基于单机的训练过程愈发难以满足要求,分布式的深度学习训练方法成为持续提升算力的有效途径.其中训练过程中节点间网络的通信性能至关重要,直接影响训练性能.分析了分布式深度学习中的性能瓶颈,在此基础上对目前常用的网络性能优化方案进行综述,详细阐述了目前最新的超大规模分布式训练的体系结构、优化方法、训练环境和最有效的优化方法,最后对分布式训练仍然存在的困难进行了总结,对其未来研究方向进
其他文献
目的为克服YY0175普通手术刀柄无护刃安全装置且通体无孔、功寡难携的弊端,实现主动防护手术刀锐器伤。方法阶梯式人机优化设计“主动防护型捷卸通配御刺滑鞘”,并与普通刀柄
伴随我国社会主义市场经济体制的逐步建立，国有经济得到了快速发展，对国有资产管理体制的改革探索也不断推进，以国有企业为主的经营性国有资产改革取得了不少成功经验，相比之下，对
本文是中国安装协会承担住房和城乡建设部建筑市场监管司委托的“完善建筑安装工程合同管理研究”课题报告的核心部分。报告提出的改进和完善建筑安装合同管理的建议，对提高建
本刊讯由中国机械工业建设总公司总承包承建的西藏昌都污水处理工程项目经过三年多的拼搏努力，经过一年来的性能考核，出水水质指标达到合同规定的GB18918—2002一级B类标准，大气
在城市化的发展中,塔吊作为建筑施工垂直运输机械应用越来越广泛,如何确保塔吊施工的安全,特别是特殊情况下的塔吊施工安全更是重点、难点。本文通过一起塔吊距离过近的案例
The Zimbabwean financial sector has been retrogressive,constrained,and unpredictable since the year 2000,serving for the multiple currency periods(2009-2013)aft
自2016年以来,松下一直在使用LG Display生产的面板展示透明OLED显示器原型和概念。松下去年表示计划在2020年发布其首款透明OLED产品,如其所言,日前松下正式发布了TP-55ZT11
根据我国国有企业改革的状况，阐述了加快现代企业制度建设的紧迫性及主要措施的思考。
本文从工程档案管理入手，阐明其工期质量管理的关系与联系，分析发生工期延误、质量问题的原因，从而论述工程档案资料在工期争议、质量争议中的作用。