基于h5py和mpi4py的HDF5数据并行处理的探索

来源 :计算机产品与流通 | 被引量 : 0次 | 上传用户:loopdd
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着层次性数据格式的不断发展,HDF5已经成为一种研究数据存储的通用格式之一。然而受限于HDF5数据文件通常包含大量的数据集这一现状,普通串行处理的方式逐渐不能满足数据处理的要求。本文通过介绍HDF5数据和并行计算的基础,结合目前流行的数据处理语言Python以及广泛应用于并行计算和HDF5处理的两个软件包——mpi4py和h5py,探索了一种新的对HDF5数据并行计算的方式,该方式具有计算简单、效率高的特点。
其他文献
随着我国消费者购买力的提高和电子商务的飞速发展,通过境外网购平台购物已经成为我国年轻一代的消费者获得海外商品的重要途径,但是这种海淘模式给人们带来极大便利的同时,
目的:探讨齐拉西酮与利培酮用于治疗男性精神分裂症对患者糖脂代谢及性激素水平的影响。方法:选取男性精神分裂症患者82例,按照就诊顺序分为观察组和对照组两组,每组各41例。对
、国内目前工业上使用的各种水力旋流器的给矿方式,都是给矿口沿筒体切线方向直接给入的,这种进矿方式不但加速筒体上端顶盖的磨损,同时还会导致整个旋流器内表面的螺旋线刻
利用NCEP再分析格点资料、常规观测资料,统计分析了2005-2007年7-9月河北省典型的10次空气污染过程与气象要素、天气系统的关系。结果表明:河北省夏季典型污染过程的主要天气
我国社会主义建设的不断深入以及经济水平的飞速提升,我们已经悄然来到一个信息化的新时代,如何在这一新时代背景之下做好信息与数据的统计工作至关重要。本文就信息时代下统
随着社会和经济的飞速发展,各行各业以及人们日常生活中对于电力的需求量越来越大,对电力的需求依赖也越来越高,在这样的背景形势下,国家对我国电力事业增加了投入,电力工程