高性能计算在地理信息公共服务数据更新中的探讨

来源 :国土资源导刊 | 被引量 : 0次 | 上传用户:scottwong522
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  摘要:本文探讨了地理信息公共服务平台数据层更新面临的问题,介绍了地理空间数据的高性能计算,结合高性能计算在地理信息公共服务平台数据更新中的应用实例,对今后高性能计算在空间地理信息领域的发展进行了展望。
  关键词:高性能计算;地理信息公共服务平台;地理空间数据更新
  地理信息公共服务平台是针对政府、企事业单位、科研院所、公众对地理信息资源综合利用、高效服务的需求,依托测绘地理信息部门现有地理信息生产、更新与服务架构,以及投入运行的涉密与非涉密广域网物理链路,在全国不同地区宏观、中观到微观地理信息资源上开发的分布式地理信息公共服务系统。地理信息公共服务平台通常包括标准体系、基础设施、数据层、软件层、应用层和用户层等部分。
  1 数据层更新面临的问题
  数据层的建设是地理信息公共服务平台建设的核心任务之一。平台数据层包括矢量地图、影像、电子地图缓存瓦片、三维模型及场景、导航等其他专题数据,数据量庞大。在2011年建成的国家天地图(国家地理信息公共服务平台公众版)中,集成的基础地理数据资源总数据量约30TB。各级公共服务平台建成后,地理信息数据的现势性成为用户关注的重点。如何有效的持续更新数据层是整个平台运营的关键。
  平台中海量、多元空间数据的更新是以一定的周期进行,数据集成处理工作量、耗费存储空间巨大。现有的空间数据处理技术大多数还停留在单机处理或者客户端/服务器计算模式,效率不高。尤其是对超大规模空间数据处理的效率,无法满足人们的需求。
  2 地理空间数据的高性能计算
  地理空间数据的高性能计算是GIS、空间分析、高性能计算技术等科学和技术交叉、融合、发展的结果。探索把高性能计算技术应用到地理空间数据处理和更新中,是否可以满足地理信息公共服务平台对强大计算能力的迫切需求,在哪些数据技术处理流程上采用高性能计算技术,如何测试和验证高性能环境下的空间数据高效处理能力,是本文探讨的主要内容。
  高性能计算(HighPerformanceComputing,简称HPC)是指从体系结构、并行算法和软件开发等方面研究开发高性能计算的技术。高性能计算(HPC) 通常使用很多处理器(作为单个机器的一部分)或者某一集群中组织的多台计算机(作为单个计算资源操作)的计算系统和环境。
  3 高性能计算环境下地理信息公共服务数据更新实验
  3.1 高性能计算环境下影像处理实验
  当前,新的遥感技术在获取高清晰、大比例尺、高现势性、短周期等特点的影像数据上取得了突破,是地理信息公共服务平台重要的更新数据源。新获取的高清影像数据量大,重叠度高,传统的单机遥感软件处理比较困难。以较低成本实现海量遥感影像快速自动化处理成为技术探索的主要方向。
  目前影像自动化高效能处理是影像处理研究的热点,国内外同类软件有Pixel Factory、CIPS集群式影像处理系统、PixelGrid等。该类系统具有集群计算机系统并行分布式计算的特点,能把网络互联的高性能集群通过软件的方式进行通信和协作,以一定的任务调度策略共同完成影像数据的分布式处理工作。在影像预处理、核线影像生成、影像匹配和影像正射纠正等作业步骤上系统实现了自动化处理,从而减轻人员的工作量,提高影像处理效率。
  以湖南某地区无人机数码航摄数据为例,该地区共有14条航线,868张航片,数据处理总耗时30.9小时。该地区地貌以平原为主,平均高程约为50米。影像分辨率6微米,航高400米,影像行列數3744×5616。实验的设备包括存储设备和PC集群,存储设备为16TB磁盘阵列,缓存8GB,带宽2Gbps,每台PC机配置如下: 处理器Intel(R) Core(TM)2 Quad CPU Q9550 2.8 GHZ,内存4G。影像自动化处理软件PixelGrid。
  实验证明,基于集群进行大规模遥感数据的并行处理,相比其他单机遥感软件,其生产效率有明显提高,可以实现1人在短的时间内完成生产,不仅提高工作效率,由于软件的自动作业模式,可以实现夜间无人作业。该数据生产模式对于应急、救灾等突发性事件的处理有着广泛的应用,可以高效完成地理信息公共服务平台影像数据更新处理工作。
  3.2 高性能计算环境下地图缓存数据处理实验
  地理信息公共服务平台一般采用瓦片技术,以迅速响应大数据量、大用户量的在线地图并发访问请求。缓存地图瓦片一般是由大量的零散图片构成,2011年,国家天地图(国家地理信息公共服务平台公众版)瓦片数量近30亿张,以湖南省为例,省级平台的瓦片数量近亿张。
  地图缓存瓦片的制作、检查、复制和更新的时间代价巨大。在缓存瓦片的制作工艺流程中,由于涉及大规模矢量、影像等空间数据库的访问,地图显示效率受到极大的影响,地图刷新速度慢,延长了电子地图的制作和修改的时间。创建缓存瓦片需要软件不间断运行几天甚至十几天。缓存瓦片的检查工作目前以传统的人工目视检查为主,通常会涉及原始数据、电子地图符号配置的修改。因此,为了缩短地理信息公共服务平台的缓存瓦片生产周期,加快瓦片更新发布的速度,探索高性能环境下的地图缓存处理成为了研究方向之一。
  以湖南省为例,全省地图缓存瓦片的生产先后使用了中档服务器和高性能服务器进行处理,处理软件为ARCGIS。测试证明,GIS服务器和桌面应用程序能够利用到多核CPU的优势。桌面应用程序使用地图图层或是加速栅格图层,会使用到多线程来实现绘制和渲染操作,程序的用户界面反应比之前的版本更快。服务器能利用到多CPU设置,支持多并发用户进程。瓦片缓存服务可以配置为多个实例来支持并发处理,高性能服务器在地图浏览显示和瓦片处理上效率有较大提升。
  4 总结与展望
  本文探讨高性能计算在地理信息公共服务平台数据更新流程上的应用,以实例验证了在一定程度上该技术能够提高数据处理的效率。在经费充足的条件下,如果能增加硬件的投入,数据处理的效率将会得到更大改善。相关的实现技术还有待更深入的研究和探讨。
  目前,高性能计算在地理空间领域的应用还不是很广泛。这一方面是因为地理空间算法复杂,需求多样,高性能计算技术尚难以实现成熟的应用;另一方面由于空间数据处理的高性能计算技术成本较高,阻止了相当的可能应用。我们还需要做更多的工作,提高技术的实用性,促进它在地理空间信息领域的推广和应用。
其他文献
今年1月9日,张家界、庐山和五大连池收到联合国教科文组织的黄牌警告,要求其在“向公众科普地球科学知识”等方面整改。1月26日,新疆取消了10家3A级景区资质,对18家景区发出整改警告,要求30家景区限期整改。这些新闻告诉我们,旅游景区对于品牌创建与维护,要有端正和认真的态度。  “拿牌”与“发牌”皆动机不纯  一个旅游景区从无到有,面临的第一个任务是在全国上万个旅游景区中树立自己的品牌,达到五“可
期刊
近期,楼市的持续回暖让房地产调控者颇为尴尬,迫使国务院常务会议不得不在今年两会前祭出“国五条”,以稳定房地产调控预期。  越调越涨的“空调”政策已经让大家见怪不怪,这次究竟会不会动真格?房地产调控政策能不能落到实处?房产税会不会全面开征?  仅从“国五条”的表述来看,其力度和措施暂时还难堪重任,只有“扩大个人房产税试点范围”这一句话值得高度关注,不过目前反对征收房产税的声音很多,大都是“房多多”和
期刊
国内广泛使用的房地产指数是中国指数研究院编制的中国百城房地产指数。根据中国指数研究院的网站,中国百城房地产指数的房价样本范围,包括各城市所有在售商品房项目(新房)。  国内广泛使用的房地产指数是中国指数研究院编制的中国百城房地产指数。根据中国指数研究院的网站,中国百城房地产指数的房价样本范围,包括各城市所有在售商品房项目(新房)。  这一曾在成熟国家被广泛被采纳的编制方法,在過去一段受到了国外学界
期刊
经济改革,土地不改,满盘皆空。  房地产是核心资产,这一点在深圳的新一轮土改中再次得到印证。  从出台的政策看,深圳土改有三大目标:逼迫低端、污染企业离开,吸引大型企业、高附加值企业,为后者腾出土地;盘活工业楼宇;为政府与企业增加资产。  与其他大城市一样,深圳土地资源有限,截至2010年底,深圳市建设用地规模达917平方公里,占全市陆地总面积的46%,触及50%的土地利用上限,且仍在以年均增加3
期刊
国务院总理温家宝2月20日主持召开国务院常务会议,研究部署继续做好房地产市场调控工作。就日前通过的“国五条”来看,基本上保持了既有调控政策:稳定房价的省长负责制,遏制投机行为,增加普通商品住房及用地供应,加快保障性安居工程规划建设,加强市场监管。  首先,就建立价格稳定机制而言,会议要求各直辖市、计划单列市和除拉萨外的省会城市要按照保持房价基本稳定的原则,制定并公布年度新建商品住房价格控制目标,建
期刊
第二轮页岩气招标的落幕,并没有令各路资本押宝页岩气止步。  近日,没有直接参与招标的四川民企宏华集团以与神华地质勘探有限责任公司(以下简称神华地勘)合作的方式,曲线进入页岩气开发领域。与此同时,美国页岩气“巨鳄”Carrizo公司也跃跃欲试,想通过技术合作从中国页岩气市场分得杯羹。  不过,值得警惕的是,当前页岩气勘探开发中存在“虚火”成分。据了解,一些企业跨界进军页岩气有着更多“画大饼”式的炒作
期刊
美国国家公园管理制度强调独立性  1916 年美国成立了国家公园管理局, 开辟了国家公园管理的新篇章。国家公园系统由联邦政府内政部下属的国家公园管理局直接管理。克林顿政府对国家机构进行了全面改革后, 新的公园管理体制于1995 年开始实施。新的管理体制是在华盛顿总部国家公园管理局的领导下, 全国设立7 个地区局, 并以州界划分管理范围, 地区局下设16 个支持系统。一般由生态环境和资源类似的公园组
期刊
常德市地处湘西北,土地总面积1.82万平方公里,耕地保有量692.7万亩,其中基本农田599.3万亩,境内三分之二以上为洞庭湖淤积平原,农业生产条件优越,粮食产量居全省首位。  2010年以来,常德积极探索农村土地综合整治新机制,形成了“4422”农村土地综合整治常德模式,取得明显成效。累计新增耕地7.42万亩,建设高标准农田55万亩。  以“四动”构建土整新格局  政府推动。2010年,常德市委
期刊
澧县古为澧州,位于湖南省西北部,这里有世界上最早的古稻田,这里有中国最早的古城址城头山,同时,勤劳朴实而富有创造力的澧县人民,在澧阳平原上谱写了一曲神奇的葡萄神话。  初夏时节,当你穿行在广阔的澧阳平原,一片片标准的葡萄园,一排排整齐的销售大棚,一串串晶莹剔透的葡萄将会展现在你的眼前。红地球、红宝石、美人指、维多利亚、粉红亚都密……每个品种都色泽晶莹,流光溢彩,粒粒果大个圆。  无公害优质葡萄  
期刊
摘要:本文首先介绍了“数字湖南”地理信息数据和当前主流存储技术的特点;经过对比分析,确定了最适宜 “数字湖南”数据中心的数据存储技术。接着以某地理信息中心为例,分析了地理信息数据的存储现状和需求。在此基础上设计了数据存储方案,并对方案进行了评价。  关键字:“数字湖南”;DAS;NAS;SAN;虚拟化存储  0 前言  地理空间框架是“数字湖南”的核心、重要基础与支撑。而地理空间框架由地理信息数据
期刊