用MapReduce框架构建虚拟天文台数据节点

来源 :天文研究与技术:国家天文台台刊 | 被引量 : 0次 | 上传用户:neckil77
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
MapReduce是一种大规模分布式并行处理框架,最初被用于互联网服务中的海量数据处理,并逐渐扩展到各个行业领域。目前,虚拟天文台面临着越来越多的地面及空间望远镜观测到的海量天文数据。为了提高中国虚拟天文台数据节点处理海量天文数据的能力,首次提出基于MapReduce框架构建中国虚拟天文台数据节点的方法,并以批量星表交叉认证为例描述了具体实现过程,性能评估结果证明基于MapReduce框架构建虚拟天文台数据节点,可以在性能、扩展性与成本等多方面获得收益。
其他文献
我国的天文底片数字化工作已正式启动,选取高精度的扫描仪是该工作首要和基本的任务。对Epson公司的V750 Pro和10000XL,以及Phase One公司的PowerPhase FX+扫描仪开展了测试,结果表明,PowerPhase FX+具有较高的扫描精度,一方面,该扫描仪扫描方向的稳定性与线阵CCD方向相当,均优于0.5μm;另一方面,通过UCAC3参考星归算结果显示,尽管PowerPha
在规模化养猪生产过程中,由于猪群的密度高、饲养量大,寄生虫容易流行传播。通常情况下,规模化养猪场感染流行的寄生虫主要有3类,即线虫类、螨虫类和原虫类。常见的寄生虫有猪蛔
通过利用Monte—Carlo方法对湍流相位屏模拟进行验证和分析。给出加入次谐低频补偿相位屏与直接谱反演相位屏的对比结果,并分析了在考虑内外尺度时次谐低频补偿方法的有效性。
各高校在帮困助学中已基本建立了以奖、贷、助、勤、减、绿色通道和社会慈善助学在内的一体化资助模式,但是这些资助都是"结果性资助",只能是短暂性地解决贫困生的生活问题。
在兽医临床工作中常遇到由于各种原因引起的牛贫血而需要进行紧急输血。如今年由于气候的原因,入夏以来牛焦虫病多发,时有由此病引起的贫血病牛需要输血。
2006年上半年,生猪养殖在价格低谷期和疫病等因素的影响下,散养户纷纷落马,规模养猪场也损失不小。2007年4、5月份,生猪价格暴涨,让消费者叫苦不迭,养猪业着实赚了一把。2008年,生猪
对天文望远镜的观测数据或控制过程状态进行实时的图形化显示,是天文仪器研制过程中的一个重要环节。随着Linux操作系统在天文领域的广泛应用,如何开发基于LINUX图形界面的实
1常见的病理变化畜体淋巴系统中淋巴结分布于淋巴管道上,当机体某器官或局部发生病变时,细菌、病毒等致病因子可沿淋巴管到达相应部位的淋巴结中,该部淋巴结中巨噬细胞为了吞噬
使用云南天文台丽江观测站2.4m望远镜云南暗弱天体光谱及成像仪(Yunnan Faint-Object Spectrograph and Camera,YFOSC)终端观测时,有时会产生明显的干涉条纹。采用空域栈中值滤波
为了对EMCCD冷指温度进行精确的控制,介绍了一种新的温度检测与控制系统的设计方案。该系统采用铂电阻Pt1000作为温度敏感元件,AD7705作为模数转换模块,以单片机STC89C52为核心实现数据采集与加热控制功能。温度数据可以在系统的液晶屏上实时显示,也可通过RS232串口传至上位机进行显示、存储。系统测试时,分别采用了20 V和18.5 V的电源电压对EMCCD冷指进行加热。测试数据的统计分