基于压缩-字对齐位图的天文海量数据实时索引

来源 :计算机工程与应用 | 被引量 : 0次 | 上传用户:qifasoft2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
澄江一米新真空大型天文望远镜(NVST)当前每天最大能产生2 TB,约十多万条的观测数据。由于这些数据量巨大并具有非结构化特性,使用离线构建索引会带来巨大时间开销,传统的关系型数据库难以满足快速索引和检索需求。针对这些问题,结合数据采集流程,提出了使用基于压缩的字对齐位图索引算法来在线实时构建索引。这种方式不仅克服了离线构建索引方式时,文件访问、FITS头读取和解析FITS头等操作带来的大量额外时间消耗问题,而且有助于解决海量太阳观测数据的高效检索难题。通过实验证明了在线实时构建索引方式能够极大地降低时间
其他文献
基于谱的错误定位(SBFL)方法能帮助程序员减小软件调试的困难。作为一种轻量方法,SBFL只需收集测试用例的覆盖信息和测试结果,计算程序每条语句的运行特征。众多SBFL方法,将四
为了有效地去除含噪图像中的噪声,克服总变分(TV)去噪易于导致阶梯效应的缺陷,提出了一种改进的二阶总广义变分(TGV)的图像去噪方法。介绍了二阶TGV的理论基础,在二阶TGV中引入了各向异性扩散张量,利用张量函数引导扩散,获得了新的去噪模型,最后提出了一种扩展了的原始-对偶算法对新模型进行数值求解。新模型充分结合了二阶TGV作为正则项自动平衡了一阶和二阶导数项,以及张量函数的各向异性扩散,有效突出
为满足现代高带宽互联网应用环境中的安全性保障要求,提出了一种基于Tilera GX36多核网络处理平台的IPSec VPN系统结构,利用SDN思想设计了系统控制面和数据面的程序功能模块,
命名实体识别技术在自然语言处理技术中占有重要的地位,通用的方法不能很好地解决机械领域的识别问题。基于字符串之间紧密相邻程度等统计特征,定义不同词之间紧密相连的程度,从
群密钥协商(GKA)协议在构建安全多播信道中扮演着主要角色。由于公钥管理的简洁性和高效性,基于身份的认证群密钥协商协议密码系统近年来成为热门研究方向。提出了一个基于Weil
安全性是决定车载自组网能否应用到军品运输车队中的一项关键因素,加密技术是满足车载自组网保密性、完整性和不可否认性等安全需求的重要技术手段。基于传统Hash函数的加密