基于Hadoop的分布式并行增量爬虫技术研究

来源 :计算机测量与控制 | 被引量 : 0次 | 上传用户:mm315
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
面对多媒体社交网络中在线视频的爆炸式增长,使用单机模式下爬虫提取新视频页面的效率低下,为此,提出一种基于Map/Reduce的并行算法,大大提高了爬虫的效率;但是为了进一步改善数据冗余问题,减少过时页面的更新,改进了一种精度感知增量更新算法,利用监控技术监控网页变化情况,分析网页更新模式,增加新鲜度评估和降维处理,使用混合整数二次规划方法为发生更改的网页制定最优的刷新策略;实验证明,相比单机模式下定期频繁的刷新策略,该并行增量方法以原刷新代价的36.7%获得了79%的信息精确度,爬虫效率提高了167倍。
其他文献
合伙、公司、独资企业是世界各国所确认的三大市场主体,我国新修订的《合伙企业法》对合伙企业形态进行了完善,新增的有限合伙与有限责任合伙在构成主体、执行合伙事务、民事责
摘要:所谓教学方法就是围绕着一定的教学目标,依据教学内容和高校学生身心发展的特点以及条件因素,设计教学要采用的策略、方法和组合。在课程内容确定之后,恰当的教学方法是影响教学质量的关键因素。所以选择合适的教学方法是提高教学效率、保证教学质量的前提和基础,在教学中可以起到事半功倍的效果。  关键词:高校教师;教学方法;教学目标  中图分类号:G642.4 文献标志码:A 文章编号:1674-9324(
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
无论直观感受还是理论分析,全球已然真切地从美国制造、日德制造时代转入了中国制造时代。
目的 探讨开腹胆囊切除术与腹腔镜胆囊切除术治疗胆囊结石的临床效果,为临床应用提供参考意见。方法 选取我院2014年2月至2016年5月所收治的174例胆结石患者,根据治疗方式不
目前,中国的高等教育总体仍滞留于量的扩张的发展模式,不能很好地适应高质量发展的人才培养需求。2018年6月教育部本科教育工作会议提出的"四个回归"开启了向高质量发展的征
农药生测喷雾技术是近年来随着现代农药生物测定试验迫切需求而快速发展起来的精准喷雾技术,特别对农药生物测定的微量、均匀、重复性精准喷雾技术提出了很高的要求。本文对
<正>酸化剂作为饲料添加剂有着较广泛的用途,作为畜禽饲料添加剂应用已有近40年的历史。目前市场上主要是由有机酸复配的复合型酸化剂,可作为酸味剂提高饲料的适口性和饲料转
作为当今中国期刊的第一品牌,《读者》历经二十拿年,成为中国发行量最大的杂志,本文从受众、内容、市场三个方面探讨了其品牌塑造和品牌经营策略的成功经验,为品牌时代的其它中国
在经历狂飙突进式的飞跃之后,中国SMT产业的发展渐趋平稳,一个指标性的数据,体现在海关统计的我国进口贴片机的数量和金额,上半年同比下降,去年上半年进口4469台,今年上半年则为372