主流开源爬虫框架比较与分析

来源 :电子世界 | 被引量 : 0次 | 上传用户:mazd88
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网络爬虫是搜索引擎与信息检索的基础工具,在信息采集、信息过滤等场景中有着广泛的应用。本文首先介绍了URL链接库、文档内容模块、文档解析模块等爬虫基础概念,然后对比分析了Nutch、Heritrix、Larbin、Scrapy等主流开源爬虫框架。
其他文献
我国翻译实践的地位及译者的地位给人以每况愈下之感,这与当今"繁荣"的翻译局面形成了很大的反差。本文简略对比我国译事之今昔,结合自身对翻译实践现状的感悟,分析造成这种
主要论述基于我国国情的"多规融合"的空间发展规划框架问题。文章认为,"多规融合"的空间规划框架,就是在原有国民经济和社会发展规划、城市总体规划、土地利用规划、环境保护
<正>引言甲壳素(chitin)又名几丁质、壳多糖、虫膜质、蟹壳素及聚乙酰氨基葡萄糖等[1],是由2-乙酰胺基-2-脱氧-D-吡喃型葡萄糖基β-1,4双基键合而成的直链多糖,聚合度约一万,
<正>1921年8月5日《女神》由上海泰东图书局初版发行,以此宣告了郭沫若正式登上了"五四"文学的舞台,同时也预示着中国新文学史和新诗史进入到了成熟阶段,同时《女神》成为"郭
会议
丙型肝炎(Hepatitis C)是威胁人类身体健康的重要传染病,其病原体是丙型肝炎病毒(Hepatitis C virus, HCV),全球范围内大约有1.7亿人感染了HCV,我国的感染率约为3.2%。HCV感
文中给出了一道2003年摩尔多瓦国家集训队试题:设x,y,z都是正数,且x+y+z≥1,则y+z^x√x+x+z^-y√y+x+y^-z√z≥2√3(1)的证明。但思路较复杂,技巧较强.本文给出(1)的另外三种较为简捷的证法,并
<正> 近年来,我国的对虾养殖事业发展很快,虾苗的需求量急剧增长。与此同时,我国的对虾增殖工作也日益受到重视,并开始向有关海区试放虾苗,以增殖我国的对虾资源。为此,迫切
本刊讯:在郑州上初中,考高中却要回老家报考,这一直是不少外来务工人员子女的一大烦恼。但从今年6月开始,他们将不再有此烦恼。郑州市政府近日公布了《关于做好进城务工人员随迁
目的:通过随访非活动性HBsAg携带状态患者,分析其不同转归的相关预测因子,进一步完善慢性HBV感染自然史。方法:本研究是一项回顾性队列研究,收集了117例从2013年1月至2014年1月期
目的:观察Hep G2.2.15细胞在不同浓度葡萄糖培养基条件下HBs Ag及HBe Ag的表达差异,并探讨其表达是否与PGC-1a相关,初步研究乙肝病毒与代谢之间的关系。方法:1)本实验通过体