【摘 要】
:
随着Internet的发展壮大,人们获取信息的途径逐渐被网络所替代,同时网络信息的增长也达到了惊人的速度。在实际应用中,用户往往有着自己的浏览习惯及特定的主题敏感性,通用网
论文部分内容阅读
随着Internet的发展壮大,人们获取信息的途径逐渐被网络所替代,同时网络信息的增长也达到了惊人的速度。在实际应用中,用户往往有着自己的浏览习惯及特定的主题敏感性,通用网络爬虫难免无法满足类似个性化的信息收集需要,现有的主题爬虫也有着种种弊端。论文通过分析总结主题页面在Web上的分布特征,设计并实现了一个Windows环境下的分布式的可定制主题爬虫系统CTCS (Customizable topic crawler system)。论文阐述了CTCS系统的工作环境、网络拓扑结构、子系统及其功能模块和工作流程,以及各子系统间通信接口的设计,对CTCS系统的各子系统的设计和实现都进行了详细的论述,包括大量的系统难点分析及解决方案。论文详细说明了CTCS系统实现中的一些特点:(1)在人工定制的过程中,抛弃了传统的纯数据项配置文件,将Groovy脚本引入配置,使得逻辑表达可出现在配置中,提高了配置的灵活性以及爬虫抓取数据的精度和速度。(2)利用基于HTTP协议网络通信下的客户端状态保持方式,实现了持有状态的HTTPClient组件,很大程度满足了对Deep Web数据抓取的要求。(3)使用Java RMI (Remote method invocation)构建了一整套灵活的分布式解决方案,此方案不仅仅支持爬虫系统,还可通过配置作为其它分布式业务的解决方案。(4)系统中引入日志中心的概念,将日志汇总并丌发预警功能,极大的方便了系统的开发和维护。论文的最后,对系统的运行效果进行了介绍。
其他文献
我国的军工企业在新时期承担双重使命,既承担着国防建设使命,同时也承担着自身发展的使命,四川航天工业总公司(SCAAT)作为中国航天科技集团公司的重要组成部分,也是四川军工
目的英国药典中收载了半微量生色底物法测定低分子肝素抗Ⅹa因子和抗Ⅱa因子活性,在此基础上,我们考虑是否可以将实验方法进行改进,用微量生色底物法测定肝素类药物活性。方法调
成语是中国语言和文化的重要组成部分之一。汉语四字格成语是成语的主体,具有浓厚的文化色彩和民族特色,最能代表汉语言文化。所以学习汉语、翻译成语,当以四字格成语为重点
养老是世界性话题,也是我们每一个人在上了年纪以后都将面对的现实问题。在世界上大多数国家,机构养老和居家养老是两大类主要养老模式。也许现在,你风华正茂、意气风发,但每
【目的】探讨柠檬酸钾、亚硫酸钠和维生素C等常用化学保鲜剂对草莓采后保鲜效果的影响,为其采后贮藏和运输提供安全、高效、低价的保鲜技术。【方法】以草莓品种法兰地为试验
茎秆水分与茎流速率是解析植物茎秆内水分传输的2个重要参数。设计了一种基于内边缘场电容效应的树干/枝水分传感器。采用有机溶液试剂法与枝条冻融法分别对传感器做了性能测
本文通过对美国艺术教育的实地考察和分析 ,指出美国艺术教育是在人文科技视野下实施的开放、多元、综合的艺术教育 ,具有如下几个特点 :从教育内容看 ,是跨学科、多层面、综
本文以三个维度为参照系,试图确立高中古典诗歌的教学内容,但这只是从中观层面来确立教学内容,不同类型的诗歌差别很大,如边塞诗与怀古诗,抒情诗与哲理诗,他们之间还是有很大
目的:建立柱前衍生HPLC法测定白土茯苓多糖中单糖的组成。方法:以三氟乙酸(TFA)水解白土茯苓多糖,水解产物加入1-苯基-3-甲基-5-吡唑啉酮(PMP)进行衍生化,采用反相高效液相色