面向主题的双约束网页采集方法的研究和实现

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:luhaixiong1971
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
Web信息分布的局部专题化是互联网信息所呈现的特征之一,伴随着面向主题信息获取的需求越来越多,用户希望主题信息获取能够做到领域信息搜集更完备、更新速度更快、并能够自动发现领域内的主要资源,进而研究主题信息的变化及其分布特征。由于主题信息一般只占整个Web很小的一部分,并且具有分散性,因此传统的基于宽度优先或深度优先的搜索策略在Web信息搜集的效率上难以达到期望的要求。面向主题的网页抓取系统的主要任务是利用有限的网络带宽、存储容量和较少的时间,抓取尽可能多的主题相关网页。本文首先对通用搜索引擎的工作原理作了简单介绍,进而对搜索引擎的一些关键技术如网络爬虫、信息抽取、文本分类、网页排序等进行了阐述。接下来介绍了主题搜索引擎的工作原理,并分析了其关键技术和研究热点。随后,研究了主题搜索技术中主题特征模型的构建与更新、主题网页识别两项关键技术。接下来,本文重点讨论了主题网络爬虫的抓取策略,分别论述了基于网页内容的启发式方法和基于Web超链结构的方法。综合考虑到效率和主题漂移等问题,提出了一种新的基于网页内容和Web超链结构的双约束网页采集方法,提高搜索引擎的主题资源覆盖率,同时可以较好的避免主题漂移现象。最后,在以上研究基础上,实现了一个主题搜索引擎原型系统。该系统不仅能够准确自动地爬行到主题相关的网页,而且还可以节约网络带宽,具有良好的稳定性。通过对比,验证了系统在查全率、查准率、主题满意度等评价指标上都达到了较高水平。
其他文献
由于缺乏有效的激励手段,传统的P2P (Peer-to-Peer)网络普遍存在着搭便车现象以及“公共物品的悲剧”等问题,严重影响了网络的健壮性及可用性。因此,如何构建和设计合理的激
近几年,随着计算机的广泛应用,计算机视觉、图像处理及可视化技术成为非常热的研究方向,也越来越多的应用在诸如医学等其他领域内。另一方面,医学领域内的磁共振成像(Magneti