Web论坛数据抽取

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:babycat_hj
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
Web2.0为用户提供了丰富的应用,大量用户的深度参与使Web正演变成一个生态系统。在向用户展示信息的同时,Web2.0也吸引着用户贡献大量内容,这些用户生成的内容蕴含巨大的价值。作为一种典型的Web2.0应用,论坛为用户提供了一个信息获取与交流的平台。用户在论坛上发布信息和评论,例如介绍产品使用心得、交流生活感悟、讨论学校教育、发布社会新闻等,这些内容真实地反映了用户的需求、观点以及社会现象等。如何将论坛数据从Web页面中抽取出来,以支持商品推荐、专家发现、舆情监控等应用具有很强的研究与现实意义。论坛数据较为复杂,它不仅包含用户生成内容,还包括推荐、广告等噪音数据;此外,各论坛站点风格也存在较大差异,这为论坛数据抽取带来了挑战。传统的Web数据抽取技术通常面向相对规整的结构化数据,并不适用于论坛数据抽取,因而需要研究面向论坛数据的高效的抽取技术。本文的主要贡献包括以下几个方面:·提出了一种整合归纳逻辑程序设计和XPath模式学习的论坛数据抽取方法,该方法具有较高的准确率和召回率。该方法充分考虑了论坛页面的结构特征,引入新谓词,以整合逻辑程序表达式和XPath模式,采用分而治之的方法来学习XPath模式,以描述目标数据的结构特征。最后,将学习的XPath模式规则转换成XSLT文件,从而把抽取的论坛数据按照预定义的模型存储起来,以实现论坛数据的自动抽取。·提出了一种非监督的论坛数据抽取方法,该方法充分考虑了Web页面的结构特征和页而间联系,显著提升了抽取的自动化程度。基于同一论坛站点页面的结构具有相似性的特点,采用多页面联合比较的方法,将Web页面划分成稳定区域和非稳定区域,并通过页面级过滤和模板级过滤移除Web页面的大多数噪音数据。然后利用稳定区域中路径和非稳定区域中路径的相互关系,引入路径伴随距离和相似度计算路径之间的依赖关系,从而判定一个路径是否属于抽取目标的路径,实现论坛帖子内容的自动抽取。·提出了一种非监督的论坛数据抽取规则生成方法,该方法充分考虑了Web页面的结构和页面内容特征,提升了对不同论坛的适应能力,保证了帖子抽取的完整性。本方法是一个两阶段的抽取规则生成方法,同时开采了Web页面结构、用户发布帖子和论坛常规性的冗余信息三者的特征。在用户信息处理阶段,通过Web页而常规性的冗余信息获取用户区域,并发现用户区域中的最大子结构,从而获得用户信息:在帖子内容处理阶段,将用户区域转换成关系表中的记录,根据属性间的函数依赖关系来区分帖子内容和噪音数据。最后,将两个阶段获取内容对应的路径归纳成以正则树结构表示的抽取规则。综上所述,本文从不同的需求出发提出了三种论坛数据抽取方法。第一种方法采用有监督的抽取规则学习模式,能够获得较好的准确率和召回率,比较适用于小规模的论坛数据集合;第二种方法是非监督的抽取方法,直接从Web页面抽取数据,不显式地输出抽取规则,适用于较大规模的论坛数据集合;第三种方法也是非监督的方法,它首先学习抽取规则,然后基于规则抽取数据,兼顾了规则生成的自动化和抽取性能,能适应更大规模的数据集合。基于真实论坛数据的实验表明,上述方法能有效地从各种论坛中抽取数据。
其他文献
对广东高技术产业的背景、现状和有利条件作了实质分析,认为广东的高技术产业是广东经济发展的必由之路,广东高技术产业的发展及高技术产业的内容结构是其经济发展、产业结构调
应用随机前沿分析法测算1995—2008年广东省高技术产业的研发效率,并考察市场结构、企业规模、产业利润对研发效率的影响。研究表明:1995—2008年间广东省高技术产业各行业研发
最近,重庆市万州区委、区政府为广大农村村干部和城市社区干部献上了一份厚礼,对农村村干部和城市社区干部的待遇出台了具体补助标准,此标准比过去提高的幅度在40%以上。为了
介绍了冷弯免酸洗钢氧化铁皮的形成机理及其影响因素,分析了唐钢不锈钢1580热轧产线LW235-TS氧化铁皮的形貌、厚度及折弯掉粉情况,通过采用优化成分设计加入Cr成分、调整精轧
以广州某高端商业综合体的暖通空调设计为例,介绍了空调冷热源系统、风系统、水系统、消防防排烟设计,简述工程特色和空调冷凝热回收、排风热回收、变频技术等在设计中的应用
本文论述了榆阳区林业区域经济建设现状及发展趋势。在现有林业局发展思路的基础上,总结了该林业区域经济建设的成就,并提出今后林业区域经济建设的发展远景及规划。
2015年,一批高影响力的好莱坞系列电影纷纷投放全球市场。在这种压力下,国产电影却在市场上表现出色,票房收入占比高达61.58%。进口片市场份额则为10年来最低。年度票房收入
针对高速电驱动履带车辆机械制动器、电机和电液缓速器3种执行部件联合制动转矩响应的问题,提出了机械制动器、电机和电液缓速器动态协调控制策略。基于制动需求和车速等因素
电信级以太网是国际国内的热点问题,围绕着电信级以太网各国都投入大量人力物力进行研究。针对当前电信级以太网产品在软件系统任务调度方面的不足,提出了一种基于任务复合价值
经济全球化已成为世界经济发展的必然趋势,它将给我国的社会主义现代化建设带来巨大的冲击,使我们党的建设面临严峻的挑战.我们党必须稳住阵脚,沉着应对,坚持贯彻"三个代表"