舆情数据的多文档自动摘要系统的研究与实现

来源 :辽宁大学 | 被引量 : 0次 | 上传用户:hzp901124
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在信息量爆炸的今天,人们想要依靠互联网来获取自己感兴趣的信息已经越来越难,即使在同一个主题下,也有着非常多的信息冗余,而舆情数据更是如此,在同一个主题下的新闻,有许多都是完全一样的信息,而想要从这些舆情文本中获取同一主题下的不同信息就变得越来越耗费时间、精力。多文档自动摘要技术可以很好的解决这一问题。通过多文档自动摘要技术,可以将重复信息去除,并将与主题相关的不同信息提取出来,生成摘要文本,节省用户挖掘感兴趣的信息的时间。本系统在研究了多文档自动摘要相关工作的基础上,提出一种利用基于语义词典的聚类方法来获取多文档自动摘要文本的方法。基于语义词典的方法的优势在于可以对中文语料中的词语深入到语义层面来分析处理。本系统主要内容包括:1、基于语义词典的新词相似度计算。由于在舆情领域中,常会出现新词,这些新词通常与主题相关,在一定程度上可以视为主题。但新词无法进行相似度计算,针对这一问题,本文提出一种基于语义词典的新词相似度计算方式,该方式通过解析新词构成,将新词与语义词典中的词语对应起来,利用语义词典中的词语代替新词进行相似度的计算。2、词语聚类分析与句子聚类分析。以词语作为特征项对句子建立空间向量,没有考虑到词语之间的词义关系,在量化句子时,不能准确的根据词语来量化句子,后续的句子聚类结果的准确度就无法保证。针对于此,本文先对词语聚类,将相似的词语聚类成词语概念,以词语概念作为句子特征向量的特征项,避免词语之间的关系对句子聚类的影响。对句子进行聚类分析阶段,利用词语概念作为句子特征向量的特征项,同时利用句子之间的余弦相似度,利用基于密度的聚类算法DBSCAN对句子进行聚类,形成句子簇。3、基于重要度评分的摘要句的抽取。根据句子所属主题、次主题、页面结构等因素,基于句子聚类结果,提出一种重要度评分方法。按照评分高低对句子簇排序,再对句子簇内部的句子进行重要度评分,选取每个句子簇中评分最高的句子作为摘要句,按照句子簇的顺序形成最终的多文档自动摘要文本。通过上述方法开发的基于舆情数据的多文档自动摘要系统,经过测试,基本可以满足用户对同一主题下不同信息进行提取。
其他文献
汽车的制动性能是汽车的主要性能之一,解决制动初期的制动力分配难题对汽车制动安全具有重要的的意义。汽车防抱死系统(ABS)可以防止车轮在制动过程中抱死拖滑,大大提高了车
本文以法哲学的视角,对自然法与民法的文化、作了宏观的阐述。本文选择自然法学作为对民法考察的基点,并非要否认分析法学、社会法学对民法的影响及价值;并非对"形而下"的具
伴随着新一轮以互联网、大数据及云计算为主导的科技革命,汽车工业也在科技革命的浪潮中转向升级。车辆不断向电动化、网联化、智能化和共享化的方向发展,传统制动系统被电子
公开市场业务作为货币政策的主要操作工具之一,被中央银行用于管理银行系统内的流动性和政府与银行系统之间的现金流动情况,从而引导货币市场中利率的变动。中国人民银行于19
目的探讨不同的随访管理模式对临床试验项目执行情况的影响。方法选择某院两个临床试验项目,从入组的速度、项目执行过程的规范性、受试者依从性等方面进行比较。结果两个项
在铂电极上自组装一层纳米金(GNs),构建负电荷的界面,然后通过金-硫、金-氮共价键合作用和静电吸附作用自组装一层阳离子电子媒介体硫堇(Thio).再以同样的作用自组装一层GNs和辣
针对传统关系型数据库存储遥感影像的一些不足,探讨如何设计非关系型数据库影像存取管理系统,既能实现遥感影像的存储与管理,又可以节省开支与资源,力求以很小的代价实现遥感
由于世界各地战争和冲突从未中断,恐怖事件连绵不绝,导致军备工业得到快速发展,人们也越来越多地重视人体装甲防刺复合材料的研究和开发;尤其是在近些年来,各国研究人员都在
随着地球环境的恶化和能源危机的日益凸现,光伏产业成为世界各国大力发展的产业。硅基薄膜太阳电池由于其低成本成为人们研究的热点,而作为其电极的透明导电氧化物也越来越受到
目的考察无反应性社区获得性肺炎住院患者的临床特征、病因和易患因素,为肺炎的诊治提供参考。方法回顾性分析我科2009年1月~2010年6月收治的所有第一诊断符合社区获得性肺炎