【摘 要】
:
互联网技术的快速发展为人类提供了一个源源不断的信息源,面对海量的信息资源,如何利用自动化的方式快速、精准地从海量的中文文本中提取出对用户有价值的信息,已成为自然语言处理领域中的核心的研究焦点之一。云计算的迅速变化为海量中文文本数据的分布式存储和挖掘分析带来了优势和友好的条件。该中文计算系统的存储是HDFS文件系统,HDFS文件系统拥有的吞吐率高和容错性好等一连串的特点,此与大数据挖掘分析的要求也很
论文部分内容阅读
互联网技术的快速发展为人类提供了一个源源不断的信息源,面对海量的信息资源,如何利用自动化的方式快速、精准地从海量的中文文本中提取出对用户有价值的信息,已成为自然语言处理领域中的核心的研究焦点之一。云计算的迅速变化为海量中文文本数据的分布式存储和挖掘分析带来了优势和友好的条件。该中文计算系统的存储是HDFS文件系统,HDFS文件系统拥有的吞吐率高和容错性好等一连串的特点,此与大数据挖掘分析的要求也很相符。本研究选取Spark用做数据分析处理的平台,由于Spark具有Apache Hadoop和MapReduce的两者优势,还有Spark因基于内存的计算引擎框架,此对迭代计算和机器学习算法效率提高有帮助。在这项研究中,朴素贝叶斯(NB)和逻辑回归分析(LR)被用于并行的中文文本分类,并对NB算法进行了优化,建立了自己的优化分类模型,最终在Spark平台上并行优化实现。其中的工作主要包括:针对海量数据的特征需要进行了一系列的预处理工作,本实验对于海量的文本数据的特征建立了改进的文本分类TNBIF模型。首先对文本数据进行去除噪声信息,句子分割,并进行分词和词性标注处理,对数据进行清洗过滤只保留指定词性的单词(如名词、动词、形容词),它们便是候选关键词构成候选关键词图。本研究选取TextRank算法,用于中文提取特征中文关键字,可以达到降低维度的目的。针对朴素贝叶斯分类算法中中文特征词后验概率计算方法的改进优化,克服普通贝叶斯未考虑某一类特征词个数在整个数据集所占有的比例,此类中含有该中文特征词的文档数在全部的数据集中拥有该特征词的文档的比例,本实验引入了权重值或者影响系数。改进的文本分类模型TNBIF算法模型在分布式框架下采用Spark集群环境来优化实现。在本研究中,我们设计并实现了用于大规模中文文本分类的并行化改进的朴素贝叶斯算法和逻辑回归算法。本实验选用了复旦大学语料库和搜狗语料库,在预处理阶段时,这两个文本语料库选择TextRank算法用于提取中文关键字和降维。本实验使用内部python程序进行顺序文本预处理,然后本实验应用词加权的并行计算,即TF-IDF。最后在基于Spark的NB和LR中提出并行分类。LR与NB相比,LR使中文文本语料库的准确率达到93%,并且使得同一语料库的准确率平均提高了4.03%。最后该实验在Spark集群中测试实验的最佳影响系数、分类精确度、召回率F值以及时间性能和加速比,实验结果分析表明,TNBIF模型要比其它分类算法结果要优,此模型在Spark平台上表现更加明显。
其他文献
<正>自2014年11月以来的国际油价下跌,以及今年上半年以来的一直处于较低油价让全球航空业受益。2015年6月22日美国交通部公布美国航空公司2015年Q1财务经营数据,美国航空公
随着互联网技术的高速发展,网络上的信息资源纷繁复杂并呈现爆炸式增长的趋势。推荐系统(Recommendation System,RS)由于具有信息过滤的特点,得到了各领域学者的不断研究。传统的推荐算法对用户偏好的挖掘主要通过分析用户的历史性,在项目候选池与用户池相对静止的场景下能够取得优秀的效果。目前,大量的推荐行为都是通过实时在线的方式完成的,这就要求推荐系统能够及时对用户反馈进行响应,并在一段
教师职业认同包含着教师对自身职业的认识理解和情感态度。它是教师自我发展的内在动力,直接或间接影响学生的学习效果和人格构建。教师职业认同实证研究能够反映教师的现实
查尔斯·狄更斯(1812-1870),是英国著名小说家,一生作品众多,影响巨大,受到了广泛的关注。《荒凉山庄》是狄更斯创作生涯后期的作品,情节丰富,规模宏大,是狄更斯最长的作品之
伴随着互联网技术的飞速发展,各种社交网站和应用层出不穷,使得人们的社交和各种信息需求被引导和释放。然而社交网站用户数量和信息内容激增使得普通人在拓展社交圈和获取有
权利属于现代社会研究中的关切热点,它映射着人类社会思想以及生产生活方式的历史变化,是现代经济社会中人的生存与发展的重要标志。立足于马克思对于人类社会三大形态的划分
近几年来,电子商务在我国发展迅速,借此带来了快递运输业的蓬勃发展,2014年我国完成快递业务量139.6亿件,使我国成为世界第一大快递国,2017年全国全年累计快递量超过400亿件,目前快递业务量在全国仍保持近30%的增长量持续增长。随着电子商务的发展和快递业务需求的快速增长,快递企业面临着挑战,因此,创新货运运输方式,有效整合各种运输方式的优势显得尤为重要。快递产品体积小、价值高、时效性要求高等
伴随中国特色社会主义迈入新时代,在“建设美丽中国”政策方针指引下,制浆造纸企业面临的环保压力越来越大,废水处理成为关乎企业能否可持续发展至关重要的因素。好氧处理作
随着网络时代的到来,我国互联网企业的上市融资、风险投资、并购重组等经济活动频繁发生。由于互联网行业在盈利模式、资产结构、市场环境等方面与传统行业有很大的不同,其未
近年来,随着科学技术水平的发展,转基因技术的研究也取得了许多喜人的成果。各种转基因食品的大量出现,一方面,有效满足了人们对不同种类食品需求,极大的丰富了人们的物质生