分布式短文本数据流分类方法研究

来源 :合肥工业大学 | 被引量 : 0次 | 上传用户:mypika
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
实际应用领域涌现出大量的短文本数据流,如:微博数据、实时弹幕和实时评论等。其主要具有两大特点:一方面每个文本都十分短小,缺少充分的上下文语义信息;另一方面,随着时间推移,文本流快速海量涌现,且其类标签分布也在不断发生变化。上述特点导致在短文本数据流分类时出现信息稀疏、歧义、概念漂移等问题,使得传统的文本分类方法难以直接应用。因此,如何快速有效地处理海量实时的短文本数据流,成为实际应用领域数据流挖掘的重要而富有挑战的任务之一。基于此,本文开展了分布式短文本数据流分类方法研究,主要研究工作包括:(1)为了解决信息稀疏、歧义、概念漂移问题,提出一种基于Word2vec的分布式短文本数据流分类方法。该方法首先使用外部语料库构建Word2vec词向量模型完成短文本的向量化过程,通过丰富的语料信息以弥补短文本的信息不足,并获取训练过程中的罕见词构建扩展词向量库以降低词歧义的影响。其次,提出一种分布式Logistic Regression(LR)集成模型用于分类海量实时的短文本数据流,其中分类器参数能随数据流的到来而不断地实时更新。同时引入时间因子机制以适应概念漂移环境。最后,利用Apache Spark平台实现所提方法的分布式处理,在3个真实短文本数据流上的实验结果表明:与基准算法相比,所提方法具有更低时间代价消耗与更高的分类精度。(2)为了进一步提高短文本数据流分类的精度与时间性能,提出一种基于深度学习的分布式短文本数据流分类方法。不同于上述所提方法,该方法首先采用多粒度的短文本扩展,在词粒度上保留了上述所提方法的机制,即通过外部语料库构建Word2vec模型获取词与词之间的相关性以扩展短文本;为了进一步丰富短文本,考虑了句子粒度上语义信息,即利用CNN网络提取短文本中深层语义信息。其次,提出一种分布式弹性神经网络,能根据当前数据流的变化自扩展网络模型的深度。同时,设计了概念漂移检测器来检测数据流中隐含的概念漂移,以动态地调整网络中历史信息与输入信息对最终结果的影响。最后,利用Apache Spark平台实现所提方法的分布式处理,并在3个真实短文本数据流上的实验结果表明:所提方法比目前主流的短文本数据流分类算法具有更高的分类精度和更低的时间代价消耗,同时也优于上述所提的基于Word2vec的分布式短文本数据流分类方法。
其他文献
有机场效应晶体管(OFETs)由于其低成本、可溶液法制备、可柔性化等优势,在有机光电器件领域具有广阔发展前景。虽然OFETs器件迁移率已经从10-5 cm2 V-1s-1提高至超过40 cm2 V
近年来,图像语义分割已经成为计算机视觉领域中最活跃的任务之一,其目标是将图像像素分为具有语义意义的区域。随着计算机硬件的发展,机器学习算法逐渐被深度学习方法所取代,
图像文本描述生成旨在将图像翻译成完整的自然语句。它涉及计算机视觉和自然语言处理。一方面,尽管图像文本描述生成在深度神经网络的快速发展下取得了良好的效果,但过分追求
LDPC码作为目前提出的性能最逼近Shannon极限的信道编码方式,在纠错编码中起着重要的作用。研究表明,基于有限域GF(q),(q>2)构造的非二进制LDPC码在短码或中等码长领域性能更
通用航空作为民用航空的两大组成部分之一,为我国的国民经济和社会发展发挥了非常重要的作用,近年来,随着国家支持通航发展的政策日益优化,通航发展的热情高涨起来,越来越多
自适应信号处理技术对当今时代的发展具有着十分重要的意义。在某些较为特殊的测量领域中,如太空环境,由于测量环境受到温度影响会使测量数据产生不同程度的波动,故会导致常
随着现代信息的爆炸式增长和数字时代的到来,图像逐渐作为信息传播的主要媒介,广泛应用到各个领域。图像在传播过程中,以其迅速、直观和高效的特点让受众以视觉化方式接收信
为了探究河南省基层优秀青少年排球教练员赛事指导行为的客观规律,借鉴Pierre Trudel的COSG(Coaches Observation System for Games)行为观察工具,根据青少年排球教练员赛事
随着高速铁路的迅速发展,乘坐高铁出行已成为很多人的首选。然而,传统的铁路全球移动通信系统(Global System for Mobile Communications-Railway,GSM-R)不能满足乘客的宽带无线通信需求。针对此问题,国际铁路联盟提出铁路长期演进(Long-Term Evolution for Railway,LTE-R)系统。因其在高移动性环境下具有高可靠性和高数据速率等
历史学科教学是国家进行公民教育的重要途径之一,在初中历史教学中对学生进行法治思维培育,是助力初中生形成法治认知、涵养法治情感、提升法治素养的现实需要,同时有助于实