基于分布式爬虫的游戏舆情监测系统设计与实现

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:joeworms
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着游戏市场的崛起,游戏相关从业人员亟需了解玩家对游戏的实际体验,以便有针对性地指导游戏运营与开发。与此同时,在舆情信息监测的实际业务中,也存在着手动收集评论信息范围过窄、信息处理效率过低以及分析结果过为主观等问题。因此,为了满足业务需求,本文设计并实现了一个基于分布式爬虫的游戏舆情监测系统。该舆情监测系统将高效分布式爬虫与舆情分析系统结合,可以实时高效地进行游戏评论数据获取和分析并通过可视化图表直观地进行展示。文本主要工作如下:1.分布式游戏主题增量爬虫。为解决游戏评价数量大、更新快、分布散的问题,本文设计了一个基于Master-Slave架构的分布式网络增量数据获取系统,以实时、高效地收集信息,同时设计了一个进行信息抽取的通用论坛信息抽取算法。此外,利用redis实现了一个高效的分布式Bloom Filter,极大提升了分布式环境下URL去重的效率。2.游戏评论数据分析。本文设计了包含网络新词发现、游戏热点追踪和游戏情感分析的游戏评论数据分析系统。针对游戏评论数据中新词、专有名词多的问题,使用左右熵和互信息结合游戏知识库实现了Tire树加速的游戏专有新词发现算法;针对从业人员自动探测游戏热点话题的需求,采用修正热度指标方法进行热点词的挖掘;设计了一种基于表情图标拓展语义的Skip-Gram词向量模型,且结合双向LSTM分类器实现了游戏评论数据情感倾向分类器。3.系统整体设计与实现。本文采用了Angular+Flask前后端框架以及Chart.js数据可视化框架基于前后端分离的思想,设计了整套评论分析系统。整体设计模式采用MVC模式,任务处理上采用API模式结合异步处理,整体系统性能良好,易用性和可拓展性优秀。依照本文思路构建的系统具有适应场景多、用户体验好等优点,已经在游戏公司内部进行试点使用,极大提高了相关工作人员的工作效率。为游戏从业者提供了一个更加方便、客观、专业的游戏舆情监测平台,帮助我国游戏产业取得更加长足的发展。
其他文献
传统霍尔推力器比冲一般不超过1600s,随着轨道转移、深空探测等大速度增量航天任务的兴起,对霍尔推力器的比冲提出了更高的要求,各航天强国均开展了高比冲霍尔推力器的研究工
我国创新创业课程经历了基础教育领域初具雏形、向高等教育领域延伸、在高等教育领域全面推进三个历史发展阶段。在发展历程中,存在层次结构较为合理,但课程模式较为单一;课
广西桂北某养殖户饲养的猪群从2006年8月8日起出现病死猪,主要症状为拉带血稀便,部分病猪迅速死亡。当地村兽医认为是猪痢疾,先后在饲料加痢菌净、土霉素和青霉素,虽控制了迅
根据过程控制实验的需要,采用MCGS组态软件开发三只水箱水位控制实验装置,并利用智能调节仪进行下位数据采集,通过实验证实实现了良好的测控效果。
某大水矿山在合理开采矿产资源条件下,采用"堵+回灌"相结合的手段,对矿区内地下水资源进行治理与保护。根据该矿山水文地质条件,采用全封闭帷幕注浆手段对矿区内的地下水资源
互联网时代,处处蕴含着商机。云南瀚农生鲜股份有限公司(以下简称'瀚农公司')董事长韦皓就将焦点放在了蔬菜零售业上。他通过开发线上蔬菜交易平台,搭建物流仓储、配
针对灌区调配水实践中存在的非法盗水及启闭机被盗的问题,探讨了新型防盗水用启闭机专利技术的研制、实验分析过程,提出了将常规圆柱形螺杆式启闭方式变为可拆卸的圆锥齿轮启
规模化畜牧养殖已有上千年的历史,养殖技术或许已经有了很高的水准,但是对于生态环境的防治,这个新话题却还是意识浅薄。在近年来生态环境这个新话题开始之前,畜牧养殖人员只
低结构作为建构游戏材料的一种,因其结构简单、功能多元、可变性强、操作性强的特点,深受幼儿的喜爱,在建构游戏中发挥了不可或缺的重要作用。在指导幼儿运用低结构材料进行
作者主要对3种延边黄牛妊娠母牛优化日粮进行了研究。选择16头离预产期3个月的延边黄牛妊娠母牛,随机分为试验1、2、3组和对照组,每组4头,试验组分别饲喂3种不同营养水平的优化