基于DPI大数据的分布式平台设计与应用

来源 :北京邮电大学 | 被引量 : 4次 | 上传用户:linchenxu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的不断发展,人们发现海量数据具有非常大的价值和无限的想象空间,从而催生了“大数据”这个概念。大数据分析相比于传统的数据仓库应用,具有数据量大,查询分析复杂等特点。许多研究机构和公司提出了许多解决方案,比如Nathan提出的Lambda架构,Kappa架构等等。对于一个刚刚在大数据方面起步并且想在数据分析方面有所作为的普通公司,如何快速有效地搭建一个分布式的大数据分析平台,并且如何能够利用其构建自己的数据分析应用,成为了这个公司的首要要解决的问题。本文的核心工作是设计、分析和搭建了一个基于DPI数据的分布式数据分析平台,并且基于这个平台,构建了两个应用:网页自动分类和群体用户画像。具体来说,本文的主要工作内容包括基于DPI数据的分布式数据分析平台的构建、基于该平台的网页自动分类应用、基于该平台的移动用户群体画像应用。本文首先介绍了该平台的架构设计、平台的功能设计、平台的各个模块的设计。架构的设计主要要从当前的实际情况出发,选择相应的技术栈。本平台的架构主要分为了三层:数据层、应用层和展现层。主要采用的技术为Hadoop、Hbase、Hive、Django等等。第二部分是实现一个基于该平台的网页自动分类应用。本文所实现的网页自动分类采用通过网络爬虫获取的url分类信息作为训练集,利用libsvm工具进行模型的训练。并且通过对SVM算法的参数调节和特征选择,对网页自动分类的准确率和效果进行了评估和对比,最终分类的精确度达到了超过百分之八十。第三部分是设计和实现了一个基于该平台的移动用户群体画像应用。移动用户群体画像的重点是标签的设计和标签的挖掘。本文根据特定的需求和现有的数据,设计了一套群体用户画像的标签,并且通过该平台对这些标签进行了挖掘,最终在平台的展现层中进行了渲染和展现。最终,本论文中所实现的平台得以在线上运行,并实际产生了良好的反馈。
其他文献
波兰伟大的钢琴家、作曲家里奥波德·戈多夫斯基创作的《爪哇组曲》是一部具有浓厚东方情调的钢琴艺术精品,也是作曲家原创钢琴作品中的重要代表,而由于作品的技术艰深,
目前,各国政府都将应急管理作为政府的重要公共职责。在应急管理运行中,考虑运作模式的低成本高效率,注重常态与非常态的有机结合和灵活转换。在常态下,应急管理机构的职能包
空间站运营任务规划是空间站长期运营关键技术之一。通过回顾国外载人航天任务规划技术的发展历程,介绍空间站运营任务规划主要概念、规划流程和规划产品,以及国外典型的空间
通过对西亚斯国际学院地域、文化和学校环境的综合分析,论证了郑州大学西亚斯国际学院筹建武术国际化推广基地是“天时”“地利”“人和”.文章提出这将是系统性利用留学生传播
疾病管理可提高医疗的服务质量,减少不必要的医疗费用,执业药师在疾病管理尤其是慢病管理中可发挥重要作用。本文介绍了执业药师在疾病管理中的作用,并提出执业药师在慢病管
目的:探讨颈内动脉(ICA)颅外段内中膜厚度(IMT)与经颅多普勒(TCD)脉动指数(PI)在缺血性脑卒中患者中的相关性。方法对199例ICA供血区急性脑梗死患者,分别检测双侧ICA颅外段IMT及PI,观
<正>颈1横突综合征,属于骨伤科及脊柱相关病中综合性疾病,以往骨伤教材及骨伤疾病治疗学中,尚未明确提及本病,我院应用水针刀法与筋骨三针法治疗颈1横突综合征268例,均取得显
会议
随着光伏发电的迅猛发展,光伏发电的市场定价改革势在必行,可是当前光伏发电市场上网电价仍然依靠国家政策性补贴,导致发电成本居高不下。为了进一步激活光伏发电市场,本文根
加强小学生国防教育,是增强国防意识,实现素质教育,履行教师职责的重要举措之一。对此,从国防教育角度切入,重点阐述了加强小学国防教育的有效策略,以期为广大学者提供参考。
新型无机保温材料作为一种功能材料,近些年发展迅速,在工业和建筑领域已得到广泛应用。非金属矿物材料具有耐高温、低导热的优势,是一种难燃材料,作为增强保温材料特性的一种