【摘 要】
:
信息时代,实时流式数据更多地出现在数据采集场景中,传统的数据分析方法已经不能满足实时数据的处理需求。近年来,针对数据流的挖掘越来越成熟,出现了许多卓有成效的算法。作为数据挖掘的重要分支,聚类算法在数据流中的应用也取得了突破。传统的聚类方法主要是对已有数据进行批处理,更多地考虑聚类算法的准确性,而针对数据流的聚类,因为数据流的海量、实时等特性,聚类算法的实施需要考虑更多的因素,不仅要能快速地对数据流
论文部分内容阅读
信息时代,实时流式数据更多地出现在数据采集场景中,传统的数据分析方法已经不能满足实时数据的处理需求。近年来,针对数据流的挖掘越来越成熟,出现了许多卓有成效的算法。作为数据挖掘的重要分支,聚类算法在数据流中的应用也取得了突破。传统的聚类方法主要是对已有数据进行批处理,更多地考虑聚类算法的准确性,而针对数据流的聚类,因为数据流的海量、实时等特性,聚类算法的实施需要考虑更多的因素,不仅要能快速地对数据流进行扫描处理,还要能够将聚类结果实时响应,并且对于离群噪声点的判断也要非常即时、准确。D-Stream作为一个基于网格密度的数据流聚类算法,采用经典的在线——离线双层框架,对于数据流的聚类不仅能够保证效率和准确性,还能形成任意形状的聚簇结果。随着信息采集技术的进步,需要处理的数据量越来越大,需要研究针对数据流的并行聚类算法。如何将传统数据流聚类算法并行化,并做到不损失精度,且提高运行效率是一个重要的课题。与此同时,Storm、Spark、Samza等分布式数据流处理框架应运而生,并且很快得到了大规模应用,他们的开源社区也都非常活跃,这些框架使得数据流的分布式处理技术越来越成熟和简单。本文基于串行的数据流聚类算法D-Stream作出并行化改进,在原先算法的基础上,引入了分块的概念,并用通用的大数据处理框架Spark设计了一个基于分布式架构运行的动态数据聚类算法PDStream。为了进一步提高聚类算法的时间效率,本文引入了基于并查集的优化,在能够保证聚类算法准确性的基础上,同时加快了生成聚簇结果的速度,提高了算法的效率。实验结果表明,PDStream能够很好地适用于分布式环境,且具有更高的效率和良好的扩展性,能够实现分布式架构下的流数据动态聚类。
其他文献
随着社会的高速发展,土壤重金属污染问题日益严重。小白菜是人们日常生活中必不可少的一种蔬菜,土壤中的Cd能够通过食物链进入人体,危害人体健康。如何有效修复重金属污染土壤,减少蔬菜对Cd的吸收,成为亟需解决的热点问题。施加改良剂是一种修复重金属污染土壤的可行方法,在控制和修复土壤重金属污染方面具有广阔的应用前景。本文研究泥炭、改性泥炭和生物质炭三种材料的基本性质,并以三种材料作为改良剂,改良剂用量采用
肉类产品一直是生活餐桌上必不可少的食物。随着经济的发展,生活水平的提高,人们的健康营养意识显著增强,对肉类需求的关注逐渐从数量转向质量。近年来,国内冷鲜肉市场逐渐扩大,冷鲜肉相比较于冷冻肉和热鲜肉具有更高的营养价值和更好的食用口感,因此更受到大家的喜爱。但由于冷鲜肉保存条件较为复杂,成本较高,冷鲜肉又极具有易腐性,所以发展符合冷鲜肉特性的物流体系对企业和客户都尤为重要。本文在充分认识到冷鲜肉物流配
本文运用文献分析法,数据可视化分析并结合实地调研三种方法,对扬州瘦西湖风景区进行研究。首先通过文献的分析研究,总结出瘦西湖风景区的形成过程与发展历程,分析影响内部空间形成的地理环境、历史文化、社会经济三方面因素。基于空间句法理论从整体到局部节点,多方面对瘦西湖风景区的空间特征进行分析。采用轴线分析法对瘦西湖整体空间进行量化分析,对整体空间的连接度、整合度、智能度和选择度数值具体分析,得到量化图示结
心血管疾病是严重危害人类健康的主要因素之一。血管微创手术是治疗该类疾病的有效方法。但该治疗方法依赖X射线血管造影技术,而X射线会对医务人员造成辐射伤害。开发远程操控的血管微创手术导丝驱动系统,可避免医务人员直接接触X射线,从而降低辐射伤害。目前血管微创手术导丝驱动系统存在无法监测导丝输送状态的问题,导致导丝运动过程中对人体正常组织造成物理创伤,从而使得术后并发症危险升高。本文在分析导丝输送动作的基
随着经济建设取得了长足的进步,农村地区也产生了翻天覆地的变化,农民的物质生活条件有了质的变化。但是,在经济富裕、物质充实表象下,农村地区的精神文明生活依旧贫乏,文化生活需求得不到满足。精神文明和物质文明的不对称发展已严重阻碍了农村地区全面发展道路,制约了小康社会建设的进程。中共十九大上,习近平总书记提出“乡村振兴战略”和“坚定文化自信”,高度重视当前乡村文化发展,2017年10由中共中央文献研究室
黄瓜果实因其口感清脆、味甘多汁和营养丰富等特点,深受广大消费者的喜爱。目前,低温贮藏是黄瓜采后应用最为广泛的贮运保鲜技术,但是对于冷敏性的黄瓜而言,当贮藏温度低于7~10℃时,黄瓜会发生冷害,导致其果实表面出现凹陷、水渍状斑点等冷害症状,限制了冷链技术在黄瓜采后保鲜中的应用。此外,黄瓜果实含水量极高,且外皮较薄,在贮藏过程中极易失水萎焉,腐烂变质,降低了黄瓜果实的感官品质和商品价值。本文以“托尼1
随着城市的蔓延,居住人口急剧增长,城市相关建设不断扩张,植被等自然下垫面被钢筋混凝土和硬质铺装所替代,车辆和空调释放的热量有增无减,城市发展带来的气候环境问题愈发严重。以充分利用现有的自然资源、改善城市的气候条件为目的,通过城市空间的合理调配,从而形成理想的城市小气候环境,是实现城市内部可持续性的重要基础,也是人与自然和谐相处的必要前提,对气候适应性城市的建设有着举足轻重的意义。古典园林作为一种特
利用髓内钉对骨干骨折实现固定是临床中下肢骨折常用术式,然而髓内钉与骨之间的微动往往是影响骨折愈合的重要因素。临床上常采用小钢板或阻挡钉来提高髓内钉固定骨折的稳定性,但小钢板和阻挡钉协同髓内钉作用的生物力学机制尚不清楚。为了提高手术治疗的精确性,本文针对阻挡钉和小钢板协同髓内钉固定骨折的稳定性进行了生物力学研究,为临床手术方案的优化提供了理论支撑。本论文首先基于CT数据建立了股骨和胫骨三维几何和三维