【摘 要】
:
随着信息技术的快速发展,大量数据以流的形式从气象预测、金融交易、传感器网络等重要领域实时产生。不同于传统的静态数据,流数据的时效性及潜在的总量无限性等特征对流数据
论文部分内容阅读
随着信息技术的快速发展,大量数据以流的形式从气象预测、金融交易、传感器网络等重要领域实时产生。不同于传统的静态数据,流数据的时效性及潜在的总量无限性等特征对流数据挖掘提出了新的挑战。如何在有限处理次数内完成对高维流数据快速、准确的聚类,是聚类算法首要解决的问题。为此本文提出了一种双层架构的流聚类算法,并针对分布式警务流数据对处理性能的要求提出其并行化改进算法,主要工作包括如下几个方面:(1)基于局部密度的流聚类算法DCSC的研究。针对含有噪声的高维流数据的在线处理时效性要求,在静态数据聚类算法DENCLUE的基础上,提出了基于在线—离线两阶段流聚类算法。针对流数据存在概念漂移的问题,创新了“衰减超立方体”结构,将数据映射到对应超立方体形成信息摘要,采用衰减函数定义其最大寿命,从而及时淘汰过期数据,实现了对数据底层模型变化的追踪。针对相对耗时的离线聚类,结合优化的爬坡算法与快照,使离线阶段聚类挖掘可按用户要求按需执行并快速得到结果,且不影响在线阶段的正常运行。实验表明算法能够适应变化的流数据,其在线处理速度相比同类二阶段算法有较大提升。(2)DCSC算法的并行化改进及自适应参数选择的研究。针对密度聚类算法参数敏感的问题,提出重要参数自适应取值方法,通过算法分析提出参数推导法则,根据数据初始分布实现自适应参数取值。针对单机算法DCSC的最大性能受限于单台节点所导致的处理海量数据能力不足的问题,本文提出其并行化改进算法PDCSC,对超立方体维护机制和离线聚类流程进行了优化。在线阶段提出优化的全局汇总方法并结合微批处理思想,使各节点及时共享全局信息,实现了节点对数据分片的并行处理;离线阶段将数据划分为相互独立的区域,使类簇不会跨越多个区域,实现了节点的并行执行聚类挖掘。实验表明通过横向节点扩展能够有效提高算法在线阶段的吞吐量,算法的整体处理速度提升明显。(3)目标时空轨迹挖掘系统的设计与实现。采用Spark、Kafka等底层集群架构,将PDCSC算法应用于警务流数据挖掘场景,解决了从海量监控数据流中发现重要目标的问题,为后续目标行为检测提供了数据基础。系统根据用户选择对特定监控区域的特征码流进行聚类,当聚类中心点与重点监控对象库中的特征码高度相似时,整理出该目标的时空轨迹并向前台报警。
其他文献
弛张筛主要用于细粒潮湿物料的分级和筛分,在原有的双振动激励下,其在水平和竖直方向上有相对振幅,从而可能导致物料在筛箱边缘和拐角处出现物料堆积现象,这不利于筛分。试验验证:多自由度振动筛分的筛分效果与二自由度相比更加理想。根据此观点论文在原有二自由度弛张筛的基础上提出三自由度弛张筛设计与分析。论文以TRIZ理论为基础发明设计出弛张筛横向激振装置,使弛张筛在空间上具有三个方向上的自由度,为了避免与惯性
相较于含有电感元件的传统逆变变流器,开关电容型变流器由于不含磁性元件,对于提高系统功率密度、减轻系统重量、实现高变比升压大有裨益。将开关电容电路应用于并网逆变器,
目标跟踪技术是一门集图像处理、模式识别和机器学习为一体的综合性技术学科,在农业方面有广阔的应用前景,例如农作物病虫草害的检测与防治、饲养动物的监控与管理以及视觉导
烟碱是烟草体内特有的一种生物碱,其含量的高低是衡量烟草及其卷烟制品质量优劣的一个关键指标。为了探讨烟碱合成途径中相关酶活性及代谢产物与杂种优势的关系,为烟碱含量的遗传改良和调控提供依据。本研究选用烟碱含量差异较大的14个材料为亲本,采用NCⅡ遗传交配设计,配制出48个杂交组合,在烟草不同生育期测定了亲本及杂交组合中烟叶的烟碱含量,对烟叶烟碱含量的杂种优势表现进行了分析,探讨了烟碱含量及其杂种优势在
随着工业社会的到来,大规模的机械化生产在提高国家经济发展速度的同时,也带来了许多的问题,环境污染问题是其中之一。国外很早就开始治理环境污染,进行环境教育,中国也紧跟世界脚步,关注国家生态平衡,提出建设生态文明社会的目标。党的十九大报告中指出要坚持“人与自然和谐共生”,并且将“增强绿水青山就是金山银山的意识”以及坚决实行“最严格的生态环境保护制度”写入党章,建设生态文明社会为势所必然。教育是促进社会
背景和目的:我国食管癌的发病率在所有恶性肿瘤中位居第六,尽管医学的快速发展使得部分地域的食管癌发病率有所下降,但每年仍有大约20万人因食管癌死亡,成为威胁人类健康的最
“社会性别主流化”自1985年联合国第三次世界妇女大会提出以来,逐步进入公共政策领域并演化为一种国际共识,这一概念强调性别意识理应进入政府宏观决策与政策实践的视野。同时从本土国情出发,近年来我国妇女参政尤其是基层社区参与,由“比例制”标准下的数字表现来看呈现出显著上升。若进一步分析其社区参与的结构,这一改善集中表现为女性社区选举权利与基层女性公务员比例受到制度化保障,相形之下妇女自主性的社区参与在
日本作家椎名麟三是日本第一次战后派文学的代表作家。在探究他的文学作品时,需要考察发生在他生命中的两大具有转折意义的事件。一是1931年统治当局到处搜捕共产党员,椎名麟
狼毒(Stellera chamaejasme L.)是我国北方草地常见的一种有毒植物,在某些严重退化的天然草地群落中狼毒可成为优势种。狼毒与其他牧草共存,必然发生对光照、水分、矿物质营
体细胞核移植技术对于动物繁育、地方优良种质资源保存、濒危动物保护以及发育生物学基础理论研究等均具有重要意义,但目前体细胞核移植仍还存在克隆效率低、孕期流产率高、