【摘 要】
:
随着移动互联网的普及和5G的飞速发展,网络上数据规模呈指数增长,数据的价值也被不断挖掘利用。数据中心作为数据进行传递和存储的基础设施,正在承载着这些复杂的网络数据。随着数据规模日益增长,在庞大的网络数据和高速网络传输面前,如何对网络进行流量实时获取、分析、存储是网络流量分析必须要面临的挑战。如何在不影响正常业务数据的情况下,高效完成对整个数据中心流量进行采集分析,是一个热点问题。目前传统的实时流量
论文部分内容阅读
随着移动互联网的普及和5G的飞速发展,网络上数据规模呈指数增长,数据的价值也被不断挖掘利用。数据中心作为数据进行传递和存储的基础设施,正在承载着这些复杂的网络数据。随着数据规模日益增长,在庞大的网络数据和高速网络传输面前,如何对网络进行流量实时获取、分析、存储是网络流量分析必须要面临的挑战。如何在不影响正常业务数据的情况下,高效完成对整个数据中心流量进行采集分析,是一个热点问题。目前传统的实时流量分析系统都是基于传统的协议栈实现,但是在高速网络的环境下,传统的实时流量分析系统会有极高的延迟率和丢包率。基于此,本文设计并实现了一个可以适应在高速网络环境中基于DPDK(Data Plane Development Kit)和DPI(Deep Packet Inspection)高速流量识别统计分析引擎系统,并以此搭建采集分析集群。该系统首先利用Kafka分布式消息队列技术和Spark Streaming实时流式计算框架对采集分析集群处理的数据进行实时分析处理,接着采用Druid大数据查询引擎对实时分析处理后的数据进行存储。最后,在设计上使用现在流行Grafana对数据按需求进行可视化展示。本系统通过模块化设计和可用性的实时监控和告警功能实现了灵活性、扩展性、以及稳定性。本系统在某汇聚机房晚高峰测试结果显示,在流量峰值300Gb/s的情况下,系统的平均单核处理能力达到了9.25Gb/s以上,系统的吞吐能力达到了9.7%,而基于传统协议栈Libpcap吞吐率不到1.2%,本系统实时处理能力足以覆盖整个数据中心出口处的网络流量。系统上线至今已经帮助业务人员和网络管理人员进行多次异常流量告警监控和流量调度以及设备割接等,大大降低了数据中心网络管理和运维成本,基本满足了现阶段实际生产环境下的所有需求。
其他文献
小型旋翼无人机灵活度高、机动性强,能适应复杂的室内外场景,因而在未知环境探索和地图构建等任务中得到越来越多的应用。目前,基于旋翼无人机的自主探索与语义建图面临诸多挑战:一方面,现有探索方法大多缺乏对探索效率和建图精度的综合考虑,所建地图往往误差较大,不利于无人机后续的运动规划;另一方面,当前语义建图方法对环境中深度变化不明显的区域分割效果较差,容易造成物体语义信息的丢失。本文对旋翼无人机的自主探索
随着智能制造领域的迅猛发展,制造业企业的在生产中产生的海量业务数据成为了制造业企业发展的宝贵财富。基于文本编程的工业数据管理系统要求开发人员熟练的掌握编程语言以及相关的工业互联网通信技术,存在着技术门槛高、复用性差、系统升级困难等问题。本文研究了一种图形化程序编程技术,用于实现工业数据采集与管理程序的图形化无代码开发。主要研究内容如下:首先,在研究了相关图形化编程标准与工业互联网通信技术的基础上,
配准技术指将不同时间、不同传感器在不同条件下获取的多幅图像与点云数据进行匹配对齐的过程,是计算机视觉中十分基础且重要的问题,在三维重建、视觉同步与定位、目标识别与跟踪、检索等计算机视觉任务均有着广泛的应用。基于特征的配准方法主要根据对特征关键点邻域进行特征描述以及对关键点特征进行匹配。特征描述旨在生成一个高维向量表征关键点的邻域信息;特征匹配针对待配准的图像或点云数据的特征点集确定特征点对应关系。
随着高通量DNA微阵列检测技术的发展,产生了众多的基因相关数据,数量庞大的基因和生物网络的复杂性成为理解和解释这些数据的巨大挑战。聚类作为一种重要的数据分析方法,常用于分析基因表达数据。通过聚类阐明隐藏在基因表达数据中的模式,从中获取细胞的生理状态、基因表达调控信息以及基因功能对功能基因组学的研究有着重要的意义。在基因表达数据的获取过程中,受设备、实验环境、采集方法等因素影响,很多数据不可避免地存
随着科技的发展,机动车的数量在极速增长,随之而来的交通事故、交通堵塞、空气污染以及能源浪费成为了不容忽视的问题,为提高道路承载能力、提高道路交通效率、减少车辆能耗消耗以及降低空气污染保护环境,车辆编队成为了道路交通中重要的驾驶方式,也是学术界重要的研究课题。本文针对车辆编队问题,对车辆编队构型过程进行了聚类设计,在基于MEC的车联网络架构下,实现了以能耗为优化目标的编队构型形成过程,本文具体的研究
CAD系统的广泛应用使得企业积累了大量的CAD产品模型。CAD模型检索技术能够促进模型的重用并加快企业中产品的设计。产品模型常常以不同的格式存储,并使用标准格式在不同CAD系统间进行交换,本文研究了一种标准格式CAD装配体模型的检索方法,可同时用于标准格式和各种商用格式CAD装配体模型的检索。研究了基于零件模型参数矢量的装配体检索方法。从零件模型中直接提取一些参数,通过归一化这些参数构造零件模型参
材料微观结构表征与重建(Microstructure Characterization and Reconstruction,MCR)可用于建立加工-结构-属性(Processing-Structure-Property,PSP)关系,是计算材料学与材料设计的研究重点。多相非均质材料广泛应用于航空、电气、地质、医学等领域中,利用MCR方法能够获得该材料的大量统计等效模型,为构建材料的PSP关系提供
人体的三维建模与表示是计算机视觉与计算机图形学领域的一个经典问题。该问题已经被研究了很久,且有许多杰出的工作。人体具有复杂的几何结构,多样的动作,三维人体的表示也丰富多样,如网格,体素,点云等,以及近些年的学术成果——参数化人体模型。对于三维人体的视觉重建任务,研究人员往往依据人体表示的不同进行人体重建算法的构建。人体重建算法分为裸体人体的重建以及具有个体化特征如衣服、头发等几何细节的人体模型的重
近年来,深度学习在医学影像处理方面应用愈发广泛,二者的结合促使临床诊断方式发生改变。目前医学影像技术中磁共振成像(Magnetic Resonance Imaging,MRI)凭借良好的软组织分辨率和空间分辨率等优点,成为临床检查的常用手段之一。然而,在MRI成像过程中,由于患者不自觉运动容易产生图像间的非刚性形变,严重影响生成图像间的解剖对应关系。本论文旨在利用基于深度学习的配准技术,解决MRI
随着人们对产品设计方面的要求越来越高,许多产品在制造之前都要进行相应的曲线曲面的几何造型设计,例如汽车的车壳设计、飞机的机翼的设计,还有日常中人们穿的鞋子、衣服等,这些都属于曲线曲面造型的研究,曲线曲面造型的研究也一直是计算机辅助几何设计(CAGD)研究的核心内容。另外利用插值、拟合、逼近、拼接等方法研究满足某种性质的曲线曲面在实际应用中也是非常重要的。在曲面建模中,近20年来,自由曲线曲面的设计