论文部分内容阅读
在计算机网络蓬勃发展的四十多年中,网络硬件设备的发展取得了非常巨大的进步。尤其是在最近的十几年之内,互联网技术的发展呈现了爆发式的增长,交换机等网络硬件设备的性能也有了极大地提高。而对于网络设备正常工作时所能达到的实际性能,就需要有专业的网络检测设备来进行测量。万兆网络数据流处理系统,就是用于万兆网络交换机的检测设备,它以极高的速率将所有通过交换机的网络数据包捕获,并以同样高的速率将捕获的网络数据包存储下来,为后期对万兆网络交换机的工作状态和性能等进行分析研究提供准确完整的数据记录。在系统的设计中,最主要的两个难题是高速网络数据包捕获模块和高速海量数据流存储模块的设计与实现。在高速网络数据包捕获模块的设计中,由于传统的“万兆网卡+通用处理器”结构无法满足对64B小包实现10Gbps线速捕获的性能需求,本文提出了采用网络处理加速卡的设计方案。该方案将对网络数据包的所有处理操作全部集中到网络处理加速卡内部的专用处理器中进行,从而减少了传统方案中网卡与CPU之间频繁的通信所导致的瓶颈限制,极大地提高了对网络数据包的捕获处理能力,使得系统可以达到对64B小包实现10Gbps线速捕获的性能需求。对于高速海量数据流存储模块的实现,本文提出了三种设计方案,分别是使用软件仿真的方式组成机械磁盘阵列、使用磁盘阵列卡组成机械磁盘阵列、以及使用固态硬盘高速缓存+机械磁盘阵列的实现方案。在系统的实现过程中,分别对以上三种设计方案进行了实际的存储性能测试,并通过对实验数据的分析与对比,选择出实验效果最好的第二种设计方案作为系统的存储实现方案。在之后的实际工作环境测试中,对系统的实际工作性能进行了完整地测试,并通过对参数的调整与优化不断地提高系统的整体性能,使得系统最终达到了设计需求的性能标准。除此之外,还通过多次的重复实验,来验证系统在长时间连续工作环境下的工作稳定性。本文通过对万兆网络数据流处理系统进行需求分析、方案设计、系统实现、以及实际测试等方面的工作,提出了一种可行的结构设计与解决方案。该实现方案不仅能够以10Gbps的速率捕获通过万兆网络交换机的所有网络数据包,实时显示万兆网络交换机的工作状态信息,还可以实现高速海量网络数据流的存储功能,为后期对万兆网络交换机的工作状态与性能分析等工作提供准确完整的数据记录。而对于国内交换机检测设备领域,也解决了国内用户购买国外产品价格非常昂贵的问题。除此之外,万兆网络数据流处理系统还可以应用到更多互联网相关的领域当中,例如网络安全、网络设备测试、网络监控等。如果系统能够应用到这些实际的工作场景当中,那将对这些领域的发展产生非常积极重要的意义。