论文部分内容阅读
近年来随着视频监控技术的发展,视频监控数据的存储与处理已成为智慧城市,智慧交通应用中的关键问题。现有的视频监控存储体系架构在应付数量越来越多的高清摄像头上已显得力不从心。在多达上千路高码率视频流的长时间并发写入的场景下,现有的存储系统中磁盘I/O吞吐率已称为严重的瓶颈,随之而来的还有巨大的能源开销和磁盘损耗。这些都是现有的监控视频存储方案中亟待解决的问题。针对这些问题,本文结合当前国内外在海量数据存储方面的研究现状和发展方向,通过分析视频监控数据存储特点和结合现有存储系统架构资源调度方式,设计并实现了面向海量高清视频监控的流存储系统SSTORE,并以此为背景对其内部专门针对监控视频流数据存储所设计的分布式文件系统SFS进行了充分阐述。本文主要工作与创新点有以下几点:1.设计了磁盘分区连续存储模型CSM。该存储模型通过多流并发随机写入调制和分块内存缓冲技术,将磁盘上的并发随机写转换为顺序写,饱和利用磁盘I/O吞吐率。2.通过采用epoll异步事件驱动模型来处理网络IO请求,极大提升了系统网络IO性能。同时设计了线程池结构来实现系统任务调度和网络数据写入与磁盘数据写入的异步操作,增加系统并发处理能力。3.设计并实现了一种基于CSM分区的离线复制机制和磁盘工作调度机制,提升系统运行过程中休眠磁盘所占比率,延长磁盘使用寿命并降低能源开销。4.设计了灵活的副本冗余机制,针对同一块磁盘不同分区速率的差异,让这些分区上的数据备份具有不同的保存周期。充分利用磁盘分区性能的同时,保证了数据的可靠和可用。本文最后通过系统测试对SSTORE的存储性能进行了验证,并与现有常见的视频监控存储系统进行了对比。性能分析显示,SSTORE系统在存储服务性能上具有较大优势,能满足海量高清监控视频流数据的存储需求。