自从Leland等人在90年代初第一次明确的提出了网络流量中存在着自相似现象以来,研究人员发现不论网络的拓扑和业务如何,网络流量中都能检测到自相似特性。其中Hurst参数是评估自相似性的重要参数,本文提出一个新方法来评估网络自相似过程中的Hurst参数,并且使用人工合成数据和实际数据来测试,与基于小波的Hurst参数估计法做比较,实验表明该方法比小波法更快并且产生了很小的Hurst参数估计的置信区间。接着针对传统检测方法存在的问题,将这一新的Hurst参数评估方法应用到DoS攻击检测中,由H参数变化来检测DoS攻击。通过分析DARPA 1998入侵检测数据表明,基于该法的Hurst参数评估能够检测到DoS攻击,此法比传统的基于特征匹配的网络流量异常检测法在检测精度上有较大提高。由于网络的自相似性,传统的基于泊松过程和马尔科夫模型等已不能反映准备反映网络流量。因此本文研究了基于自相似性的网络流量预测,用QPSO(Quantum-behaved Particle Swarm Optimization)对预测自相似性网络流量的最小均值峰度LMK(Least Mean Kurtosis)方法进行优化,能够获得较小的SNR-1 (Signal to Noise Ratio)。通过对真实网络流量的仿真实验,表明该法比LMK(最小均值峰度)算法更能够对网络流量进行精确的预测。