随着嵌入式、无线通信和微机电技术的迅猛发展,无线传感器网络(Wireless Sensor Networks,WSNs)因其成本低廉、易于维护等优良特性,受到学术界和工业界的广泛关注。然而通信环境开放、系统资源匮乏、缺少必要的网络基础设施等固有属性,使得无线传感器网络的安全非常脆弱。特别地,传感器网络无人值守的运行方式使得攻击者能够捕捉并俘获网络中的正常节点,并驱使其发动多种攻击。此外,攻击者还能够在网络中散播蠕虫以增加俘获节点数量,或散布俘获节点的副本以加强攻击效果。针对此类恶意行为,现有的安全研究大多致力于增强网络协议抵御攻击的能力,但此类基于防御的安全技术无法从根本上解决传感器网络的安全威胁,只能随着新型攻击的出现被动升级原有安全方案。而在攻击的早期及时检出并隔离俘获节点,能够从根源处有效抑制攻击的危害。俘获节点的快速定位与识别,是传感器网络中一个不容忽视的重要问题。为解决这一问题,本文从异常检测理论出发,分析传感器网络的安全威胁,研究攻击源的定位与识别方法。在此基础上,本文提出了一种基于异常检测的新型传感器网络安全解决方案。该方案能够快速检测和隔离俘获节点,并抑制复制节点、蠕虫传播等衍生攻击的影响。本文针对聚合协议中的错误数据注入攻击问题提出了一种基于数据状态估计与序列假设检验的恶意聚合节点检测方法;针对复制节点攻击问题提出了一种基于部署知识和位置异常检测的复制节点识别方法;针对蠕虫传播问题提出了一种基于有偏序列假设检验的移动传感器网络蠕虫检测方法;针对现有传感器网络数据采集应用缺乏安全支持的问题,设计了一种新型采集与分析系统Sec CAS(Secure Collection and Analysis System),并集成了相关关键安全技术。本文主要研究成果包括:(1)提出了一种基于层次化贝叶斯空时建模方法(Hierarchical Bayesian Spatial-Temporal Modeling,HBST)的传感器网络网内聚合数据模型,并证明在典型应用场景中,该模型可以近似为一阶自回归过程。在此基础上提出了一种错误数据注入攻击的检测框架,该框架由基于差分滤波的本地错误数据检测方法,以及基于序列假设检验的恶意聚合节点识别机制构成。本文提出了一种基于两玩家无限重复博弈模型安全分析方法,并使用该方法分析方案在极限条件下的安全性能。分析结果表明:即使在最坏情况下,本文方案仍能够有效约束攻击者增益。此外,本文还通过理论分析和仿真实验从执行效率、有效性和运行开销三个角度评估了方案的性能,评估结果表明本文方案能以少量样本实现高精度,低误报率的错误数据注入攻击检测。(2)在深入研究蠕虫感染行为模式的基础上,提出了一种基于流行病学理论的移动传感器网络蠕虫传播模型,分析在感染的不同阶段,部署密度、通信质量、感染节点比率、节点运动模式等多种因素对蠕虫传播周期和吞吐量的影响,并最终导出蠕虫传输路径上恶意代码吞吐量的均值。在此基础上提出了一种基于异常流量分析的移动传感器网络快速蠕虫检测框架,该框架由蠕虫传播特征模式存储与维护机制,基于深度搜索优先(Depth First Search,DFS)的可疑数据传输路径遍历方法,以及基于有偏序列似然比检测(Biased Sequential Probability Testing,B-SPRT)可疑链路统计判决机制组成。安全分析表明本文方案能够在蠕虫活跃的时隙中产生多个引导统计判决机制接受备择假设的样本,加快检测机制的判决过程,及时抑制蠕虫传播的影响。本文还通过仿真实验评估方案的性能,其结果表明该方案能够在蠕虫传播的早期快速检出被感染的节点,并能够克服节点运动和网络环境变化对方案性能的影响,保持较高的精度和较低的误报率。(3)提出了一种基于分组随机部署策略和位置异常检测的静态传感器网络复制节点攻击防御方案。该方案利用基于组的随机部署模型描述网络中节点的位置分布,并将静态传感器网络中的复制节点识别建模成一个位置异常检测问题。为解决这一问题,本文提出了一种名为理想均值相似度(Ideal Expectation Similarity,IES)的测度以表征复制节点位置声明(Location Claim)与实际位置间的偏差,并提出了一种基于局部敏感哈希(Locality Sensitivity Hashing,LSH)的理想均值相似度快速计算方法,将复杂的距离运算和门限比较转换为简单的比特异或运算。本文利用启发式的安全分析方法评估了方案在静默和范围扩展两种攻击策略下的安全性能,其结果表明本方案增加了攻击者发起复制节点攻击的成本。此外本文还通过仿真实验分析在不同的攻击策略下部署密度、位置偏移等因素对方案检测精度和误报率的影响,其结果表明本文方案具有强鲁棒性,其性能在不同网络环境、攻击策略中保持稳定。(4)针对传感器网络数据采集与分析领域中存在的实时运行状态跟踪,网络智能重配置等挑战,本文构建了一种支持异构传感器网络数据采集分析系统Sec CAS(Secure data Collection and Analysis System),实现采集数据与网络拓扑状态的实时更新,网络参数的远程调整与配置,以及密码学与异常检测关键算法的集成,为本文提出的基于异常检测的传感器网络安全方案的实验性能评估与验证提供了平台支持。此外,本文通过实验验证了系统的有效性与执行效率,结果表明,相比于同类设计本文提出的方案能够改善分组投递成功率,降低网络参数调整带来的开销。