基础设施即服务（Infrastructure as a Service，IaaS）是云计算的一种服务模式，它将计算机硬件抽象成虚拟资源池，并为用户提供按需获取、弹性可伸缩的服务。随着云计算的发展，大量的应用和用户数据都部署在云端，云计算的可靠性面临着巨大的挑战。研究发现，系统故障出现的根本原因是由于缺少异常检测机制和容错手段。然而，云计算本身具有大规模、分布式、虚拟化和高动态性等特点，从而导致传统的异常检测技术不能适应云计算环境。本文针对云环境下的虚拟机，设计了一套通过采集虚拟机性能指标，采用基于主成分分析和贝叶斯决策的异常检测方法，实现对虚拟机的异常检测。针对虚拟机性能指标的特点，提取其主要特征，在半监督模式下建立起虚拟机的正常轮廓，并与正常轮廓进行对比。同时，该机制可以根据虚拟机运行状态动态调整虚拟机数据采集策略，并结合多种异常检测策略提出了虚拟机多状态异常检测。本文完成的主要工作如下：(1)本文深入研究了云计算下IaaS模式的特点，针对虚拟机的资源可用性，提出了虚拟机性能指标体系，用于刻画虚拟机的运行状态，并详细介绍了IaaS下虚拟机性能指标的采集方法。(2)由于传统的数据采集方法不能动态调整数据采集的频率，无法很好的适应云计算环境的高动态性，本文提出了一种自适应数据采集策略，根据虚拟机的运行状态，动态选择粗粒度和细粒度两种数据采集方式，在不增加虚拟机性能开销的情况下，提高了异常检测的准确性。(3)针对传统的异常检测算法不能适应IaaS环境下被检测对象多、采集数据量大、数据维度高等特点，本文提出了基于主成分分析和贝叶斯决策进行异常检测的机制。同时，传统的异常检测方法不能适应云计算环境的高动态性，本文还提出了虚拟机多状态异常检测机制，结合了基于时间点和时间窗口的异常检测策略，降低了异常检测的误报率。(4)基于以上研究工作，设计并实现了面向IaaS的虚拟机异常检测系统。并利用开源技术搭建了OpenStack云计算平台，通过异常注入的方式，根据异常的误报率和漏报率等指标评估了本文的虚拟机异常检测系统。综上所述，本文针对IaaS下虚拟机异常检测技术进行了全面、深入的研究，通过改进异常检测算法，设计实现了虚拟机异常检测系统，并验证了其有效性。