云计算能为用户提供按需收费、可扩展、高性能、可靠的IT资源,已经被广泛使用。但近年频发的云平台系统故障对云平台的可靠性和可用性造成了严重影响。美国加州大学伯克利分校的研究报告也指出云服务的可用性将是阻碍云计算发展的头号因素。由于当前主流云计算提供商都使用服务器虚拟化技术将硬件资源池化后共享给用户,虚拟机作为与云平台的核心部件,一旦发生异常就可能导致云平台故障。所以通过研究对虚拟机进行异常检测而提高云平台可信性已成为一个研究热点。本论文以云环境下的虚拟机作为研究对象,首先通过对比分析云计算环境下和在传统架构下对虚拟机进行异常检测异同,总结了在云环境下对虚拟机进行异常检测待解决的关键问题。针对云环境下无法详知用户行为的特点,提出利用虚拟机性能指标集进行黑盒测试;针对虚拟机性能指标集和运行环境相关性大的特点,提出根据虚拟机运行环境属性和性能属性进行上下文异常检测的异常检测框架;然后重点研究了异常检测框架中的特征提取算法和异常检测算法,针对云环境下虚拟机性能指标集具有非线性、不满足特定概率分布的特点,提出使用线性特征提取算法结合核方法的方式进行特征提取;针对云环境高动态的特点,提出了结合在线学习思想的方式进行实时异常检测,并研究了参数优化技术和不平衡数据处理技术。最后使用自搭云平台获取的数据集对本文提出的算法进行了实验,证明了提出的特征提取算法在减少更多数据冗余和相关性的同时能获得更好的可分性。提出的异常检测算法在保证检测准确率的同时能在更短时间内对单样本进行训练更新模型实现实时检测,并且占有更少内存。因此本文设计的检测框架和相关算法能够保障云平台的可信性。