系统日志详细记录系统运行期间的信息,被广泛地用于异常检测。然而,在系统日志数据集中,因不同类别日志之间出现过多相似属性会导致决策边界太复杂,由此引发的日志类重叠问题会使传统分类器很难实现正确分类,从而给基于日志的异常检测带来极大挑战。另外,有些系统需要7×24小时运行来支持广泛的智能应用程序和在线服务。概念漂移或模型老化往往发生在不稳定环境中,各种各样的运行程序生成更复杂和可变的日志。基于日志的异常检测算法面临着不稳定问题,表现为在系统剧烈变化环境下的精度降低现象。本文针对严重影响日志异常检测的这两类主要问题,即日志类重叠问题和日志不稳定问题,围绕其缓解方法展开研究,研究工作主要如下:第一,在类重叠日志区域,因预处理技术过于耗时和传统分类器难以给出预测风险问题,提出一致性异常检测模型。该模型首先通过模糊K近邻（KNearest Neighbor,KNN）算法计算测试样本的隶属度,根据传统分类器的准确率差值选择最佳模糊度分离出类重叠日志,并使用T分布和随机近邻嵌入（T-distributed Stochastic Neighbour Embedding,TSNE）降维可视化以进一步观察类重叠现象;其次通过集成分类器的不一致性度量函数得到统计量p值,根据预设置信度得到类重叠日志标签,使得预测风险可控。实验结果表明,相比传统分类器,该模型的召回率和F值等平均提高10%左右,验证了该模型在处理类重叠问题的有效性。第二,为缓解日志中出现的不稳定问题,设计了基于置信度协同多种算法的异常检测模型EBCAD（Ensemble-Based Conformal Anomaly Detection）。首先,用统计量p值度量日志之间的不一致性,选择多个合适的集成算法作为不一致性度量函数计算得分进行协同检测;其次,根据协同检测得到的置信度与预设置信水平大小来判断不稳定日志是否异常。最后,设计了基于置信度的更新机制。它将受不稳定环境因素影响导致检测错误日志的不一致性得分添加到已有得分集,作为更新以往日志异常检测的经验。HDFS和BGL＿100K数据集上的实验结果验证了该模型在处理不稳定日志问题的高效性。