随着信息技术的发展，我们已经进入了大数据时期，每天产生各类形式各异的数据，与之相随的会出现各种网络安全问题，针对这些问题,当前的研究工作主要集中在安全防御方面，但是计算机网络犯罪技术也在不断进步，因此仅靠防御方法是不能很好地打击计算机犯罪的，我们需要发挥社会和法律的力量去打击计算机犯罪，计算机取证技术应运而生。数据挖掘技术可以从海量的数据中挖掘出潜在的、有研究价值的知识，但是从这些海量数据中找到那些极少数的异常行为并发现有意义的知识是一项富有挑战性的工作，然而现实生活中经常包含一些与数据集一般行为或者一般模型不一致的数据对象，即孤立点。虽然正常的行为比数异常行为要多得多，但不正常的行为可能含有非常有趣的知识。所以研究这些孤立点具有一定的理论基础和实践意义。本文对K近邻孤立点检测算法进行了更为细致的研究，进而对其进行了改进，提高了算法的效率及准确性。同时针对网络操作日志数据量大、计算量大的特点，本文采用基于MapReduce架构的分布式算法思想，在Hadoop集群中快速的检测孤立点。对国内和国际的相关异常检测方法的研究和应用进行了详细分析，设计了基于孤立点挖掘的异常检测模型，最后将孤立点检测方法应用于计算机取证技术中。本文主要研究如下：(1)系统探讨了当前国内外孤立点挖掘算法的研究现状，分析了孤立点挖掘算法的应用实例，理论学习了孤立点挖掘算法的概念、流程，并对孤立点挖掘算法的性能和实现机制进行了总结。深入研究计算机取证的相关知识与技能，总结了计算机取证的关键技术，并给出计算机取证的流程。(2)深入研究基于距离的反向K近邻孤立点检测算法，并指出其不足，并对算法进行了改进，通过剪枝操作去除冗余数据后，加入了自适应确定参数的机制，避免了过多人工参与造成的数据偏离，提高了算法的准确性和高效性。在Hadoop集群架构中设计了基于MapReduce的孤立点检测算法，在分布式环境中快速检测孤立点。(3)构造一种基于孤立点挖掘算法的日志分析模型，对日志数据进行预处理后，将改进的孤立点检测算法应用到模型中，经实例证明，该模型可以有效的将算法中挖掘出的孤立点进行分析，能够得到初步证据，使得取证服务更加高效、智能。