普通Monte Carlo方法通过随机模拟为一些复杂积分的计算提供了便利,但是当碰到不容易直接采样的时候,将马尔可夫链的概念引入到采样过程中,利用非周期且不可约的马氏链可收敛到平稳不变分布的特性,在马氏链运行足够长之后,认为产生的马氏链序列来源于目标分布的随机样本,这样便产生了Markov Chain Monte Carlo方法,即所谓的MCMC。本文重点梳理和研究了MCMC的理论基础和构造原理,使得该方法能被更好的认识和接受。本文第一部分从简单Monte Carlo模拟出发,介绍了其原理,并分析了缩小Monte Carlo积分误差的方法。第二部分介绍MCMC方法的理论基础、构建方法及收敛性分析。其中第一块内容结合马氏链的数学知识和推理,分析了MCMC方法的理论基础,第二块主要梳理和分析了MCMC方法的构造原理,重点介绍了Metropolis-Hastings算法和Gibbs抽样。在分析MCMC算法的同时,使用开源的统计软件R语言编写了算法的实现代码,得到了较好的分析结果,包括图形诊断和参数估计结果。第三块探讨了MCMC方法的收敛性和误差问题。第三部分介绍了MCMC在贝叶斯统计中的应用,并推导了Logistic回归模型中参数关于样本的后验分布f(β|y)对应Metropolis-Hastings算法的形式,并用R语言对一个Logistic案例和一个更一般化的贝叶斯模型案例进行计算,得到较好的诊断图形和参数估计。本文最后对MCMC的并行化算法进行了展望和尝试,以期对MCMC算法在大样本或大数据形式下有好的应用发展。