由于概率图模型便于建模变量关系、概率推理以及知识发现,所以其思想在人工智能前进的浪潮中发挥了十分重要的作用,最近更是有一些神经网络结合概率图思想的研究在某些问题上取得了state-of-the-art的结果。另外,无论是计算机硬件不发达的上个世纪,还是大数据时代的到来,提高算法性能都至关重要,而这一点在并行程序设计理论中找到了不错的解决方案。作为一名统计学学生,本文在研究了大量计算机理论的基础上,使用C++语言复现了一些基础并重要的概率图算法,并对算法效果及性能进行了测试。也许性能以及稳定性不能媲美现有优秀的机器学习算法库,但对统计模型如何使用高级语言有效复现做了不少的论述,讨论了一个良好的算法库应该具有的特征,为我国提高自主研发贡献了绵薄之力。在学科融合日渐重要的今天,如何结合另一个学科的优势解决问题一直是难点,本文也算是一个有价值的统计与计算机学科融合的案例。本文工作主要是研究概率图算法的代码实现,针对多核CPU进行程序设计,使用C++11标准以及thread线程库提高算法的执行效率以及可移植性。复现的算法有静态贝叶斯网络和马尔可夫网络的因子图表示、和积变量消除法、团树推断法、团树校准法、隐马尔科夫模型。其中大多数算法都进行了多次调试,并使用kaggle天气预测数据集测试了一些概率图算法。由于带特征的条件随机场实现略微复杂,并且由C++语言实现的CRF++工具表现稳定,代码结构优良并且效率较高,所以我在通读CRF++所有源码的基础上,分析算法每一步的CPU以及内存使用情况,对该工具源码进行了并行程序的优化,在论文中详细分析了程序设计的每一个需要注意的问题。值得一提的是,该研究在复现算法时对所有较大向量或矩阵的内存情况都经过了慎重考虑,讨论了许多在复现算法时需要“小心翼翼”的地方。