近些年来,数据在不断飞速发展,数据量大且类型复杂是当前数字化时代的两大特点。基于复杂的数据进行参数估计成为当前的研究热点之一。EM（Expectation Maximization）算法虽然能提供一种较为简便的计算方式,但满足不了大数据情况、分布式情况以及在线情况下的数据处理。本文基于分布式处理重点研究了分布式下的EM算法,以及分布式在线下的EM算法,目的在于提高EM类算法解决实际问题的能力。具体研究工作如下:针对数据量较大,或者分布式数据,即数据来自不同的地方,且很难集中到一起处理的情况,本文提出了分布式EM算法,用于估计有限混合模型的参数。首先,本文讨论了一般的分布式EM（Distributed Expectation Maximization 1,DEM1）算法,该算法采用分而治之的策略,在处理大数据或者分布式数据上具有较少的迭代时间。然后,在此基础上,提出了一种新型分布式EM（Distributed Expectation Maximization 2,DEM2）算法,该算法借助一步平均估计的特点,可以有效地估计混合模型的参数。实验表明,DEM2算法在处理大数据或者分布式数据时,不仅具有较少的迭代时间,还比DEM1的估计精度要高。最后,鉴于DEM2更优良的估计性能以及其简单易于扩展的优点,本文在DEM2的基础上又延伸了一种分布式单调超松弛EM（Distributed Monotonically Overrelaxed Expectation Maximization,DMOEM）算法,该算法结合了分布式以及超松弛的特点,实验表明,在估计精度方面,其往往要优于DEM1和DEM2。针对数据量较大,或者是数据流,即数据持续到来的情况,本文提出了分布式在线EM算法,用于估计有限混合模型的参数。首先,讨论了比较经典的在线EM算法,并给出了其分布式版本,即分布式M型在线EM（Distributed M-type Online EM,DM-OEM）算法,该算法的特点是M步随机,运行速度很快,但往往精度不高。然后,本文提出了一种新型的分布式在线EM算法,即分布式E型在线EM（Distributed E-type Online EM,DE-OEM）算法,该算法的特点是E步随机。实验分析表明,和DM-OEM算法、分布式EM算法以及在线EM算法相比,DE-OEM的性能比较稳定,不仅迭代时间比较少,还保证了一定的估计精度。而且其应用范围较广泛,可以用于处理多种类型的数据,在性能和实用性上都优于其它算法。本文的研究工作较好地解决了传统EM类算法在处理大数据、分布式数据以及在线数据时运行缓慢或者精度不高的问题,具有一定的研究价值。仿真模拟中验证了本文所提的算法的稳定性和敏感性;真实数据分析中验证了本文所提的算法的有效性以及实用性。