多输入多输出技术由于具有分集增益和复用增益等特点,一经提出就受到了科学界和工业界的广泛关注。其中高性能和低复杂度的检测算法一直是MIMO系统发展的关键问题,从最开始最优的最大似然检测算法,到后面工业界最常用的最小均方误差检测算法,国内外学者们一直致力于寻找高性能和低复杂度的MIMO检测算法。本文就重点研究MIMO系统下,基于期望传播和置信传播的高性能低复杂度迭代检测算法。本文首先讨论了基于期望传播信息传递方式下的MIMO检测算法,其中先给出了期望传播的基本原理,并给出了相应的理论分析。接着介绍了传统的期望传播算法,并给出了算法总结和理论分析,讨论了传统期望传播MIMO检测算法在性能和复杂度上所遇到的问题。之后通过提出逐个更新的迭代方式、分布替代更新策略、信息可靠性排序更新和球形辅助压缩空间处理算法来解决相应的问题,最终构成了本文所提出的高效的期望传播MIMO检测算法。最后通过仿真分析表明,在多种天线规模和调制阶数下,本文所提出的期望传播MIMO检测算法相比于传统的期望传播检测算法,具有更快的收敛速度,更低的计算复杂度,以及更优的算法检测性能。相比于目前工业界最常用的最小均方误差检测算法,高效的期望传播检测算法同样具有绝对优势。其次研究讨论了基于因子图结构的信息传递迭代检测算法,其中首先介绍了置信传播的基本原理,再介绍了针对不同调制阶数下的置信传播MIMO检测算法,并通过理论分析和算法仿真验证了对应的检测性能;其后又讨论了基于因子图结构的期望传播检测算法,并给出了相应的算法总结和相应的复杂度分析,仿真验证了因子图结构下基于期望传播的MIMO检测算法可以在不过大损失性能的前提下,大大降低MIMO检测的计算复杂度。最后本文讨论了MIMO-LDPC系统下不同的迭代检测方式,首先给出了目前常用的并行干扰相消检测算法,之后又讨论了传统的BP-BP联合检测算法,并给出了相应的算法总结,最后为了降低联合检测算法中MIMO端的信息迭代计算复杂度,本文提出了一种EP-BP混合联合检测算法,通过算法性能仿真验证发现EPBP混合联合检测算法可以在保证相对于BP-BP联合检测在不损失性能的前提下,大大降低MIMO端的信息迭代计算复杂度。