随着通信技术的快速发展,以LTE/LTE-Advanced和IEEE 802.11n/ac为代表的新一代无线通信系统都采用MIMO技术作为物理层的核心技术。MIMO技术通过在发射端和接收端配置多根天线,在不增加传输带宽和发射功率的条件下利用空间自由度极大地提高系统容量。MIMO接收机的任务是正确恢复原始数据信息,为了达到最优的接收性能,需要采用复杂度很高的信号检测和信道译码算法,给架构设计带来严峻的挑战。本文从算法层面和架构层面对MIMO接收机中两个关键部分——信号检测器和信道译码器进行深入研究。全文的主要研究内容概括如下:首先,针对接收机需要支持多种检测方法以适应信道多变性的问题,本文对兼容开环和闭环模式的MIMO信号检测器进行研究。本文从算法层面挖掘不同检测算法间的关系,提出一种同时支持广度优先K-Best检测和线性MMSE检测的检测器。该检测器通过对MMSE-SQRD信道预处理模块的复用,以较低的电路面积将两种检测方法融合在同一个检测器中。在架构设计方面,优化的CORDIC脉动阵列结构能保证信道预处理和检测器工作在全流水状态,满足高吞吐率的要求。实现结果表明提出的双模检测器比LU分解和直接矩阵求逆实现线性检测的方法分别节省15.3%和18.5%的电路面积。与类似的设计相比,该检测器具有支持双模式,多天线和调制方式可配置以及面积消耗小等方面的优势。其次,尽管广度优先树搜索检测易于硬件架构实现,但在高阶调制和输出软信息时电路面积相对较大。度量优先检测是另一类非常具有研究价值的树搜索检测算法,能达到最优的检测性能和最高的搜索效率。针对度量优先树搜索检测算法因串行搜索特性导致吞吐率不高的问题,本文从算法层面充分挖掘树搜索的并行特性,提出一种跨层并行树搜索MIMO信号检测器。提出的信号检测器为搜索树的每层分配局部存储单元,不同层可以同时进行节点处理,以较低的面积消耗提升了检测吞吐率。本文还从节点有效性的角度出发,在理论上证明了该检测器是最优的检测器。实现结果表明提出的设计比其他度量优先树搜索检测器具有更高的面积效率。接着,本文对MIMO接收机的Turbo信道译码器进行研究。基于二次置换多项式QPP交织器的递归性质,本文提出一种支持任意2~i(0<i≤n)并行度的交织网络,以及一种低复杂度的交织地址生成器,并讨论将该网络扩展至任意无冲突交织网络的方法。基于此交织网络,本文设计了相应的并行Turbo译码器架构。实现结果表明该译码器比同类设计在多并行度支持,架构效率和能量效率方面具有优势。最后,本文将软输入软输出树搜索检测推广至同频干扰存在的场景,提出一种能抑制同频干扰的迭代MIMO接收机结构。该结构充分利用信道译码反馈的软信息,降低信道和同频干扰估计误差。同时本文还从信息论的角度证明对先验信息加权能够补偿Max-Log近似算法的性能损失。性能仿真结果表明提出的迭代接收机能充分利用先验信息对信道和同频干扰估计进行更新,同时对先验信息加权能增强接收机抑制同频干扰的能力。本文对MIMO信号检测器和并行Turbo译码器的关键问题进行深入研究,为实现高吞吐率、高性能和低复杂度MIMO接收机提供新的思路和理论基础,具有十分重要的现实意义。