多输入多输出（MIMO）技术可以有效地提升系统容量、信号传输速率和增加空间分集增益,而且不需要增加发送功率和系统带宽,因此MIMO技术成为了通信技术中的研究热点,有很大的研究价值,也是未来通信领域中十分重要的技术。然而接收端的检测算法决定了MIMO系统性能的好坏,于是本文重点研究MIMO系统接收端算法的误比特率性能。本文主要内容和创新思想如下:1.首先介绍了MIMO系统的背景知识,其次对MIMO系统的信号模型、基本原理和信道容量等展开介绍,接着对信号检测技术中最优的最大似然（ML）算法、线性算法中的迫零（ZF）和最小均方误差（MMSE）算法以及干扰消除等算法的检测性能进行研究,并利用MATLAB仿真软件对介绍的这几种经典算法在不同的调制方式下的误比特性能进行对比分析,仿真结果表明,ML算法的误比特率性能是最优的但同时也拥有最大的复杂度,ZF和MMSE算法误比特率性能最差但复杂度较低,ZF-MMSE和MMSE-OSIC算法的误比特率都得到了改善,其中MMSE-OSIC的改善幅度最大,其误比特率性能仅次于ML。2.在MIMO系统中,ML算法检测性能最优但复杂度很高,MMSE算法复杂度低但其检测性能较差,而较大的信道矩阵条件数会削弱检测算法的误比特率性能,格基约减算法中的LLL是一种预处理算法,能够有效地降低信道矩阵的条件数。针对这些问题,本文提出了一种基于条件数阈值的信号检测算法,用来提升高条件数下传统检测算法的性能。该算法将预先设定的条件数阈值同计算出的矩阵条件数进行比较:在条件数低于阈值时,采用低复杂度的LLL约减辅助MMSE算法来降低计算量;在条件数高于阈值时,采用基于排序分组的ML与LLL-MMSE联合的检测算法,虽计算量有所增加但保证了系统的检测性能。对不同阈值情况时算法的误比特率性能进行MATLAB仿真,结果表明:本文算法的误比特率性能明显优于传统的LLL-MMSE检测算法,当阈值越小检测算法的性能改善越好,因此本文算法通过预先设定条件数阈值从而使得算法在性能和复杂度之间获到较好的平衡,最终实现了改善检测算法性能的目标。3.在较高维的MIMO系统中格基约减辅助线性算法的误比特率性能较差,基于元素的格基约减（ELR）辅助算法能提高线性检测算法在较大维MIMO系统下的检测性能,然而经过约减之后出现了生成的星座集已经不是原始的星座集的新问题。针对该问题,本文提出了一种改进的元素格基约减辅助最小均方误差（C-ELR-MMSE）算法。该算法首先通过一系列的转化,将问题变为一个无约束的凸优化问题,然后利用凸优化方法中的KKT条件进行求解,最后利用MATLAB仿真软件在不同的维度和不同的收发天线数目的情况下对MMSE算法、LLL-MMSE算法、ELR-MMSE算法以及本文提出的C-ELR-MMSE算法的误比特性能进行仿真分析。仿真结果表明,C-ELR-MMSE算法能显著地提升较高维MIMO系统的误码率性能,特别是在16维MIMO系统中采用4QAM调制的情况下,该算法较ELR算法在误比特率为10^-4提升了大约3dB。