相比于传统的单输入单输出通信系统,多输入多输出(Multiple-Input Multiple-Output,MIMO)系统引进了空间自由度的概念,为系统带来了阵列增益、分集增益以及复用增益,大幅度地提升了通信系统的有效性和可靠性,很大程度上缓解了日益紧张的频谱资源。为了应对日趋增高的通信要求,现阶段MIMO系统的天线数越来越多。接收端检测器作为MIMO系统重要的一环,其复杂度与差错概率是检测器设计过程中一对亟待解决的矛盾体:即复杂度较低的检测器通常不能完全利用MIMO系统提供的分集增益,而对于能获得MIMO系统最小差错概率的检测器,其复杂度将随着天线数的增多呈指数级增大。随着MIMO系统天线数的增多,复杂度与差错概率之间的矛盾将变得尤为突出。理论证明,这对矛盾很大一部分受到信道矩阵的影响,例如较差的矩阵正交性和较大的矩阵条件数都会使这对矛盾更加突出。因此,本文旨在利用矩阵预处理技术对MIMO系统中信道矩阵进行预处理,得到更利于检测的等效信道矩阵,从而减小检测器中这对矛盾。另外,本文主要研究的对象是MIMO系统中低复杂度的线性检测器和带排序的串行干扰消除(Ordered Successive Interference Cancellation,OSIC)检测器,旨在设计合理的预处理技术弥补其高差错概率的缺陷,最大程度地提升其差错概率性能。主要创新工作如下:首先,本文设计了新的置换矩阵对信道矩阵进行预处理,使得在预处理后的等效信道模型中,串行干扰消除(Successive Interference Cancellation,SIC)检测器的差错概率性能得到增强。置换矩阵的作用是改变SIC检测器中检测符号的检测顺序,故采用置换矩阵预处理的SIC检测器又称为OSIC检测器。在设计过程中,本文利用贪婪算法替代全局搜索,并且该设计过程利用了接收端更多的信息(信道矩阵、接收端的接收信号以及发送端的调制方式),得到了影响OSIC检测器错误传递因素更加精确的表达式。相比于以往置换矩阵的设计方案,本文所提的方案能更大程度地降低OSIC检测器中的错误传递,使OSIC检测器获得更好的差错概率性能。另外,由于本文设计的算法是贪婪式的,它具备较低的复杂度,这在MIMO系统天线数增多的过程中较为有利。最后本文在多个MIMO系统中利用计算机对所提方案进行仿真验证得到,采用本文所提置换矩阵预处理的SIC检测器能够提供有效的差错概率性能以及复杂度性能。其次,本文分析了幺模矩阵预处理方案对MIMO线性检测器的影响,并设计了有效的幺模矩阵对信道矩阵进行预处理从而提升线性检测器的性能。在设计幺模矩阵的过程中,本文直接对影响幺模矩阵预处理下的线性检测器最主要的因素(修正欧拉函数)进行处理,由于该因素与采用幺模矩阵预处理的线性检测器的差错概率性能直接相关,因而通过设计合理的幺模矩阵来改变这个因素,可以有效提升线性检测器的差错概率性能。另外,本文研究了采用幺模矩阵预处理的线性检测器中一个重要问题—可行域问题。在以往采用幺模矩阵预处理的线性检测器过程中,可行域都近似视为无边界的整数域,这种近似过程在调制阶数较低的时候会带来较大的偏差,使检测器的差错概率性能变差。本文分析了采用幺模矩阵预处理的线性检测器的可行域范围,并定量指出该可行域是多面体内的整数集,通过在不规则的可行域内进行符号检测,可以进一步提升线性检测器的差错概率性能。最后本文在多个MIMO系统中利用计算机对所提方案进行仿真验证得到,本文所提的线性检测器中的幺模矩阵设计方案以及可行域问题改进方案都可以有效地提升线性检测器的差错概率性能。最后,本文分析了幺模矩阵预处理方案对OSIC检测器的影响,并给出了两种有效的幺模矩阵设计方案来提升OSIC检测器的差错概率性能。在设计幺模矩阵提升OSIC检测器性能的过程中,第一种设计方案考虑了OSIC检测器迭代式的特点,旨在依次提升每次迭代过程中检测符号的信干噪比。由于信干噪比是影响检测器差错概率性能的重要因素,因而在该设计方案下,OSIC检测器每一次迭代不仅能使检测符号获得更小的差错概率,同时可以降低已检测符号对未检测符号的错误传递,从而提升采用幺模矩阵预处理的OSIC检测器的差错概率性能。在第二种设计方案过程中,本文借鉴了采用置换矩阵预处理的SIC检测器中设计置换矩阵的技巧,幺模矩阵的设计过程利用了接收端更多的信息,包括接收信号、信道矩阵以及星座集,利用这些信息可以得到幺模矩阵预处理方案下OSIC检测器中检测符号的差错概率性能。通过设计幺模矩阵减小检测符号的差错概率,可以达到减小OSIC检测器中的错误传递和提升OSIC检测器的差错概率性能的目的。最后本文在多个MIMO系统中利用计算机对所提方案进行仿真验证得到,基于这两种方案的OSIC检测器都能获得比以往设计方案更好的差错概率性能。