多入多出(MIMO)技术是无线通信技术发展的一次重大飞跃，它能够突破无线频率资源限制，大幅度地提高无线通信系统的频谱效率，被公认为是无线通信技术的未来发展趋势。然而，MIMO技术也彻底打破了传统的无线通信模式，它要求系统使用多个发射和接收天线同时同频地发射和接收数据，使得无线通信的系统结构、分析方法、调制、编码、信道估计、检测、多址方式等各个方面都面临着挑战。 本论文在国内外相关研究工作的基础上，针对MIMO无线通信系统所涉及的若干关键理论与技术进行了深入研究，特别是在MIMO信道容量理论、MIMO检测算法、基于MIMO-OFDM系统的码分多址技术、自适应传输技术、差分空时编码技术等方面取得了较大研究进展。 在MIMO信道容量理论方面，本论文的研究成果主要包括以下两个方面：一是给出了MIMO信道容量及其渐近界的简单闭合的计算公式；二是提出了一种信道容量的非平稳分析方法，并且利用该算法分析得到了时变MIMO信道的容量极限。上述研究成果对MIMO系统的理论研究和实际应用具有重要的指导意义。 在MIMO检测算法方面，本论文提出了3种新型的高效检测算法。前两种算法是传统的贝尔实验室垂直分层空时结构(V-BLAST)检测算法的两种快速算法，这两种算法在保持性能不变的同时，复杂度低于现有的其它同类算法；第三种算法是最优的最大似然算法的简化算法，尽管它的计算复杂度非常低而且很稳定，但性能却接近最大似然检测算法的性能，而且还可采用并行计算方法大幅度提高处理速度。 在基于MIMO-OFDM系统的码分多址技术方面，本论文首先引入了一种广义的码分多址系统框架——空时频扩展码分多址(STFS-CDMA)；然后推导出了适用于STFS-CDMA系统的三种MMSE检测器；并且提出了一种新型的扩展码——双正交码。在STFS-CDMA系统中采用双正交码能够有效地获得空间、时间和频率分集，平衡各用户的性能，从而大幅度增强整个多用户系统性能。 在用于MIMO或MIMO-OFDM系统的自适应传输技术方面，本论文提出了两种高效的自适应传输技术：一是提出了一种适用于MIMO-OFDM系统的简单、有效的自适应传输方案，该方案能够在保证系统性能不显著下降的前提下，极大地降低自适应传输所需的计算复杂度；二是基于牛顿优化算法提出了一种最小化