多天线传输(MIMO)以其能极大增加系统容量与改善无线链路质量的优点而受到了越来越多的重视与关注。在以往的多天线传输研究中,一般假定MIMO信道是独立同分布的,但在实际的无线传输环境中,由于收发信机尺寸的限制或者信道中散射体不够丰富等原因,MIMO信道往往是空间相关的。为此,本文对多天线传输中信道空间相关性的影响进行了研究。作为减小信道强相关影响的一种有效解决方法,天线选择构成了本文的另外一个研究内容。已有的一些关于信道相关性影响的结论或过于粗略——只有定性分析而无定量结果,或过于数学化——往往包含了复杂的数值计算——而使其物理意义受到了掩盖。而本文得到的结果同时具有形式简单且物理意义明确的优点:文中给出了分别对应于信道空间相关性对MIMO容量的影响、对分集空时码性能的影响以及对分层空时码的检测性能的影响的三个定理。通过提炼这三个定理,我们得到了一个更为统一而本质的结论:信道相关矩阵的秩对应于MIMO系统的自由度,而相关矩阵的特征值扩展则决定了系统的编码增益。天线选择能有效减小信道弱相关所带来的影响,另外它还具有降低硬件成本与实现复杂度的作用,为此,本文对MIMO系统的天线选择也进行了研究。本文提出了一种基于排序QR分解的发射端天线选择快速算法,并从容量和检测性能两个方面论证了该算法的优点,仿真结果支持了我们的论断:该算法的性能与最优算法的性能非常接近,而我们提出的算法的复杂度却比最优算法要低得多。