在发送端和接收端都采用多个天线的多输入多输出(MIMO)系统比起单输入单输出(Single-inputSingle-output，SISO)系统，系统容量有了很大的提高。然而，由于MIMO系统中配备多个昂贵的射频链路使得硬件的成本和复杂度都增加很大，因此天线选择技术为人们提出并进行了研究。天线选择的基本出发点是在所有的天线中选择出一部分“好的”天线来使用，既发挥MIMO系统的空间分集或复用的优点，又降低其硬件复杂度。 本文我们主要研究MIMO系统的天线选择算法。首先我们对MIMO系统及其相关技术进行了概述，介绍了几种常见的信道环境，并对系统在各种信道下的容量进行了分析；接着介绍了天线选择的基本原理，分析了采用天线选择的MIMO系统的性能；然后研究了几种基于容量准则的天线选择算法，并通过仿真对各算法的复杂度和容量进行了比较；最后我们研究了空间复用系统中的两种天线选择算法，分别是基于容量准则的递增天线选择算法和基于误码率准则的最小奇异值最大的天线选择算法，在这两种算法的基础上，提出了一种同时考虑容量和误码率的天线选择算法，并通过仿真从容量和误码率两个方面对三种算法进行了比较分析。