多用户MIMO(MU-MIMO)系统指在基站端有多个天线,用于数据的发送与接收,可以并发的向多个用户同时传输数据或者接收来自多个用户的数据。在下行多用户MIMO系统中,为了同时向多个用户传输数据,需要在基站端对数据流进行预编码以消除用户之间的干扰。当系统中天线数一定、用户数比较多时,同一时刻基站可服务的用户数有限,这时需要调度一部分用户进行通信。本文重点研究下行多用户MIMO系统中的用户调度算法。首先研究了基于非线性Tomlinson-Harashima(TH)预编码的用户调度算法。分析了经典的穷举调度算法和贪婪调度算法,重点研究了改进的基于多重循环的穷举调度算法、基于G-S正交化的贪婪调度算法和基于用户增益与相关性的调度算法。仿真结果表明,基于多重循环的穷举调度算法和基于G-S正交化的贪婪调度算法相对于原来的经典算法,降低了算法复杂度,获得的系统总容量不变。基于信道增益和相关性的调度算法的复杂度最低,但系统总容量也降低了。其次研究了基于线性块对角化(BD)预编码的用户调度算法。在经典的穷举调度算法和贪婪调度算法的基础上,重点研究了两种改进的调度算法:基于Frobenius范数的调度算法和基于矩阵体积的调度算法。在常规算法和贪婪算法的基础上,提出了一种低复杂度的基于用户间夹角的调度算法。仿真结果表明这种算法所获得的系统总容量接近贪婪调度算法,尤其在高信噪比的情况下,性能优于基于Frobenius范数的调度算法和基于矩阵体积的调度算法。为了满足公平性准则,基于上述算法本文提出了一种轮询调度方案。轮询方案将总的服务时间分为若干时隙,在不同时隙中轮询的选择用户,在每个时隙中递归的调用上述用户调度算法来选择用户。所有的用户都有机会被基站调度,保证了调度的公平性。最后研究了两种结合用户调度的基于码本的有限反馈方案:信道矢量量化(CVQ)和每用户酉速率控制(PU2RC)。仿真结果表明:在调度用户数受限的条件下,CVQ方案所获得的总容量优于PU2RC方案。