多输入多输出(Multiple-Input Multiple-Output, MIMO)系统能够有效提升信道容量,尤其是其中的MIMO空分复用技术能够使系统的信道容量随着收发天线数的增加呈线性增长。不过由于MIMO空分复用技术在每根收发天线上使用相同的时频资源传输信息,不可避免地造成系统的共信道干扰。预编码能够有效消除MIMO空分复用引入的共信道干扰,而模代数预编码则是其中的一种非常有效的消除干扰的预编码方法。由于多用户MIMO相对单用户MIMO具有更好的系统性能以及灵活性,所以论文主要研究了多用户MIMO系统中的模代数预编码技术,针对目前模代数预编码研究不足的问题,重点解决了模代数预编码的有限反馈问题,具体的研究工作主要概括为如下：首先研究了多用户MIMO模代数预编码技术。重点推导了非完美信道信息下模代数预编码与线性迫零预编码的信道容量,仿真分析了非完美以及完美信道信息下模代数预编码与线性迫零预编码的性能差异,理论推导与仿真表明模代数预编码的信道容量相对线性迫零预编码具有较大提升在此基础上,研究并解决了多用户MIMO模代数预编码有限反馈问题。理论推导与仿真表明多用户MIMO模代数预编码只需反馈信道矩阵分解得到的右特征矩阵即可满足模代数预编码要求。提出了一种正交量化信道右特征矩阵的算法,该算法能够在保持低复杂度的同时保证量化后的右特征矩阵的列向量之间正交。论文从信道容量、误码性能以及算法复杂度等角度全面评估了多用户MIMO模代数预编码的性能,评估表明多用户MIMO模代数预编码具备未来成为3GPP制定的移动通信标准的潜力。最后重点阐述了室内热点场景下多用户MIMO模代数预编码的应用前景。分析了室内热点场景下的信道特点,分析表明室内热点场景是非常适合使用模代数预编码的。并在此基础上提出了室内热点场景下多用户MIMO预编码动态自适应切换方案,该方案的一大亮点是能够保证模代数预编码与线性迫零预编码的无缝切换,从而为多用户MIMO模代数预编码的标准化应用奠定了坚实的基础。