多输入多输出(Multi-Input Multi-Output，MIMO)技术是LTE及下一代无线通信系统的物理层核心技术，可以显著提高系统容量。预编码技术利用信道信息，在发送端对信号进行预操作，可以有效抑制多用户MIMO系统用户间干扰，增加对信道的适应性，提高通信可靠性。由于大尺度衰落、信道时变性、信道估计误差等因素的影响，实际系统中发射机往往无法得到准确的信道状态信息，需要接收端利用低数据率的反馈信道反馈该信息。基于有限反馈的预编码系统设计符合实际应用，可以为蜂窝移动通信系统提供符合需求的实现方案。　　本论文的主要内容和核心贡献包括:对有限反馈技术、线性预编码技术、模代数预编码技术进行综述和分析，并分别仿真性能。本论文以模代数预编码技术为研究重点，分别针对集中式模代数预编码、分布式模代数预编码两种情况进行讨论，研究并推导了有限反馈的情况下模代数预编码系统的信道容量。针对实际系统中带宽和开销的限制，提出了反馈量低的模代数预编码改进算法，在保证系统性能的基础上有效降低反馈开销。本文针对下一代通信系统，研究模代数预编码的系统性能和技术特点，并提出合理化的应用建议。　　本文以纵向研究为主线，共分为七章。第一章为绪论，对论文研究内容和背景知识做了概括性的介绍。第二章详细介绍LTE系统下行预编码技术，MU-MIMO预编码理论和链路级仿真流程。第三章着重研究基于有限反馈的预编码技术，包括反馈方式及内容、码本设计和选择算法，这是论文后续研究的理论基础。第四章是本论文的重点和创新部分，深入研究分布式、集中式模代数预编码的系统模型和信道容量，并提出接收端优化的改进算法。本章还针对实际应用场景，对预编码量化处理进行研究，这是对模代数预编码的深入研究。第五章在第三、四章的理论基础上，进行仿真验证，并详细分析仿真结果。第六章则针对下一代通信系统中室内热点环境，分析模代数预编码的应用前景。最后，第七章总结全文，并对下一步研究提出了建议。