在即将商用化的第五代移动通信系统中,Massive MIMO技术作为其发展的核心动力之一,使频谱效率有了很大的提升,且由于发射端天线数目激增,传输波束的宽度渐渐变窄,也就使得不同波束之间的干扰开始明显减少。虽然该技术带来了性能上的优势,但对系统波束管理和控制的运算性能却提出了很高的要求,鉴于现有收发机的处理能力已经无法承受这种大规模波束赋形带来的计算负担,因此高性能、低复杂度的预编码或检测算法成为了当下的研究热点。本文重点研究了Massive MIMO系统下预编码技术的信号处理问题,从机理上定位为两部分:不同场景下预编码算法的选取和预编码过程中对角占优矩阵的高性能求逆运算。同时,在保证系统性能不受影响的情况下,提出了一种近似性能最优的预编码方案,且最终以实际的毫米波5G信号源研发为目标,通过动态链接库与用户界面相结合的软件实现方式,验证了本文所提出预编码方案的可行性与实用性,进一步促进了Massive MIMO中预编码技术的发展。具体内容如下:第一,预编码问题的提出、理论分析验证和不同场景下的算法选取。首先,对Massive MIMO技术中的三种系统模型进行理论分析,推导出各模型下系统容量的数学表达式;其次,以多用户系统为基础,对常见的线性预编码方案进行研究,给出了不同方案中对应预编码矩阵和接收信号的数学表达式;最后以误比特率和系统容量为衡量标准,对上述预编码方案进行性能评价,理论与仿真分析相结合,得出不同应用场景下,预编码算法各自的优缺点。第二,线性预编码方案中高维矩阵求逆问题的研究。通过相应的数学分析,总结出预编码过程中待求逆矩阵的特征,同时对常用的精确求逆与逆矩阵估计算法进行性能评估,分析总结了这些方法在实际应用时计算复杂度过高、硬件负载较大和无法保证精确度等不足。为解决现有的问题,本文提出了一种近似性能最优的Neumann-Chebyshev联合预编码方案,这种联用方式将Neumann级数展开具有的高收敛性与Chebyshev迭代提供的最优搜索方向相结合,通过讨论该方案的收敛性、适用性和计算复杂度,同时结合其性能仿真分析,进一步验证了本联合方案可以在保证高收敛性的前提下,以更快的收敛速度获得更优的系统性能。第三,预编码方案与逆矩阵估计算法的软件实现。为了将上述研究内容应用于实际的毫米波5G信号源样机,将常见的线性预编码方案和矩阵求逆算法进行了软件实现。通过使用动态链接库的方式对具体的软件功能进行了封装,而对外只提供可以调用的函数接口,这样,一方面保证各功能模块并行开发的独立性,另一方面降低代码之间的相互耦合度,以此避免了与样机总工程结合时,由于参数改动而引起的大面积程序改动。同时,利用Qt Creator进行了软件用户界面的设计开发,通过可视化界面操作不仅使实验的数据分析和比对更加便捷,而且为信号源样机阶段性的功能测试奠定了基础。本文通过理论与仿真相结合,首先得出了不同应用场景下,现有预编码方案各自的优缺点。接着提出了Neumann-Chebyshev联合预编码方案,在保证高收敛性和计算精度前提下,本方案以更快的收敛速度使得系统性能达到了近似最优。最后完成了相应预编码方案与逆矩阵估计算法的软件实现,通过软件计算结果与仿真数据的误差分析,验证了此软件的实用性和可靠性。