作为提高无线通信系统频谱效率的重要手段,点对点的单用户多输入多输出(Multiple-Input Multiple-Output, MIMO)技术在过去十余年间经历了长足发展,而蜂窝网络、无线局域网等实际系统中不可避免地会遇到更为复杂的点对多点、多点对多点的MIMO通信模型。这两种MIMO系统均包含多个用户接收机,通常将前者称为MIMO广播信道,后者称为MIMO干扰信道,二者对于提升MIMO无线通信系统性能具有重要意义,并且传统的单用户MIMO传输策略对其不再适用,因此近年来上述两种多用户的MIMO通信系统受到了研究者的格外关注。本论文主要针对MIMO广播信道(也称为多用户MIMO下行链路或系统)预编码技术和MIMO干扰信道干扰协调技术进行研究,其主要贡献在于为获得简便高效的传输策略提出了多种新算法,并能够对算法所能达到的系统容量性能进行理论分析。首先,论文提出了一种低复杂度的多用户MIMO下行链路块对角化预编码算法。算法通过对迫零向量的格拉姆-施密特正交化消除用户间干扰,进而按照单用户MIMO容量最大化准则获得预编码矩阵。论文从理论上证明了所提算法同样能够实现无用户间干扰条件下的最优容量。由于算法避免了干扰消除过程中复杂的矩阵奇异值分解运算,其计算复杂度相比传统算法有显著降低,下降幅度达百分之五十其次,论文提出了一种低复杂度的多用户MIMO下行系统迭代迫零预编码算法,满足用户分配单路数据流这一特定场景。算法使用迫零准则设计预编码发射向量,使用最大比合并准则更新接收向量,并且通过并行更新方式完成收发向量迭代,以实现快速收敛。由于算法完全基于线性运算构造,其计算复杂度得到大幅降低,并且仿真结果表明,算法在性能上仍非常接近具有最佳容量的同类迭代算法。最后,论文提出了两种最大化MIMO干扰信道容量的分布式干扰协调算法。论文通过对系统容量进行一阶泰勒展开,推导定义了代价函数概念。所提出的迭代泰勒近似(Iterative Taylor Approximation, ITA)算法通过交互代价信息,使用户依次最大化泰勒近似的系统容量,能够达到最大化用户速率与抑制对其他用户干扰二者之间的有效折中。论文在理论上证明了分布式ITA算法能够达到与集中式算法相同的容量性能。论文进一步构造虚拟n人凹博弈对更加广义的异步发射策略更新过程进行分析,证明了博弈过程中纳什均衡点的存在性与唯一性,并基于该博弈模型提出了分布式迭代协方差-代价更新(Iterative Covariance-Price updating, ICP)算法,其策略更新方式更加灵活,并且仿真结果表明,ICP算法能够以更低的交互量,实现与ITA算法几乎完全相同的容量性能。论文的一个突出贡献在于,在不附加任何额外限制条件下,将单输入单输出(Single-Input Single-Output, SISO)干扰信道中的代价概念扩展至MIMO场景,并从泰勒近似的角度给出了合理解释。与其他同类分布式算法相比,论文算法适用于更加一般的MIMO干扰信道情形,并且算法收敛性能够得到严格证明。