大规模天线(Massive Multi-input Multi-output, Massive MIMO)技术能够显著提升频谱效率和能量效率,被学术界和工业界广泛寄予厚望,很有可能成为第五代移动网络(5th Generation mobile networks,5G)的核心技术之一。目前,针对Massive MIMO用户调度等问题的研究较少。为了充分挖掘Massive MIMO技术的潜在优势,本文主要对Massive MIMO系统中的低复杂度用户调度问题进行了研究。首先结合Massive MIMO的特点,利用随机矩阵理论(Random Matrix Theory, RMT)等先进的数学工具,分析了多种场景中Massive MIMO系统的和速率性能。然后以这些理论分析结果为基础,从全新的角度对用户调度进行了讨论并设计了高效的调度方案。所提方案能够以较低的实现复杂度显著提高系统的和速率性能,对5G系统中用户调度的具体实施具有重要的指导意义。本文的主要创新和贡献如下：1)提出了单小区场景中Massive MIMO下行系统的低复杂度用户调度方案。本文对采用了迫零(Zero Forcing, ZF)预编码的Massive MIMO系统和速率进行了理论分析,得到了较紧的和速率近似表达式。该表达式与瞬时信道状态信息(Channel-State Information, CSI)无关,而只依赖于系统配置(如基站天线数目、基站发送功率等)和统计信道信息(如小尺度信道的特征值分布等)。基于该表达式,讨论了活跃用户数目对系统性能的影响,设计了两种高效的用户调度方案,通过优化活跃用户数目,提高系统和速率。所设计的方案能够以近似于随机用户调度(Random User Scheduling, RUS)的较低的实现复杂度获得和速率的显著提高。另外,本文还对这种场景下多种线性预编码方案的性能进行了理论分析,提出了一种低复杂度的基站传输模式选择方案,通过对基站预编码方案与用户调度的联合设计提高了系统的和速率。2)提出了多小区场景中Massive MIMO下行系统的低复杂度用户调度方案。与传统的基于复杂实时计算的干扰管理技术不同,本文将有源天线系统(Active Antenna Systems, AAS)引入多小区Massive MIMO系统中,利用AAS的垂直维度空间域自由度来降低干扰。首先根据基站天线的垂直波束特征,将备选用户根据位置进行分组,以供不同的调度子时隙调度。然后利用RMT等理论工具,得到了系统和速率的近似表达式,讨论了各用户组对应的最优基站天线下倾角和活跃用户数目。最后提出了一种联合基站天线下倾角调整、用户分组和调度的低复杂度传输方案。此外,本文还提出了一种基于发送波束成形码本和门限反馈的机会干扰对齐用户选择方案。3)提出了两跳Massive MIMO中继系统的低复杂度功率分配和用户调度方案。针对中继配置了大规模天线阵列的放大转发(Amplify-and-Forward, AF)中继系统,本文利用自由概率理论(Free Probability Theory, FPT)等理论分析工具得到了简洁的和速率近似表达式。基于该表达式提出了基于大尺度衰落(Large-Scale Fading, LSF) CSI的中继功率分配方案,避免了传统功率分配所需的复杂矩阵计算。同时还提出了低复杂度的用户对调度方案,通过调整系统中的活跃用户对数目来提升系统的和速率性能。另外,本文还对Massive MIMO AAS中继的最优天线下倾角进行了研究。