随着智能终端的快速发展和数据业务需求的爆发式增长,传统的无线物理层传输技术已经无法适应用户对无线通信系统的性能要求。在无线频谱资源日趋紧张的情况下,大规模多输入多输出(multiple-input multiple-output,MIMO)技术以其挖掘空间资源、提高频谱效率的优势,成为未来无线通信关键技术之一。由于在大规模MIMO系统中获取所有用户的瞬时信道状态信息(channel state information,CSI)通常比较困难,本论文分别针对多小区莱斯信道场景和通用移动通信系统(universal mobile telecommunications system,UMTS),研究基站侧仅知统计CSI时大规模MIMO波束分多址(beam division multiple access,BDMA)传输方法。首先,研究大规模MIMO系统的信道模型及空间特征,并讨论大规模MIMO波束域传输理论方法。将大规模MIMO系统中每个用户与基站间的信道由联合相关信道模型表示,当基站端配置均匀线性阵列(uniform linear array,ULA)且天线数目趋于无穷时,离散傅立叶变换(discrete Fourier transform,DFT)矩阵即为发送协方差矩阵的特征矩阵。利用DFT变换将信道变换到波束域后可以解相关,得到波束域的统计CSI与子载波无关的结论。针对大规模MIMO系统中基站侧瞬时信道状态信息获取困难的问题,在最大化下行传输的系统和速率上界的准则下,下行传输应为波束域传输,且不同用户的波束集合互不重叠。仿真结果表明,在莱斯信道条件下,大规模天线阵列具有更高的空间角度分辨率,波束域信道具有能量集中的特性,为大规模MIMO波束分多址传输奠定了基础。其次,基于上述大规模MIMO波束域传输理论,研究莱斯信道下多小区大规模MIMO BDMA功率分配问题。由于波束域最优传输要求不同用户的波束集合互不重叠,发送信号协方差矩阵的优化问题为一个功率分配问题,其目标函数是两个凹函数之差(difference of concave functions,d.c.),因此利用凹-凸过程(concave-convex procedure,CCCP)迭代求解。基于基站侧仅知统计信道信息的假设,利用确定性等同求得和速率近似值,并提出闭式的功率分配算法。根据时分双工(time division duplexing,TDD)和频分双工(frequency division duplexing,FDD)系统中的上行链路和下行链路统计信道信息的互易性,提出利用上行探测信号以较低的开销获取基站侧统计信道状态信息的方法。仿真结果表明,与最大化和速率上界的功率分配方法、为非视距(non line of sight,NLOS)环境设计的基于确定性等同的功率分配算法以及等功率分配的波束调度算法相比,所提算法具有明显的性能增益。最后,研究基站侧仅知统计信道状态信息情况下大规模MIMO BDMA传输方法在宽带码分多址(wideband code division multiple access,WCDMA)系统中的应用。WCDMA系统下行链路利用正交可变扩频因子(orthogonal variable spreading factor,OVSF)码正交地划分信号空间,所分割的信道数量有限,因此进一步研究将相同的信道化码分配给多个用户的方法。通过研究基于物理信道的大规模MIMO波束域信道模型,证明在单径传播的环境下共享同一码道的用户通过不重叠的波束与基站通信的方法在最大化和速率的准则下是最优的。根据BDMA传输下仅依赖于统计信道信息的系统速率近似值,分析等功率分配的波束选择问题,并证明最大化系统和速率近似值要求共享同一码道的用户在空间位置上尽可能分开。由此通过层次聚类将空间位置重叠程度较大的用户分组到同一个集群中,并提出一种低复杂度的用户调度算法,以将同一集群中的用户分配到不同码道。此外,根据上行链路和下行链路的统计互易性,研究通过上行链路控制信道来获取下行信道能量耦合矩阵的方法。仿真结果表明,与随机方法相比,所提出的用户聚类方法在ULA和均匀平面阵列(uniform planar array,UPA)场景下均有显著的性能增益。