大规模多输入多输出(MIMO)技术能够提升无线通信系统的频谱利用率和功率利用率,目前已成为5G无线通信领域内最具潜力的研究方向之一。大规模MIMO无线通信系统中的信道获取至关重要,获取的信道质量关系着预编码、用户调度等算法以及整个传输系统的性能。大规模MIMO系统中的信道跟踪、预编码、用户调度等关键技术普遍涉及高维矩阵运算,复杂度较高,难以适应实际需求。因此,开展大规模MIMO无线通信中的低复杂度的信道获取和传输方案优化设计的研究具有现实意义。本文具体工作主要包含以下四个方面：首先,归纳总结了大规模MIMO无线系统中与本文研究相关的技术成果,包括预编码、用户调度和信道获取等技术,具体介绍了迫零(ZF)、最小均方误差(MMSE)、最大比发送(MRT)等三种预编码算法和贪婪式、迭代式功率投影(IPP)这两种用户调度算法,信道获取技术中涉及到上下行信道转化和用户分组等技术,因此文中总结了K-means聚类、Improved K-means聚类、基于离散傅里叶变换(DFT)等三种用户分组算法和矩阵转化(MTM)、频率校正(FC)等两种上下行信道转化算法。文中使用MATLAB仿真比较了这些算法的性能,仿真结果显示MMSE预编码在和速率性能上相对最优,当发送信噪比较大时,ZF算法性能接近MMSE算法,而MRT算法的复杂度最低并适用于用户数较少的场景。两种用户调度算法中,贪婪式算法可以得到较大的和速率,而IPP算法的复杂度较低。用户分组算法中Improved K-means聚类算法的性能最优,基于DFT的分组算法避免了高维矩阵运算,复杂度较低。上下行信道转化算法中FC算法只适用于天线数较少的系统且含有矩阵求逆运算,相较之下,低复杂度的MTM算法更加适用于大规模MIMO无线系统。其次,针对移动场景中大规模MIMO系统瞬时信道难以跟踪的问题,本文研究了统计信道的跟踪方案,本文将PASTd等子空间跟踪算法运用到信道特征子空间的跟踪中,避免了传统子空间估计算法复杂度高和不能实时更新的问题。本文还提出了PASTd的改进算法使其能够更好地跟踪动态特征子空间。针对FDD系统中上下行特征子空间不一致的问题,本文提出了一种低复杂度的相位补偿算法(PCM),有效地实现了上下行信道特征子空间的转化。文中使用MATLAB仿真分析了相关算法的性能,仿真结果显示PASTd算法有良好的收敛特性且跟踪信道特征子空间的性能逼近传统批处理算法的性能；文中所提的转化算法PCM的性能略低于MTM,但由于其抗噪性能好且运算复杂度低,因此更加适用于大规模MIMO无线系统。然后,在研究统计信道跟踪方案的基础上,进一步研究基于统计信道信息的预编码和用户调度算法,文中提出了三种用户调度算法和两种预编码算法,并形成了一个完整的系统传输方案。其中,迭代式特征关系比较(ICEC)算法是以用户统计信道的正交性为准则的贪婪式用户调度算法,而迭代式离开角比较(ICAC)算法是ICEC算法的近似算法并降低了ICEC算法的运算复杂度,结合用户被调度的公平性准则和和速率准则,文中提出了基于分组、排序的调度(GSOS)算法,GSOS算法的主要思想是通过将统计信道相似的用户分为一组和依据位置信息进行组内排序来保证用户公平性和被调度用户间的信道正交性。统计预编码算法设计中,文中以优化信漏噪比(SLNR)确定值的下限为目标,提出了统计波束成型算法,并提出了以最主特征矢量为预编码矢量的简易波束成型算法。结合统计信道跟踪、用户调度和预编码算法,文中提出了大规模MIMO多用户(MU-MIMO)系统中基于统计信道跟踪的传输方案。文中使用MATLAB仿真分析了相关算法,仿真结果显示,ICEC算法的和速率相对最高,GSOS算法可以实现较高的用户公平性,而ICAC算法的运算复杂度最低。两种统计预编码算法中,统计波束成型算法的和速率性能优于简易波束成型算法,如果配合用户调度算法,那么简易波束成型算法的和速率可以逼近统计波束成型算法。传输方案的仿真结果显示基于统计信道信息跟踪的传输方案的系统和速率可以比拟基于带有一定误差的瞬时信道的传统传输方案,证明了所提方案的有效性。最后,针对高铁中应用大规模MIMO技术这个热门研究课题,本文研究了高铁大规模MIMO系统中的瞬时信道跟踪和传输方案设计问题。针对高铁大规模MIMO系统中信道获取较为困难的问题,本文利用了高铁的地理位置信息来辅助瞬时信道的跟踪,基于信道的时空相关性提出了Kalman滤波跟踪瞬时信道的方案,并结合地理位置信息给出了最优训练波束的推导公式。针对典型的多终端配置的高铁系统,本文提出了用户分组发送下行训练波束的算法,权衡了信道跟踪性能和符号资源的开销。然后,本文提出了两种基于位置信息的系统传输方案并使用MATLAB仿真了相关算法,仿真结果显示所提的Kalman滤波跟踪方案获得的信道质量高于没有波束训练的预测信道质量,使用最优训练波束算法跟踪的信道质量优于随机波束。利用用户分组算法跟踪得到的信道质量虽然比单用户信道跟踪质量差,但却节省了近一半的符号资源。基于波束训练和位置信息的传输方案的系统和速率略高于基于位置信息的统计传输方案,证明了波束训练的必要性和利用位置信息的优越性。