随着无线通信继续深入到人们生活的各个层面,更大网络容量、更高传输速率、更低实现复杂度的技术方案成为了研究的主要方向。目前主要的候选技术包括大规模MIMO系统、毫米波传输、非正交多址接入、超密集网络等,其中对大规模MIMO系统的研究最为广泛。大规模MIMO系统是传统MIMO系统在空间维度上的扩展,突破了传统多天线传输技术的局限,具备更高的数据传输能力。然而大规模MIMO系统的物理层传输方案仍然存在诸多瓶颈,如实现成本高的问题、精确信道信息获取难的问题等。本论文侧重于研究快时变信道环境中大规模MIMO系统的低复杂度、高效率传输方案,主要针对在未获知精确信道状态信息条件下的非相干信号传输与处理方法。论文从大规模MIMO系统传输信道的统计性质出发,分别从发送端信号设计和接收端信号处理与重构算法的角度进行了深入研究,所做的工作主要包括:(1)基于大规模MIMO系统传输信道的统计渐近性质(信道硬化特点),构建了基于该性质的非相干上链路传输收发模型,进而研究了最优非相干最大似然检测算法,并在理论上分析了非相干检测的成对错误概率。(2)在用户的发送符号设计方面,提出了基于能量检测的非相干传输方案,分析了大规模MIMO系统采用能量检测时对于发送符号的设计准则,并提出了基于星座放缩的实数信号设计方法,给出了相应的判决方法。(3)在接收端信号处理方面,研究了在不依赖精确信道信息的条件下采用非相干信号检测和处理方法,建立了基于接收信号特征辅助的信号重构算法,并采用等价问题优化求解的方式提出了完整的多用户非相干迭代信号重构算法。综上,论文针对大规模MIMO系统的上链路传输,研究了未知精确信道状态信息条件下的非相干传输方法,所提算法能够在一定程度上缓解大规模MIMO系统底层帧结构设计中的训练序列、导频等资源等开销,提升系统物理层传输的效率。方案有望为未来大规模MIMO系统的工程实践提供借鉴和参考。