大规模多输入多输出(MIMO)系统使用大量的天线,无需增加系统带宽,就能显著增加系统的容量和信道的可靠性,但同时也引入了用户间的干扰。在系统下行信道中,发射端采用预编码技术不仅有效降低用户间的干扰,提高系统的频谱效率,而且能够降低用户端接收机的复杂度,减少其功耗。在系统的上行信道中,基站根据导频信号进行信道估计,但接收到的导频信号中包含来自其他用户的信号干扰,受到污染的信道估计使得系统性能不随天线数的增加而大幅提高。所以,预编码技术和导频污染的消除方法具有很高的研究意义和应用前景。本文先建立大规模MIMO TDD系统模型,考虑信号传输过程中的大、小尺度衰落因子,对常见的匹配滤波(MF)、迫零(ZF)、规范化迫零(RZF)、最小均方误差(MMSE)预编码算法进行误码率性能的仿真和比较。结果表明,MF的误码率较高,而且随信噪比(SNR)变化比较平缓;ZF仅能消除用户间干扰,性能一般;RZF同时考虑信道噪声和用户间干扰,性能较优;MMSE将接收信号与原信号之间的均方误差控制在最小,其误码率最低,性能最佳。接着,在单小区大规模MIMO系统中分析了信道相干系数与基站天线数目的关系,比较了ZF和MMSE算法的系统可达速率。仿真结果显示,信道的相干性直接影响了系统性能,而且在基站天线数不超过8时,信道相干系数会随着天线数的增加显著降低,相应的系统可达速率也会明显增加。在多小区大规模MIMO系统中,建立基站间的共享网络,减少基站交换信道状态信息的开销。根据预编码矩阵归一化方式的不同,研究MF和ZF算法的信干噪比和系统可达容量。仿真结果发现,采用向量归一化方式的ZF算法性能优于矩阵归一化的ZF算法;且高SNR时,ZF算法性能较佳,低SNR时,MF算法性能较佳。在大规模MIMO系统中,传统的同步发射导频方案所需要的导频序列也逐渐增加,系统内其他用户的导频信号干扰对系统性能也造成了很大的影响;本文研究了一种新的异步发射导频方案,在重复利用导频资源的同时,还消除了系统中大部分的导频污染和信号干扰,明显提高了系统可达速率,仿真结果表明了该异步发射导频方案的优越性和可行性。