近年来随着信息通信技术的飞速发展,智能生活设施大批涌现,用户对无线通信系统数据传输带宽、稳定性和时延要求越来越高,传统多输入多输出(Multi-input Multi-output,MIMO)天线技术已经无法满足移动数据流量迅速增长的需求,大规模MIMO技术作为实现第五代(5G)蜂窝网络通信的核心技术,在无线通信研究领域受到高度关注。研究表明,使用多天线技术,系统网络容量和发送端的发射功效将得到数量级的提升,给无线通信系统性能带来显著改善。大规模MIMO技术通过在基站(Base Station,BS)配备更多的有源天线阵列实现,与传统MIMO相比,可大幅提升数据传输速率和系统容量。研究表明,大规模MIMO系统的导频分配策略和性能较好的信道估计算法是改善系统性能的关键,本文对系统导频污染和数据传输信道特性展开研究,工作安排如下:本文对大规模MIMO系统模型进行分析,简单阐述了用户与基站的数据交互过程,无线信道特征等。首先,为系统导频分配和稀疏信道估计有进一步了解,第二章对小区的导频污染产生原因及其影响进行分析、概括,针对当前系统存在问题,简要介绍了几类经典的导频分配方案和信道估计算法,并分析其特点。其次,阐述时分双工(Time Division duplex,TDD)模式无线信道特性,结合实际场景用户位置分布特征建模蜂窝小区模型;针对部分小区用户严重遭受导频污染,通信质量表现极差的现象,在第三章提出了一种区分用户的导频分配方案。算法主要思想是根据信道误差因子值对小区用户进行分类,分类后对用户采用相应穷举法和匈牙利算法进行导频分配,提出的匈牙利算法利用问题解耦成多个子问题的思想,制定最大化系统下行链路和速率的导频分配优化问题,通过多次迭代,优化当前小区的导频分配,最后达到最佳分配。仿真结果表明:提出的改进算法能以较低的复杂度获得良好的系统性能。最后,结合大规模MIMO技术阐述系统使用毫米波通信的信道特征,毫米波系统的信号传输倾向于呈现系统的多径稀疏结构,并随着信号空间维度变大而变得明显,在第四章提出了一种基于改进广义Akaike信息准则(Generalized Akaike Information Criterion,GAIC)的稀疏信道估计算法,该算法根据有效抽头处脉冲幅度值较大特点,利用代价函数获取有效抽头位置准确执行信道估计,最大程度地减小噪声干扰,仿真结果表明本文提出的信道估计算法具备良好的噪声抑制和抗多径干扰能力。