Massive MIMO(multiple-input multiple output)技术在基站侧部署大量天线,可以在同一时频资源上同时服务大量用户,不仅可以提高系统速率和可靠性,还可以降低基站发射功率,成为5G候选技术之一。Massive MIMO优势的实现依赖于准确的信道状态信息(channel statement information,CSI)。FDD(Frequency division duplex)模式下,CSI的获得依赖用户反馈,参考信号和用户反馈的开销随着天线数目增加而不可接受。因而通常将Massive MIMO技术用于TDD(time-division duplex)模式,利用信道的互易性,根据用户发送的上行导频来做信道估计,获得CSI。真实系统中,导频长度有限,小区间共用一套导频,不同小区用户发来的非正交导频造成导频污染。导频污染严重制约了 Massive MIMO系统的性能。如何抑制导频污染成为Massive MIMO系统亟待解决的问题。本文首先研究了线状蜂窝网络中的导频污染,分析了系统的信道估计误差和频谱效率以及影响导频污染的多种因素,包括天线数量、小区数量、导频长度、交叉增益等。在研究面状蜂窝网络时,充分借鉴了线状蜂窝网络的结论。面状蜂窝网络中,小区数目较多,小区间共用同一套正交导频时,导频污染严重。针对这一现状,本文从降低干扰和增强有用信号两个方面寻找解决Massive MIMO系统中的导频污染问题的方法。在降低干扰方面,对比了两种常用导频污染抑制算法:时隙偏移法和导频功率控制法。研究表明这两种方法都可以将交叉增益较大、干扰较强的小区用户发送导频的时隙与目标小区用户发送导频时隙错开,在时域提供导频正交性,抑制导频污染。但在时隙偏移法中,消除导频污染的同时引入了相邻小区的数据干扰。而且需要频繁修改帧结构,不灵活,实用性低。相比而言,导频功率控制算法不会引入其他干扰,而且只需要缩短导频长度就可以实现,简单实用。在增强有用信号方面,各小区基站采用低复杂度的混合模拟/数字波束赋形结构。在模拟域,基站产生一系列不同方向的模拟波束,用户通过测量选择最佳模拟波束接入。显然,模拟波束的设计和选择关系到信道估计的准确性和导频接收质量。本文详细设计了模拟域波束的分布模型、波束集合、最佳波束的搜索等。并提出了基于角度和幅度的插值优化算法。插值算法基于模拟波束之间的空间相关性,在插值算法中,基站可以动态调整模拟波束,令波束更好地对准用户,增强目标导频的接收质量,进一步降低导频污染,提升系统性能。对解决Massive MIMO系统中导频污染问题有一定的理论价值和实践意义。