随着LTE系统在实际场景中的布局与应用,多天线MIMO技术作为该系统的核心技术已经广泛的运用在当前无线蜂窝系统中。在当前的无线通信领域内,不管是在理论的系统模型还是实际的蜂窝小区场景中,小区边缘用户受相邻小区基站的干扰问题日益严重,已经成为影响无线通信系统性能的重要因素。严重的小区间干扰会导致系统的吞吐量和信道容量出现严重的降级。为了有效地降低小区间的干扰,当前学术界提出了协作多点传输(CoMP)等相关技术。虽然这些技术能够有效的抑制小区间的干扰,但是这些技术并不能从根本上使系统容量提升一个量级,以满足用户日益增长的数据业务需求。近几年提出的大规模MIMO技术不仅能够有效的减轻小区间的干扰问题,而且能够使得系统的阵列增益、系统容量以及频谱利用效率获得很大的提升。在大规模MIMO系统中,基站端配置数量巨大的阵列天线,基站端与终端之间通过时分双工的方式进行通信传输。基于大规模MIMO技术潜在的巨大优势,该技术也引起了广泛的关注与研究。由于当前多小区使用的导频存在复用或非正交的情况,所引起的导频污染,会严重影响大规模MIMO的系统性能。本文主要对预编码技术进行研究分析,并考虑采用预编码技术来消除或抑制导频污染对系统性能的负面影响。首先对多输入多输出(MIMO)系统中信道大尺度、小尺度衰落模型的建立以及相应的仿真方法进行简单描述,并对MIMO预编码技术以及多用户MIMO预编码算法进行了介绍。然后针对小区间的干扰问题进行分析,着重对分层异构网络系统中采用的CoMP技术以及相应的干扰协作算法进行研究比较。针对大规模MIMO系统中所存在的导频污染问题进行分析,包括导频污染的由来,上行链路信道估计以及导频污染优化策略。基于对多小区场景中预编码算法的研究分析,考虑将多小区系统中的干扰协作预编码算法应用于大规模MIMO系统中。本文在大规模MIMO系统模型中提出一种基于Max-SINR的下行链路预编码算法用于抑制导频污染,该算法利用了拉格朗日乘子以及KKT条件。仿真分析结果表明,在重导频污染场景下,该算法性能曲线大大优于经典的MF预编码算法,能够很好的抑制导频污染对系统性能带来的降级,保证大规模MIMO系统的高性能。