移动互联网和物联网的蓬勃发展促进了第五代(5G)移动通信系统的研究。密集分布式天线系统作为一种网络架构形式,能融合当前5G中关键的物理层技术：毫米波技术、超密集异构网络和大规模MIMO技术,从而展现出广阔的潜力。本文主要研究分布式天线系统中的预编码技术并利用区域频谱效率这一性能指标衡量密集分布式天线系统中下行链路的性能。首先,介绍无线信道的主要特征和统计模型并研究分布式天线系统的性能。针对无线信道中小尺度衰落、阴影衰落和大尺度衰落三种组成部分,文章讨论了其统计模型。接下来介绍分布式天线系统的信道容量和误码率。在分布式天线系统单小区的仿真中,研究了接收端采用不同接收技术的分布式天线系统的下行链路性能,并且验证了分布式天线系统相对于集中式天线分布系统在小区覆盖和降低发射功率方面的优势。其次,研究分布式天线系统中的线性预编码技术。预编码技术作为一种应用在在发送端的信号预处理技术,主要是指发送端根据所获取的完整的信道信息,在发送端对信号进行处理,从而消除干扰实现改善系统性能的目的。针对满足信干噪比约束条件下最小化发送功率优化问题,通过凸优化方法设计出最优预编码方法；在此基础上,假定预编码方向确定的情形中,通过优化功率分配,提出了复杂度更低的次优预编码方法。在仿真分析中,对比最优预编码方法和次优预编码方法以及分布式天线系统和传统蜂窝系统的性能,得出在分布式天线系统中运用预编码技术的巨大优势。再次,设计出基于功率上限和基于位置信息的加权信泄露噪声比(SLNR, signal-to-leakage-and-noise ratio)预编码方法。在次优预编码方法中,SLNR预编码方法由于中断率高故不能同时满足所有用户相同高速率要求。为此,探讨了SLNR预编码方法与最大比发送(MRT, Maximum ratio transmission)预编码方法及迫零(ZFBF, Zero-Forcing Beam forming)预编码方法之间的关系,借鉴最优预编码方法的特点,提出基于功率上限的加权SLNR预编码方法和基于用户位置信息的加权SLNR预编码方法,并通过仿真验证两种加权SLNR预编码方法在改善SLNR预编码方法的优势。最后,研究密集分布式天线系统。分析比较各种密集分布式天线系统的分布模型和信道模型,探讨不同的天线单元分布方式以及天线单元数目、用户分布方式、预编码方法、小区半径和用户数量对于密集分布式天线系统性能的影响,以区域频谱效率为性能指标衡量密集分布式天线系统的性能。