Massive MIMO技术是当前5G研究的热点之一,其在传统MIMO的基础上,在基站端部署大规模的天线,以提高通信系统的容量和频谱效率。但是成百上千根天线会给基站带来巨大的功耗,海量的数据,以及高昂的成本,这是部署大规模天线时必须考虑的问题。通过在基站端采用低量化比特的ADC,可以有效缓解这些问题。异构网络能满足通信系统中不同用户的服务质量,是未来无线网络部署的重要形式,并且在LTE R10中正式引入了异构网络的概念。在Massive MIMO系统中引入异构网络,宏小区范围内部署微基站,能满足通信热点或室内用户的通信需求,提供更高的服务质量。本文采用了一种简化的基于Massive MIMO的异构网络模型。文章首先对Massive MIMO系统和异构网络模型进行了简要概述,并指出低比特量化在Massive MIMO应用中的重要性。在采用1比特量化的单输入单输出系统中,分析此时的信道容量,然后扩展到多用户Massive MIMO系统中。分别对LS信道估计方案和MRC接收机情景下的系统容量进行了分析。比较了低比特量化下不同信噪比、天线数目对用户可达速率的影响,说明在采用大规模的天线阵列时,可以获得较高的用户速率。为了获取更好的检测性能,本文对低量化比特接收机进行了研究。首先比较了MRC接收机和ZF接收机。在低量化比特接收机中,贝叶斯检测器是一种有效信号检测方案,通过引入GAMP算法计算边缘后验概率,将其用于低量化比特的信号检测,可以有效地提高性能。但是基于GAMP算法的贝叶斯检测器需要进行多个积分运算,复杂度太高。另一种信号检测算法来自于最大似然算法,利用凸优化理论得到一种近似最大似然检测方案。这种算法的迭代收敛的次数随着基站天线数目的增多而减少。在Massive MIMO异构网络上行链路中,当采用低量化比特ADC时,为了对本小区的目标用户和干扰用户进行联合估计,提出了一种基于GAMP的联合迭代检测方案。通过检测器和译码器之间软信息的循环迭代的方式进行联合检测,可以有效地对信号和干扰进行估计。通过比较不同量化比特下与未量化情形下的检测性能,说明了这种迭代检测方案的有效性。另外,预编码技术是一种有效的干扰消除方案,可以通过预编码技术减少宏基站对非服务用户的干扰,同时提升宏用户信号检测的性能。仿真结果比较了不同量化比特数对异构网下预编码性能的影响。