近年来,第五代(5th Generation,5G)移动通信发展如火如荼,作为5G的关键技术之一,大规模MIMO(Multiple-Input Multiple-Output)技术能够在不增加时频资源的情况下显著提升无线通信系统的频谱效率而受到了广泛关注。然而由于上百根天线的使用,大规模MIMO技术面临着高成本和功耗的挑战。解决这一挑战的有效方法是采用低精度模数转换器(Analog-to-Digital Converter,ADC)替代高精度ADC,但是低精度ADC带来的粗糙量化需要复杂的信号处理进行补偿,低精度ADC架构的实现仍然十分困难。降低由低精度ADC带来的设计困难的一种可行方案是采用混合精度ADC架构,即在低精度ADC架构中加入高精度ADC以进行信道估计和前端设计。混合精度ADC架构是一种兼顾系统成本和设计复杂度的折中方案,已经成为了研究热点。但目前关于混合精度ADC的研究尚不深入,仍存在很大的发掘空间。在此背景下,本文在混合精度ADC的架构下研究大规模MIMO系统的性能。本文的主要工作如下:1、研究了混合精度ADC架构下大规模MIMO-OFDM系统的性能。通过严谨的数学推导,得到了用户上行可达速率的闭式表达式。该表达式与ADC的量化精度、用户发送功率、基站端天线数目、高精度ADC占比等诸多因素有关。通过对闭式表达式的渐进分析得到了增加用户发送功率不能消除由低精度ADC的粗糙量化对系统性能带来的影响等结论。此外,对混合精度ADC架构下大规模MIMO-OFDM系统的能量效率进行了研究。一方面,系统的能量效率随着ADC量化精度的增加会呈现先上升后下降的趋势并在量化精度为3 bit时达到能量效率的峰值。另一方面,4 bit ADC会达到系统频谱效率和能量效率的最佳折中。2、研究了混合精度ADC和数模混合波束成形架构下多小区毫米波大规模MIMO系统的性能。通过本文提出的稀疏信道下信号的处理方法,得到了用户上行可达速率的闭式表达式,并在渐进分析中得到了与大规模MIMO-OFDM系统相同的结论。提出了在混合精度ADC架构中应用天线选择算法会显著提升系统的频谱效率。首先选出已知数目的具有高信道增益的天线子集连接高精度ADC,将剩余的天线连接低精度ADC。相比于随机连接,本文发现在多小区毫米波大规模MIMO系统中应用天线选择算法来决定一根射频链后面是否连接高精度ADC会使系统的性能提升20%左右。此外,对混合精度ADC和数模混合波束成形架构下多小区毫米波大规模MIMO系统的能量效率进行了研究并得出了能量效率的峰值和数模混合波束成形架构对系统能量效率的影响等结论。