随着无线通信业务需求的日益增长,大规模多输入多输出（MIMO,Multiple Input Multiple Output）技术得到了广泛的关注。在大规模MIMO技术中,基站配备数量众多的天线,同时服务大量用户终端,可有效提高系统频谱效率以及传输可靠性。大规模MIMO无线传输性能与信道估计性能密切相关,本论文主要研究基于信道稀疏表征的大规模MIMO上行信道估计方法。首先,分别研究窄带大规模MIMO和宽带大规模MIMO-OFDM（Orthogonal Frequency Division Multiplexing）信道模型及其统计特性。依据大规模MIMO信道空间特性,利用离散傅里叶变换（DFT,Discrete Fourier Transform）矩阵将空间频率域信道变换为波束时延域信道。进而考虑DFT采样存在的信道能量泄露问题,利用过完备DFT矩阵及MFOCUSS算法将空间频率域信道转换为过完备波束时延域信道,并研究其统计信道特性。仿真结果表明,随着过完备因子增大,信道波束能量越集中,信道表征越稀疏。其次,分别研究窄带和宽带信道中过完备波束时延域信道估计问题。窄带信道估计利用MFOCUSS算法进行求解。在宽带信道估计中,由于存在大维矩阵求逆运算复杂等问题,研究了三种低复杂度的信道估计算法。在最小均方误差（MMSE,Minimum Mean Square Error）信道估计算法中,分别研究了全部统计信道信息已知和仅知对角统计信道信息的信道估计问题。在稀疏贝叶斯学习算法中,基于贝斯自由能最小化准则,研究了仅知对角统计信道信息情况下的信道估计问题。在此基础上,进一步利用和积算法,基于贝斯自由能最小化准则,研究了统计信道信息未知情况下的信道估计问题。仿真结果表明,随着过完备因子增大,信道估计精度提高。在高信噪比情况下,利用对角统计信道信息的MMSE信道估计算法性能逼近利用全部统计信道信息的MMSE信道估计算法。此外,利用对角统计信道信息的稀疏贝叶斯学习算法信道估计结果与利用对角统计信道信息的MMSE信道估计结果一致。且随着信噪比提升,稀疏贝叶斯学习信道估计算法在统计信道信息未知的情况下的性能逐渐逼近对角统计信道信息已知情形下的性能。最后,研究导频调度方法对基于稀疏表征的信道估计性能的影响。首先,研究了可调相移导频（APSP,Adjustable Phase Shift Pilots）调度方法,在此基础上,基于MMSE准则分别对波束域和波束时延域信道进行估计。对于APSP导频,不同用户通过动态调整导频相移因子,从而提升了可用导频资源。接着,在单OFDM符号APSP导频的基础上,研究过采样情况下的多OFDM符号APSP导频信道估计问题,多OFDM符号APSP导频相对单OFDM符号的情形用户最大可调相移进一步扩展。仿真结果表明,利用APSP导频调度方法进行信道估计的性能接近无导频干扰情形下的信道估计性能。多OFDM符号情况下的APSP导频调度信道估计性能相对于单OFDM符号的情形显著提高,且基于信道稀疏特性进行过采样操作后,信道估计性能可进一步提升。