大规模多输入多输出（Multiple Input Multiple Output,MIMO）系统具有高能效、高频谱效率和高鲁棒性等优点,是第五代和下一代移动通信技术中的一大研究热点。为了能够充分发挥大规模MIMO系统的潜在优势,研究具有低复杂度且高性能的信道估计算法至关重要。然而,随着系统维度的不断增加,信道矩阵的维度也急剧增大,在有限的相干时间内完成大维信道估计面临严峻挑战。大维信道估计问题中广泛存在着各种结构特性（如低秩性和稀疏性）,能否充分挖掘和利用这些结构特性是破解大维信道估计问题的关键所在。因此,本文主要研究利用大维信道矩阵的低秩性和稀疏性来提升信道估计的性能,同时重点关注于优化估计算法的计算复杂度,主要包括以下两个研究内容:（1）针对大规模点对点MIMO系统中的低秩信道估计问题,提出了一种基于随机低秩矩阵逼近（Randomized Low-Rank Matrix Approximation,RLRMA）的信道估计算法。所提RLRMA估计算法利用信道矩阵的低秩性质,去除噪声对最小二乘（Least Squares,LS）估计性能的影响。此外,所提RLRMA估计算法利用随机投影来压缩大维信道矩阵,将原估计问题变换到一个较小维度的空间上进行求解,加速了原问题的求解过程。分析和仿真表明,所提RLRMA估计可以取得优于LS估计的性能,同时相比于现有低秩信道估计算法,具有更低的计算复杂度。（2）针对大规模多用户MIMO系统中的稀疏信道估计问题,提出了一种基于真实图像去噪网络（Real Image Denoising Network,RIDNet）的信道估计算法。所提算法将角度域信道矩阵的块稀疏性类比于图像相邻像素的相关性,并将角度域的LS估计结果视为一幅受噪声污染的稀疏图像,进而利用基于卷积网络的RIDNet来去除噪声对LS估计性能的影响。分析和仿真结果表明,所提RIDNet估计可以取得优于LS估计的性能,同时相比于现有基于去噪网络的估计算法,具有更低的训练开销、更强的噪声泛化能力和更好的估计性能。本文利用信道的低秩性和稀疏性,并基于RLRMA理论和RIDNet盲去噪网络,改善了大维信道估计的性能和计算复杂度,对后续的相关研究具有重要参考价值。