大规模多输入多输出（Multiple Input Multiple Output,MIMO）作为第五代(5thGeneration,5G)移动通信系统的一项关键技术,通过在基站部署大规模天线阵列提高了系统的频谱效率和能量效率。然而,大规模MIMO为通信系统带来通信优势时也带来一些技术挑战,其中频分双工（Frequency Division Duplexing,FDD）模式下的信道状态信息（Channel State Information,CSI）反馈问题亟待解决。由于FDD模式上下行信道间不具备互易性,系统必须将用户端经信道估计得到的CSI通过上行信道反馈回基站,但大规模天线阵列的采用使得CSI的反馈开销巨大。因此,为了降低大规模MIMO的CSI反馈开销并提高CSI反馈的精度和效率,本文针对FDD模式下大规模MIMO系统的CSI反馈方法进行了研究。主要的研究工作如下:（1）本文研究了FDD模式下大规模MIMO的正交频分复用系统模型,在此基础上分析了CSI矩阵在角度时延域的稀疏特性,阐述了CSI矩阵的稀疏处理和反馈模型,还介绍了压缩感知和深度学习技术在稀疏CSI反馈中的应用形式和主要方法。（2）本文研究了基于数据驱动深度学习的CSI反馈方法,通过引入深度可分离卷积神经网络（Depthwise Separable Convolution Neural Network,DSCNN）、二进制全连接神经网络（Binary Fully Connected Network,BFCN）、残差网络和Inception结构设计了一种低复杂度的CSI反馈算法。优化改进的内容包括:调整网络结构、使用DSCNN、Inception和BFCN降低编码器复杂度的同时提高CSI矩阵特征提取能力,利用Inception结构加强解码器的初始重建并结合连续的DSCNN残差块降低解码器参数量,提升整体的重建效果。仿真分析表明,所提算法在更低复杂度的情况下,相比传统的压缩感知和深度学习方法有更好的归一化均方误差（Normalized Mean Squared Error,NMSE）性能和更低的余弦相似度。（3）针对基于数据驱动深度学习的CSI反馈算法存在待训练参数过多、可解释性不强的问题,本文利用压缩感知算法的可解释性和深度学习调参的优点,提出了一种基于深度展开的CSI反馈算法,所提算法以近似消息传递算法（Approximate Message Passing,AMP）作为深度展开的基准算法,从两个视角分别展开得到了基于可学习参数的AMP和基于卷积网络的AMP。具体而言,可学习参数的AMP通过改进AMP中的阈值函数和校正项来解决CSI矩阵非严格稀疏的问题。然而随着这种非严格稀疏性的加强,在可学习参数的AMP的基础上又提出了利用卷积残差学习网络改进阈值函数模块的卷积网络AMP。仿真分析表明,相比压缩感知和数据驱动的深度学习方法,可学习参数的AMP在低复杂度和高压缩率下有着不错的NMSE性能,卷积网络的AMP在多种环境和多压缩率下都有更好的性能。