大规模多输入多输出（Multi-Input Multi-Output,MIMO）技术是第五代（5th Gen-eration,5G）移动通信系统的关键技术之一,在下一代移动通信系统中预计也将得到应用并进行进一步地技术增强。天线数目的增多为系统带来了更多可利用的空间资源,从而带来了更大的系统容量和更高的频谱效率,同时信道状态信息（Channel State Information,CSI）获取的难度也显著增加。特别是在上下行不具有互易性的频分双工（Frequency Division Duplex,FDD）制式下,CSI必须通过反馈的方式获取,因此研究出一种高效又准确的CSI反馈方案是大规模MIMO系统亟需要解决的问题。近年来,以深度学习（Deep Learning,DL）为首的人工智能技术高速蓬勃发展,迅速与包括通信行业在内的各垂直行业深度融合,并成为了下一代通信系统的关键技术之一。智能通信由此兴起并成为了未来通信系统发展的主流方向之一,同时也给大规模MIMO系统的CSI反馈问题提供了新的解决方案。本论文将由此出发,围绕大规模MIMO系统中基于DL的CSI反馈技术的优化展开研究。首先,本论文对现有的基于DL的FDD大规模MIMO系统的CSI反馈方案进行探索。描述DL技术的基本概念,介绍三种经典的神经网络结构和两种常用的神经网络结构及它们的应用场景;接着介绍三种传统的CSI反馈方法,分析其各自的原理、优缺点和应用场景。最后综述国内外基于DL的CSI反馈方案的相关研究,着重介绍最初的FDD大规模MIMO CSI反馈及重建模型CsiNet的产生,详细地描述其网络结构、训练方式以及性能评估等。随后从时间相关性的引入、上下行相关性的引入、网络结构的优化等方面分别介绍其后的基于CsiNet的改进方案,指出它们各自存在的问题和未来发展的方向。接着,本论文提出基于DL的FDD大规模MIMO系统的CSI量化反馈技术。分析大规模MIMO信道在角度域和时延域的稀疏特性,建立FDD模式下的大规模MIMO系统模型,描述在这个系统模型下加入量化后CSI反馈的过程,并介绍目前常用的量化方法及其应用场景。根据卷积神经网络理论对网络结构进行改进,设计包含量化模块和逆量化模块的DL网络QCsiNet+,描述该架构下的数据集生成方法、训练策略和参数设置等。在仿真中比较量化模块在不同量化方法下的性能,并比较整个网络与目前最具代表性的CSI反馈网络CsiNet在不同场景、不同量化方法、不同压缩率和不同量化比特数下的重建性能。仿真结果表明本论文提出的CSI量化反馈技术产生了可传输和存储的比特流,增加了在实际系统中的可行性,还消除了量化误差带来的影响,对量化误差具有较强的鲁棒性,减少反馈比特开销的同时也保证了重建精度,具有较好的研究意义。最后,本论文对基于DL的FDD大规模MIMO系统的信道联合估计和反馈技术展开研究。搭建FDD模式下的大规模MIMO系统模型,描述在这个系统模型下信道估计和反馈的过程,并介绍目前常用的信道估计算法和超分辨算法。对信道估计和反馈与超分辨的内在联系进行分析,设计两种信道联合估计和反馈架构—信道联合估计和反馈网络CEFnet以及导频直接反馈网络PFnet,描述这两个架构下的数据集生成方法、网络参数设置、训练方法和训练参数的设置。在仿真中详细分析各个子网的独立性能,然后比较两个架构在不同场景、不同压缩率和量化比特数下的重建性能和网络复杂度。仿真结果表明这两种架构在完整实现CSI反馈的前提下,具有较好的重建性能,且对不同的环境和量化误差具有较强的鲁棒性,说明这两个网络在实际通信系统中具有可行性。