多输入多输出（Mutiple-Input Mutiple-output,MIMO）通过其空间复用和分集能力可有效提升无线通信系统的吞吐量和可靠性，是新一代移动通信系统中的关键技术之一。预编码通过在发射端对发送信号进行预处理，可有效抑制数据流间干扰，从而提升系统容量和资源利用率，因而是MIMO系统性能得以实现的重要技术手段。传统预编码技术一般通过统计分析和高级信号处理技术设计固定的算法，对环境的动态自适应能力较差，难以完全满足下一代无线通信系统即第六代移动通信系统（The6-th Generation Mobile System，6G）的智能化需求。近年来，随着深度学习(Deep Learning，DL)技术在图像识别、自然语言处理和语音识别等领域的成功应用，将深度学习与无线通信系统相结合构建智能移动通信系统受到广泛关注。深度学习技术本质上是数据驱动的方法，具有从海量数据中自动凝练信息特征的能力，进而使得通信系统具备自适应进化的能力，在降低通信系统设计复杂度、改善通信系统性能方面具有较大的潜力。在此背景下，本文重点研究了基于深度学习的MIMO预编码传输技术，主要的研究内容包括：
　　（1）针对点对点MIMO系统，提出了一种融合了发射端预编码网络和接收端RTN(Radio Transformer Networks，RTN)网络的深度学习智能传输结构。在离散字符集输入的情况下，该结构能够利用给定的数据进行训练，自动调整发射端网络和接收端网络的参数，从而智能地根据信道状态自适应调整发射端和接收端星座，使得星座点自动隔离，实现多天线数据流间干扰的自适应抑制。
　　（2）将上述发射端预编码网络和接收端RTN网络的深度学习智能传输结构进一步扩展至多用户MIMO广播信道网络和干扰信道网络，分别构建了适用于多用户广播和干扰信道场景的深度学习智能传输结构。与点到点MIMO系统相同，所提多用户深度学习结构，能够通过预编码网络对多个用户的数据流进行预处理，使每个用户的接收端可以较好的分离星座点，从而有效抑制用户间以及流间干扰，使得多用户MIMO系统通过自主学习实现传输性能保障。
　　（3）针对传统SVD（Singular value decomposition，SVD）预编码算法，提出了一种结合卷积神经网络的SVD预编码近似算法。该算法将信道矩阵输入卷积神经网络，在输出端获得信道矩阵的低秩近似矩阵，从而逼近SVD预编码算法的最优预编码矩阵，同时其实现的和速率接近传统SVD算法的最优和速率。