随着无线通信系统业务种类和数据量的大幅增加,当前社会对系统容量极限及处理速度的需求在日益增长。多输入多输出（Multiple Input Multiple Output,MIMO）技术可以在不增加系统带宽和发射功率的前提下达到更高的信道容量及速率,而MIMO无线通信系统的信道估计及信号检测较单天线系统却有着不小的实现难度,因此针对该方面的探讨仍是无线通信领域的热点。此外,目前深度学习在通信系统的网络层及应用层发展较为广泛,随着技术不断更新其正在向通信系统的物理层推进。因此本论文基于深度学习针对MIMO系统的信道估计及信号检测进行了研究。准确的信道估计可对无线通信系统的性能产生重要影响。针对MIMO系统传统信道估计算法需已知信道统计信息等问题,提出了一种基于深度学习的信道估计方案。首先基于卷积神经网络（Convolutional Neural Network,CNN）构建信道信息重建网络初步重构出信道信息,然后级联基于残差深度神经网络（Residual Deep Neural Network,Res-DNN）构建信道估计网络得出最终的估计结果。所提方案利用多个损失函数对网络进行优化,信道估计前进行信道信息重建可更加准确地估计出信道。仿真结果表明,所提方案性能随信噪比增加逐渐优于线性最小均方误差（Linear Minimum Mean Square Error,LMMSE）估计算法,且无需已知信道信息。在接收端设计出合适的信号检测算法可有效发挥MIMO的潜力。针对MIMO系统传统信号检测中存在的性能与复杂度的折中问题,提出了一种基于Res-DNN的端到端信号检测方案。基于Res-DNN的编码器和解码器分别替代无线通信系统的发送端和接收端,通过端到端的方式进行训练。编码器首先对输入数据进行特征提取,进而建立通信模型并传入迫零检测器进行初步检测,最终解码器重构得出检测信号。端到端的训练方式规避了模块间的影响,在一定程度上提升了系统效率。仿真结果表明,所提方案检测性能优于同类型算法,并在牺牲一定时间复杂度的前提下明显优于最小均方误差（Minimum Mean Square Error,MMSE）检测算法。