多输入多输出(Multiple-Input Multiple-Output,MIMO)技术是无线通信发展的关键技术之一。在频谱资源日益紧张的今天,MIMO系统可以在不增加额外带宽的基础上,通过在收发端部署多组天线成倍地提高系统的容量和频谱利用率,但这也使得系统信道更加复杂,致使其信号检测、信道估计等技术要比单天线系统更具有挑战性。因此MIMO系统信号检测和信道估计算法一直是无线通信界研究的重点。与此同时,由于高速率运算硬件的发展以及网络训练技巧的不断提升等原因,作为人工智能算法之一的深度神经网络再次掀起热潮。应用深度神经网络处理传统通信中经典的问题成为近几年无线通信行业发展的新趋势之一。针对这一课题,本文提出了一种基于深度神经网络的MIMO系统信号检测算法和一种基于深度神经网络的MIMO系统信道估计算法。首先,本文对MIMO系统的发展以及特点作了阐述,并简述了深度神经网络的发展历程,随后重点介绍了神经元、隐藏层、激活函数、损失函数等的作用及特点。其次,将深度神经网络应用于MIMO系统的信号检测上,并在神经网络模型搭建的过程中引入了残差网络以对抗网络层数增加带来的网络退化问题,最终得到适用于MIMO系统信号检测的网络模型。仿真结果表明,基于神经网络的MIMO信号检测算法性能要高于迫零(Zero-Forcing,ZF)、最小均方误差(Minimum Mean Square Error,MMSE)线性检测算法,与非线性信号检测算法最小均方误差-串行干扰消除算法(Minimum Mean Square Error Serial Interference Cancellation,MMSE-SIC)性能相当。最后,本文研究了MIMO信道估计算法,并在经典的最小二乘(Least Square,LS)-线性插值算法的基础上提出了一种基于神经网络的MIMO系统信道估计算法。与最小二乘-线性插值算法相比,该算法提高了估计的精确度。