正交时频空（OTFS）有望解决未来无线通信中高速移动场景的通信问题。但是OTFS信道矩阵太大,加之其实际应用时会存在符号间干扰和子载波间干扰,使得OTFS的信号解调成为一个挑战。已有许多针对OTFS解调的研究。OTFS信号的解调由信道估计和信号检测组成。OTFS的信道估计通常采用冲激函数作为导频,使用基于阈值的方法直接估计信道,可能导致较高的均方误差（MSE）;在OTFS信号检测中,常用的线性检测算法会进行矩阵求逆运算,时间复杂度和空间复杂度大并且检测性能也不佳,非线性检测如消息传递（MP）算法也存在复杂度太大的问题。深度学习最近几年在通信中的应用越来越广泛。研究表明,深度学习可以表现出不弱于传统方法的性能,并且具有更快的执行速率,这为OTFS解调提供了一种新思路。本文使用深度学习方法对OTFS的信道估计和信号检测进行优化。在信道估计部分,通过分析借鉴已有的用于信道估计的深度学习方法,我们引入了图像处理中的图像恢复（IR）网络对二维信道图像进行优化,根据OTFS信道特点简化去噪卷积神经网络（DnCNN）,并将其作为IR网络,仿真表明,使用简化后的DnCNN可以获得比传统方法更低的MSE,从而降低系统整体的误比特率（BER）。在信号检测部分,我们分析了传统线性检测方法的实现,提出了一个简化的线性检测器,可以实现在一定性能损失下极大降低所消耗的存储空间和需要的运算复杂度。接着我们研究了已有的适用于大规模多输入多输出（MIMO）的信号检测网络,通过分析OTFS信号的特点,设计了适合OTFS的基于深度学习的信号检测网络。通过对比仿真,验证了所提出的信号检测网络比已有的信号检测网络性能更佳,并且与MP算法相比,极大减少了运行时间,实现了复杂度与解调性能的良好折衷。