无线通信中单输入单输出（Single Input Single Output,SISO）的正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）系统和大规模多输入多输出（Multiple Input Multiple Output,MIMO）的OFDM系统接收机的性能极大程度上取决于信号检测。当前传统信号检测方法在复杂度和误码率性能之间难以取得平衡。生成对抗网络（Generative Adversarial Network,GAN）是目前深度学习中最具前景的自监督学习方式之一,通过对抗训练两个深度学习（Deep Learning,DL）网络不断提高学习性能,有其自身优势。本文对基于生成对抗网络的接收机信号检测技术展开研究,主要工作总结如下:（1）针对SISO-OFDM系统的信号检测问题,本文引入条件生成对抗网络（Conditional Generative Adversarial Network,c GAN）,使用传统的最小二乘（Least Square,LS）和迫零（Zero-Forcing,ZF）检测算法对接收到的信号进行预处理（即基于模型驱动）,将预处理后的接收信号作为神经网络的初始输入,改善深度神经网络（Deep Neural Network,DNN）模型中只采用数据驱动而导致需要训练大量参数和误码率性能不理想的问题。此外,在c GAN模型中引入导频分别作为生成器和鉴别器的条件输入,两个DL网络对抗训练,设计适合c GAN模型的自适应损失函数,对神经网络的优化具有一定校正作用,提高训练和学习效率。相比于现有DNN检测模型,c GAN模型对瑞利信道下的信号检测具有鲁棒性,实现误码率性能提升,特别是低信噪比和短导频序列条件下优势明显。（2）针对大规模MIMO-OFDM系统的信号检测问题,本文通过GAN生成器内部的全连接隐藏层展开近似消息传递（Approximate Message Passing,AMP）迭代检测算法,改善传统AMP迭代检测方法误码率性能不理想和数据驱动方法需要依赖大量参数训练的问题。此方法为模型驱动,兼具数据驱动和传统方法的优势。基于GAN的MIMO检测方法实现在较少迭代次数的同时还具有明显的误码率性能增益,深度学习神经网络能够学习和分析迭代结构的特性,GAN模型在高斯信道下具有鲁棒性,降低系统复杂度,在低迭代和高信噪比条件下误码率性能提升明显。综上所述,本文将深度学习中的生成对抗网络作为研究手段,以无线通信中SISO-OFDM系统和大规模MIMO-OFDM系统接收机的信号检测问题为研究内容,以模型改进为研究需求,引出OFDM系统接收机信号检测中性能提升和复杂度降低的研究目的,在研究上述问题时提出相应的模型设计,并且仿真实验已证实上述设计的有效性。