无线移动技术历经几十年的发展历程,现已正式进入第五代移动通信系统（5G）时代。不同于以往1G到4G的历代通信系统,5G不仅要解决人与人之间的通信问题,还要实现人与物、物与物之间的信息交互,通信场景的扩大、以及AR、VR等更多样差异化的服务需求,要求着5G数据传输速率的进一步提升。正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术基于其频谱利用率高、抗码间干扰强、结构简单等优势,成为了 4G核心空口技术,并被认定在5G系统中依然可以发挥重要作用。然而,面向5G更高能量、频谱效率的要求,OFDM技术也亟待进一步升级改善。在这一背景下,基于索引调制的正交频分复用（Orthogonal Frequency Division Multiplexing Index Modulation,OFDM-IM）被业界提出。与传统 OFDM 不同,OFDM-IM仅激活了部分子载波传输调制信号。而被激活子载波的序号则是由部分待发送的信息比特所确定的。通过在接收端对激活子载波索引的判决,同样可以获取这一部分信息。因此OFDM-IM通过静默部分子载波,有效提升了系统能效与对抗频偏时可靠性。然而这一优势是在损失一定谱效下获得的。为进一步提升系统谱效,另一种运用索引调制理念的思路,即双模OFDM-IM 技术（Dual Mode Orthogonal Frequency Division Multiplexing Index Modulation,DM-OFDM-IM）被业界所提出。与OFDM-IM相似,在DM-OFDM-IM系统中同样采用了发送信息序列选择了部分子载波索引。而不同的是:被选中与位被选中的子载波都会发送信号,只不过是在两个独立的调制符号集内进行调制。因此,在DM-OFDM-IM中,信息比特可通过两个调制符号集、以及子载波索引传递到接收端。因此DM-OFDM-IM显然可以获取更好的吞吐量性能。然而,为获取发送信息比特,在DM-OFDM-IM的接收端,需要对子载波选择索引、以及两个符号集同时进行判断。传统的最大似然（Maximum Likelihood,ML）检测器虽然能够获取最优的检测性能,但在调制符号集规模较大、子载波个数较多时,复杂度极高,甚至难以实际实现。面向DM-OFDM-IM的接收检测器设计问题,本文尝试使用深度学习的方法,构造了一种基于深度神经网络（Deep Neural Network,DNN）的信号检测器对,目的是为了在获得较好误码率性能的同时,有效降低检测器的复杂度。DNN检测器采用具有多个全连接层的深度神经网络来恢复DM-OFDM-IM系统中的比特信息。为了提高检测器的性能,在将接收信号送入神经网络前,首先对双模正交频分复用索引调制系统的接收信号进行预处理操作,然后使用经过预处理的数据集对检测器进行训练,最后将训练完成的模型用于双模正交频分复用索引调制系统的实时检测。DNN检测器进行在线检测的复杂度明显低于ML检测器,可以有效提高检测效率,且能够获得与ML检测器相近的误码率。仿真结果表明,DNN检测器能以很低的运行时间获得与ML相近似的误码率性能。在此基础上,本文还考虑了信道估计与信号检测的结合问题。现有的检测器,包括本文所设计的DNN检测方法,需要依赖信道状态信息（Channel State Information,CSI）。而在实际应用中,CSI往往是需要通过对发送序列插入导频,通过信道估计获取的。而估计误差的存在,使得理想状况下的信号检测模型在实际应用中的鲁棒性较差。为了解决这一实际问题,本文将信道估计与深度神经网络相结合,考虑实际存在信道估计误差的情况下DM-OFDM-IM的信号检测方法。在传统的信道估计方法基础上,本文使用了一种基于深度学习的信道估计方法,相比于传统的最小二乘（Least Square,LS）信道估计算法,基于深度学习的信道估计方法可以得到更好的均方误差（Mean Square Error,MSE）。