在当前复杂的电磁环境下,在非合作通信系统中,对通信信号的侦察,往往仅利用一个传感器接收到多个信号。我们要得到信号的有用序列信息,就要对单通道接收到的混合信号进行解调。本文正是在针对这个问题展开研究工作的。本文所研究的是单通道接收到的两个同频混合高斯最小频移键控(GMSK)信号的解调。目的是从单个传感器接收的数据中,恢复出两路信号的原始传输数据。本文首先针对GMSK这一调制方式简要阐述了其各种调制方法和解调基本原理。然后对于混合信号的解调本文从联合解调和轮换解调两个方面进行了探索性研究。从实现两路信号同时解调方面考虑,根据联合最大似然准则和GMSK信号相干解调似然接收原理,通过对混合信号的状态表示及维特比(viterbi)算法中分支路度量的详细推导,把应用于网格序列译码的viterbi算法具体应用到单通道同频混合GMSK的解调上来,使得两路混合信号的序列得到联合解调,还分析了算法复杂度,设计算法流程图。最后进行了仿真实验分析验证算法解调性能。仿真显示,该算法即使在两个具有相等功率信号的情况下,解调性能和理想情况下单信号也只相差1dB左右。另一方面,本文基于波形重构的思想使得两个混合信号先后得到轮换解调。在某些假设条件下,分已知一路信号的起始序列和未知任何信号的起始序列两种情况详细研究了混合信号先后解调的轮换解调过程,研究了一种信号幅度估计方法。大量的仿真实验分析验证了该算法的有效性,分析得出了此算法只能在源混合信号存在一定的功率差条件下应用的局限性。另外还讨论了某些参数对解调性能的影响。