GSM是目前使用人数最多的移动通信系统，且用户数量还在持续增长中。它拥有异常低廉的语音通信成本，承载着目前绝大多数的移动语音业务。可以预见在今后很长一段时间内GSM都将与其他移动通信系统共同存在。近年来随着GSM系统用户数量的持续增长，GSM逐渐从噪声受限系统变为干扰受限系统。系统内同频干扰开始严重影响整个GSM系统的正常运行。所以寻求一种具有更高同频干扰消除性能的GSM终端接收机，开始成为各大终端芯片厂商的一个重要研究课题。本文首先介绍了GSM系统的发展现状，及目前系统内存在的严重的同频干扰问题。为了解决GSM终端受到的同频干扰问题，提出了单天线干扰消除算法的解决方案，并介绍了单天线干扰消除算法在国内外的研究现状；接着对GSM终端接收机广泛采用的抗同频干扰消除算法-自适应MIC算法进行研究及链路仿真，并分析总结出该算法存在的三方面缺陷。针对这三方面的缺陷，相应的提出了三种改进算法。通过仿真研究证明改进后算法在消除同频干扰性能上有了明显提升，在保证系统同等复杂度的情况下降低了GSM系统的误码率。之后对三种改进算法进行对比仿真，比较三种改进算法各自的优劣。最后本文对GSM终端接收机的其他主要模块进行研究，并结合之前提出的改进型同频干扰消除算法，在PC上实现一个具有高同频干扰消除能力的GSM终端接收机模拟系统。该模拟系统可以完全模拟移动终端GSM全速率语音信道物理层，定点化的符号级及比特级处理流程。经过现网实际数据验证，模拟GSM终端接收机系统对比未做算法优化的GSM接收机有了明显的性能提升。本文的主要创新点如下：1、对现有GSM终端接收机同频干扰消除算法-自适应MIC（单频干扰消除）进行仿真分析，总结算法存在的三方面缺陷。2、针对现有算法的不足，分别提出了三种有效的改进方案：变步长MIC算法、两次迭代MIC算法及归一化MIC算法。3、基于改进算法，在PC上实现一个GSM终端接收机模拟系统。能模拟移动终端GSM全速率语音信道物理层定点化的符号级及比特级处理流程。