本文提出了一种新型的编码调制技术——网格编码差分混沌调制技术(TC-DCM:Trellis-Coded Differential Chaotic Modulation),其主要的思想是将网格编码调制技术(TCM:Trellis-Coded Modulation)和以混沌信号为载波的多元差分混沌移位键控调制技术(M-DCSK:M-ary Differential Chaotic Shift Keying)相结合。由于混沌信号具有类噪声的内在的扩频特性,在调制的同时直接对信号进行扩频,利用其良好的相关特性和连续带宽的功率谱特性,该系统具有较好的抗多径干扰的能力,弥补了传统的网格编码调制系统在这方面的不足。此外,由于该系统继承了传统的网格编码调制技术的高带宽利用率的特性,且在接收端解调不需要获取信道的状态信息,适合在一些带宽受限且较难获得信道状态信息的传输系统中工作,如:水声通信、深空通信和卫星通信等系统。同时,由于系统采用结构简单的非相干接收机,接收端无需精确的混沌同步、RAKE接收和解扩单元,使得该系统的硬件复杂度大大降低,在某些要求控制成本且对信道鲁棒性强的传输系统中,如:水下传感器网络,该系统是一种具有高带宽有效、抗多径干扰的低成本传输方案。文章首先对传统的网格编码调制技术进行了系统的介绍,给出其系统设计框图并阐述了设计码型时所用到的关键技术。然后,就本文中使用的多元差分混沌移位键控调制技术进行了详细的介绍与分析,给出了该系统的理论误码率公式并与仿真结果进行了验证比较。然后,详细的阐述了新型的网格编码差分混沌调制系统的设计原理,并且分别给出了该系统在高斯白噪声信道和瑞利平坦衰落信道下的理论和仿真的误码性能分析结果。同时,将采用不同码率和不同状态数的网格编码差分混沌调制方案分别与其对应的未编码的差分混沌移位键控调制系统,在相同的带宽效率的情况下进行对比获得了可观的编码增益。此外,在相同的频谱效率下,将新系统与传统网格编码调制的直接序列扩频系统(TCM DS/SS:Trellis-Coded Modulation Direct-Sequence Spread-Spectrum)在多径瑞利衰落信道下进行了仿真对比分析,新系统展现出对信道的强鲁棒性,在不需要获得信道的状态信息的情况下也能够获得较好的抗多径干扰性能,使其在带宽受限的复杂信道传输环境中具有很好的应用前景。最后,进一步分析了几种不同的卷积码编码类型在高斯白噪声信道和衰落信道下的误码性能,给出了适合在衰落信道中传输的码型,为进一步寻求在衰落信道中的最优码型奠定了基础。