本文首先介绍了一种新型的通信系统——变换域通信系统(TDCS)。TDCS与传统通信系统的不同点是：第一，TDCS通过信道估计在变换域中对信号进行波形设计；第二，TDCS没有采用载波调制，而是用一个类似噪声的基函数进行信息调制。由于这些特性，TDCS具有很强的抗干扰能力和较低的检测／截获概率(LPI／LPD)。其次，介绍了基于傅里叶变换(FFT)的变换域通信系统窄带干扰抑制技术的基本原理，分析和研究了基函数生成的主要算法。针对AR谱估计存在虚假谱峰和谱线分裂的问题，本文结合变换域干扰抑制技术，提出了一种改进的自适应多门限算法，并将其应用于变换域通信系统中。该算法在频域对检测信号进行归一化处理使得干扰检测门限不受检测信号功率影响，因而能更有效地估计干扰信号。仿真结果表明，基于新算法的TDCS具有良好的窄带干扰抑制能力，与原始算法比较，大大降低了系统误码率，并且自适应性更强。最后，介绍了基于小波包的变换域通信系统窄带干扰抑制技术的基本原理。为了使变换域通信系统能够对窄带干扰频率进行精确定位，提高生成的基函数的频带利用率，提出了一种基于小波包变换的基函数生成方法。该方法采用树结构算法对信号进行分解，准确判断出窄带干扰的频率位置，改善了有用频带被过多剔除的情况。仿真结果表明，采用该方法的变换域通信系统比基于小波的变换域通信系统具有更强的干扰抑制能力和更好的自适应性。