本文在认知无线电场景下对正交频分复用-变换域通信系统(Orthogonal Frequency Division Multiplexing-Transform Domain Communication System, OFDM-TDCS)的几个关键技术展开了研究。首先,本文针对现有编码OFDM-TDCS系统软解调算法的不足提出了改进算法。在重新描述收发信号的数学模型后,提出一种统一硬解调模型和软解调模型的接收机框架;从观测符号的条件概率密度函数出发,推导出一种计算复杂度较低的软解调算法,并创建一种码表以提高算法执行效率。仿真结果表明软解调与硬解调的性能差异从0.3dB提高到1.5dB。其次,本文研究了OFDM-TDCS系统的信道估计技术。一方面,在慢衰落信道下研究了最小二乘(Least Squared,LS)信道估算法,分析了信噪比和导频个数对均方误差性能的影响,并提出LS迭代信道估计算法进行改进。仿真结果表明:在子载波缺失情况下,20%导频比的LS信道估计与理想信道估计的误码率性能差异为3dB,迭代一次后性能差异减小到2dB。另一方面,在快衰落信道下研究了递推最小二乘(Recursive Least Squared,RLS)信道估计算法,分析了记忆因子对均方误差性能的影响,并计算了记忆因子最优解,随后提出RLS与多项式拟合(Polynomial Fitting,PF)相结合的迭代信道估计算法进行改进。仿真结果表明:在子载波缺失情况下,20%导频比的RLS信道估计与理想信道估计的误码率性能差异为5dB,迭代一次和迭代两次后性能差异分别减小到3dB和2dB。再次,本文针对OFDM-TDCS系统的应用场景研究了一种可行的同步方案,依次完成同步符号检测和同步参数估计。对于同步符号检测,根据检测统计量的二元假设模型分析了虚警概率、漏检概率和检测概率性能,基于纽曼-皮尔逊准则求解了最优检测门限,仿真结果验证了理论分析的准确性;对于同步参数估计,一方面利用检测统计量的时序估计定时延迟,另一方面利用Zadoff-Chu序列完成小数倍频偏估计。仿真结果验证了该方案的可行性。最后总结了全文的研究工作,并指出未来的研究方向。