认知无线电(Cognitive Radio, CR)是当今无线通信领域的研究热点，被认为有望从根本上解决目前静态频谱管理政策造成的频谱资源浪费。变换域通信系统(Transform Domain Communication System，TDCS)是从变换域处理和扩频技术发展而来的无线通信新技术，也是认知无线电的一种收发机备选方案。本文在TDCS的研究基础上，结合多种数据传输技术及干扰检测技术，研究认知无线电中的智能决策方法。认知无线电智能决策引擎能实时感知信道、干扰、业务需求等外部环境变化，通过检测学习机制和参数优化策略，实时调整自身参数，实现系统误码率、信号功率及数据吞吐量的最优权衡。本文的主要工作分为四大部分：第一部分研究认知无线电智能决策系统涉及的物理层技术，基于正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)的差分变换域通信系统是该部分的研究重点。文中推导了基于OFDM的差分TDCS系统在高斯白噪声信道下的误码率公式，并利用Matlab做了仿真验证，仿真结果表明，理论公式真实可信。由于TDCS系统采用剔除干扰频点的方式躲避干扰，在谱罩向量设置合理时，其在窄带干扰环境下的性能逼近于在高斯白噪声下的性能。文中还介绍了基于频域的前向连续均值消除(Forward Consecutive Mean Excision, FCME)干扰检测算法，以及差分OFDM技术和快速跳频通信(Fast Frequency Hopping, FFH)两种数据传输技术。第二部分研究用以参数优化的三种进化算法：基本遗传算法、基于模拟退火的改进遗传算法和二进制粒子群算法，介绍了三种算法的基本原理和实现步骤，并利用DeJong函数和上文所述基于OFDM的差分TDCS系统两种模型进行了仿真分析和统计性能比较：对于DeJong函数，三种算法均能收敛到最优解，且均表现出较高的搜索效率，其中基本遗传算法耗时较短，参数设置合理时收敛速度最快；模拟退火遗传算法性能稳定，但复杂度较高，耗时长；二进制粒子群算法收敛最快，但性能受惯性权重及学习因子影响较大。对于基于OFDM的差分TDCS系统，基本遗传算法和基于模拟退火遗传算法存在较小概率无法收敛到最优解，二进制粒子群算法则表现优秀：收敛代数小、搜索时间短，且全局收敛性好。第三部分设计了一种基于规则的智能决策系统，该系统同时支持即时消息、文件传输、音频传输和视频传输四种上层业务，可结合干扰环境和业务类型，智能选择差分TDCS、快速跳频或差分OFDM模式传输数据，并选择适当的抗干扰手段。基于规则的智能决策系统决策机制简单、易于实现，但决策过程中没有考虑信号功率的影响，且由于系统不具备学习功能，在某些干扰环境下无法做出最优决策。基于上述考虑，为了更好地适应干扰环境和业务需求，本文第四部分设计了一种基于二进制粒子群和案例推理方法(Case-Based Reasoning,CBR)的智能决策系统。通过检测学习机制和参数优化策略，该系统可根据干扰检测模块给出的干扰类型及干扰功率，动态选择物理层传输技术、信号功率和具体抗干扰手段，实现最小化误码率、最小化信号功率和最大化数据传输速率三个通信目标的最优权衡。本文实现的智能决策系统具有较大的实用价值和一定的参考意义，为进一步从事认知无线电环境中的智能决策引擎设计提供了研究思路。