随着电子技术的不断发展,实际的电磁环境日益复杂,传统通信手段并不能很好的发挥作用,一系列新的通信技术应运而生。认知无线电(Cognitive Radio,CR)技术已经成为无线通信的热点研究方向,它能够主动感知周围的电磁环境,并不断归纳学习,大大提高了无线通信在复杂电磁环境下的可靠性。本文针对复杂电磁环境,在认知无线电的大框架下,从序列设计和多址接入技术两个方向展开研究。由于传统相关序列都是基于所有频谱可用条件下设计的,在复杂电磁环境下,某些频段不可用,传统序列转换成新序列,本身的相关性受到破坏,无法满足实际需求。这就要求设计出能够根据实际环境的变化而动态产生的认知序列。本文首先介绍了基于不同优化目标的典型序列设计方案,在此基础上,考虑对频谱约束条件和低相关程度两个目标函数进行联合优化,从而设计出具备频谱自适应能力的认知序列。然后,针对上述认知序列的不足,给出相应的改进方案,改进后的序列具备更好的相关程度和频限约束性能。接下来,考虑复杂电磁环境下多输入多输出(Multiple-Input Multiple-Output,MIMO)系统作为应用场景,采用本文给出的认知序列作为导频信号来实现信道估计,认知序列比传统零相关区(Zero Correlation Zone,ZCZ)序列估计结果更加准确。作为面向认知无线电应用的新型无线传输技术,具备动态频谱接入能力的变换域通信系统(Transform Domain Communication System,TDCS)和非连续正交频分复用系统(Non-Continuous Orthogonal Frequency Division Multiplexing,NC-OFDM)能够应对复杂电磁环境的挑战,并具备独特的优势。针对各自的系统模型和结构特点,本文提出相应的改进方案以提高多址接入能力。对于TDCS,由于其通信性能与基础调制波形的设计紧密相关,因此给出了基于序列设计和扩频编码的改进方案。对于NC-OFDM系统,将其与高性能的交织分多址(Interleave Divison Multiple Access,IDMA)技术相结合,新的系统结构同时具备两者的优势,能够获得较好的通信性能。