移动自组织网络(Mobile Adhoc Networks，MANET)是近年研究的热点，越来越多的应用需要这种快速、高效、无中心的网络形态。正交频分复用/偏移正交幅度调制(Orthogonal Frequency Division Multiplexing/Offset Quadrature Amplitude Modulation，OFDM/OQAM)技术具有抗干扰能力强、频谱效率高、时频聚焦(Time Frequency Localization，TFL)特性好等显著优点，特别适合于宽带自组网的应用场景，具有很强的发展潜力。然而，OFDM/OQAM优势的取得是以牺牲子载波的正交性为代价的，通过放宽正交条件并引入非矩形滤波器组来使谱能量更集中，带外辐射更小，不过由于信道的非理想会引入虚部干扰的问题，导致信道估计的复杂度增大，直接采用迫零均衡的效果不好。针对上述问题，本文在分析OFDM/OQAM系统模型的基础上重点研究了非矩形滤波器组设计、导频设计、信道估计和均衡等关键技术，并在现有基于OFDM的宽带自组网系统基础上，设计可以兼容的OFDM/OQAM物理层框架，最后通过仿真和实际测试证明其优越性。　　首先，本论文从OFDM多载波系统的数学模型入手，研究了OFDM/OQAM的原理和数学表示形式，分析了和OFDM/OQAM相关的定理和结论，推导了以分析和综合滤波器组为基础的系统框架，通过对发射信号进行频域离散处理，得到了一种基于多相网络结构(Poly Phase Network，PPN)的滤波器组和快速傅里叶变换(Fast Fouier Transform，FFT)相结合的系统实现方法。　　其次，OFDM的矩形滤波器带外泄露严重，在小规模自组网中容易和其他设备互相干扰而使系统吞吐量下降。作为OFDM/OQAM的关键模块，本论文针对如何提高滤波器组的带外特性，分析了几种常用原型滤波器函数的表示形式和时频聚焦特性，并以近似完美可重构(Nearly Perfect Reconstruction，NPR)条件为设计准则，针对截取后滤波器带外衰减慢的问题，提出了一种基于Zak变换和频域直接采样相结合的优化设计方法，该方法以最小化阻带能量为目标，可以有效提升滤波器带外特性，降低符号间干扰(Inter Symbol Interference，ISI)和子载波间干扰(Inter Channel Interference，ICI)的影响，仿真结果显示，优化后的函数和其他滤波器函数相比具有明显优势。　　第三，宽带自组网的多跳策略使得频谱资源非常紧张，而OFDM的循环前缀(Cyclic Prefix，CP)将会浪费较多的带宽。本论文面向频谱效率研究了OFDM/OQAM的导频设计和信道估计问题。推导了OFDM/OQAM系统在色散信道中的时间和频率偏移的表示形式，分析了虚部干扰的产生以及由此带来的问题。在梳理现有基于导频的信道估计方法的基础上，从提高频谱利用率的角度入手，提出一种基于单导频的干扰抵消方法(Interference Cancellation Method，ICM)，用适当的处理延时和计算复杂度来获得更高的估计精度。此外，本文还提出一种基于粒子滤波(P article Filter，PF)的半盲信道估计方法，该方法具有较高的信道估计精度和频谱效率，且对时间偏移有较强的鲁棒性，仿真证明了算法的有效性和优越性。　　最后，本论文在兼容现有设备的基础上，给出了在小规模宽带自组网系统中应用OFDM/OQAM的设计方案。方案详细介绍了系统实现架构，给出了物理层设计参数，并结合典型应用环境对OFDM和OFDM/OQAM两种系统的性能进行了比较，结果显示OFDM/OQAM在抗干扰性能和误码率性能上具有比较明显的优势。更进一步的，本论文在现有设备的基础上更新了OFDM/OQAM物理层，进行了小规模自组网的内场和外场测试，分析了实际环境下的网络形态和频谱效率，最后给出了用户演示的相关数据和应用效果。