随机调制雷达信号在解决传统相参脉冲串体制雷达中存在的模糊和耦合两大瓶颈问题上具有较大的潜力，但传统的时域相关处理方法会带来较高的旁瓣基底，影响目标的检测与成像性能。压缩感知理论深入阐述了信号重构中观测随机性和信号稀疏性之间的内在联系，为随机调制雷达的低旁瓣信号处理提供了全新的思路。论文主要结合压缩感知理论与脉间随机调制信号体制雷达，合理利用目标回波在时域、频域或者时频域上的稀疏特性，研究了新的信号参数设计准则及目标检测成像算法。特别地，与以往的直接应用型研究不同，本文以压缩感知理论下的随机调制信号参数估计为切入点，首次系统性地对约束等距性质（RIP）验证、连续参数精确估计、快速序贯处理、时频分析等基础性科学问题开展了深入研究，为随机调制雷达的信号处理与实际应用提供了强有力的理论支撑。第一章为绪论，挖掘了压缩感知理论和随机调制雷达之间的内在联系，揭示了随机雷达信号的演变历程和压缩感知雷达的发展轨迹，并指出了压缩感知理论在随机调制雷达应用中的关键科学与技术问题。第二章主要研究了随机调制词典的RIP性质验证问题，可应用于随机脉冲重复间隔（PRI）雷达和随机跳频雷达的参数设计中。分析了随机PRI雷达和随机跳频雷达的目标回波数学模型，将其抽象为随机调制信号参数估计问题，并推导了随机调制信号参数的统计Cramer-Rao下限及其最大似然估计性能。在验证两种特定的等效随机调制词典的RIP性质基础上，阐述了压缩感知理论下的随机调制信号参数估计方法与原理并介绍了几种典型的快速稀疏恢复算法，为后续研究奠定了数学基础。第三章主要研究了连续参数的精确估计问题，可应用于随机PRI雷达中的目标精确测速与动目标检测。针对传统压缩感知参数估计中离散化带来的网格失配效应，借助交互迭代的思想提出了迭代网格优化（IGO）算法，该方法可以同时得到最优词典和参数的“连续估计量”，且估计参数的均方根误差接近Cramer-Rao下限。将该方法应用于随机PRI雷达信号处理中，实现了无模糊精确测速并提高了运动目标检测性能。进一步地，针对机载雷达动目标检测中的强地主杂波，利用杂波位置先验信息提出了基于预白化滤波和加权l1范数最小化的杂波抑制方法，有效提高了输出信杂噪比和目标参数估计性能。第四章主要研究了稀疏恢复的快速序贯处理问题，可应用于随机跳频雷达一维和二维动态成像中。针对实际应用中信号稀疏度未知的情况，提出了基于序贯压缩感知（SCS）的参数估计算法和相应的终止准则，以确定精确估计所需的最少观测数据个数。在该框架下，分别研究了随机跳频雷达二维解耦逆合成孔径雷达（ISAR）成像中距离和方位向的序贯压缩。对于距离压缩，将实数域的序贯同伦算法推广到复数域，提出了基于序贯同伦的高分辨距离成像及基于最小l1范数准则的运动补偿技术；而对于方位压缩，则提出了矩阵形式的序贯平滑l0范数（SL0）算法。该类动态方法大幅度减少了观测的数据量和相参积累时间，并在很大程度上提高了压缩感知成像算法的性能与效率。第五章主要研究了随机采样信号的无模糊时频分析问题，可应用于随机PRI雷达的微动目标特性分析与成像。提出了基于短时压缩感知（STCS）的随机采样信号无模糊时频分析算法，通过制定扩窗过程中相邻频谱的相似性准则来自适应选择窗长，并根据扩窗和滑窗对应的词典变化规律实现SL0算法中矩阵伪逆的序贯运算，提高了时频分析的运算效率。将STCS应用于随机PRI雷达下的微动目标特性分析，可以获取目标回波的无模糊时频谱与目标微动参数。进一步地，在窄带随机PRI雷达高速旋转目标成像应用中，基于STCS得到的无模糊时频图，提出了结合改进广义拉东变换（GRT）和词典降维压缩感知（SDD-CS）的无混叠成像算法，有效提高了成像质量和计算效率。第六章总结了全文的研究工作和主要创新点，并展望了压缩感知理论和随机调制雷达的发展前景，提出了一些开放性问题。本文同时涉及了理论研究和应用研究两方面。一方面，所提的随机调制信号参数估计算法充实并拓展了传统的半参数化谱估计理论；另一方面，所提的目标检测与成像技术将为新体制雷达的研制和部分现有雷达的改造提供实用性的技术支撑。相关成果为后续研究压缩感知在复杂随机调制雷达中的应用奠定了基础，对雷达信号处理学科的发展具有较为深远的影响。