作为一种新型智能化雷达系统,认知雷达(Cognitve Radar,CR)不仅具有从接收机到发射机的信息反馈能力,而且具备信号的智能化处理以及波形的自适应发射能力,从而实现对环境的交互认知。与传统雷达相比,认知雷达的闭环信息处理和知识辅助模块,可以实现对不同环境信息的处理,自适应地根据环境及目标信息优化设计与环境相匹配的波形,从而提高雷达的性能。由于认知雷达具备较强的自适应性和灵活性,近年来已成为雷达领域研究的一个热点。基于知识的自适应波形设计方法改变了现有雷达的工作方式和信息处理方式,在认知雷达系统中占有重要地位。本文主要研究认知雷达系统的波形优化算法,研究内容与创新性的工作主要体现在如下几个方面:第一,研究了扩展目标以及杂波干扰环境下的波形功率谱和谱相位设计准则。该设计方法首先建立了环境中的目标与杂波模型,然后通过信噪比、检测概率和互信息准则得到波形功率谱,并通过最小持续时间与最大持续时间准则得到谱相位,实现检测性能、持续时间、峰均值功率比(Peak to Average Power Ratio,PAPR)的联合优化,最终,得到优化波形的具体形式,作为后续认知雷达波形优化研究的基础。第二,提出了基于分数阶傅里叶域的认知雷达波形优化设计方法。时频域的波形优化设计可以将信号从时域变换到时频平面上,以同时反映信号的时域及频域信息。因此,与传统频域波形设计方法相比,融入了更多信息。在经过对分数阶傅里叶变换的原理与性质分析后,针对认知雷达分数域波形优化处理,提出了卷积处理的改进形式。接着分别以信噪比和互信息为设计准则,在分数域内设计与环境相匹配的优化波形。该算法与传统频域波形设计方法相比,在目标检测与估计方面具有更好的性能。第三,提出了目标及环境信息未知或动态变化下的认知雷达波形优化设计方法。该算法将卡尔曼滤波方法应用于认知雷达中,以得到对目标的精确估计,并分别针对收-发联合优化问题、多元准则波形优化设计问题、多目标波形优化问题展开详细研究。首先,在保证目标冲激响应估计精度的前提下,针对目标检测问题提出联合优化发射波形和接收滤波器的迭代算法,以最大化接收回波的平均信噪比。其次,提出了基于多准则的在线波形优化设计算法。该算法所得的优化波形可同时根据接收机反馈的环境信息和雷达性能要求进行更新。最后,提出了多扩展目标情况下基于目标检测与估计的认知雷达波形优化算法,通过引入额外的权向量实现不同目标间的权衡。第四,在实测海杂波环境下对本文提出的波形优化设计方法进行验证。首先对海杂波特性进行分析,分别介绍了海杂波的幅度分布模型和功率谱模型。随后,利用IPIX(Intelligent pixel-processing,IPIX)雷达的实测数据分析不同海况和不同极化方式对海杂波特性的影响。最后,分析了包含舰船等目标的实测海杂波数据(纯海杂波、含渔船目标、舰船目标数据),并利用该数据对本文所提出的波形优化方法进行验证。