非线性波导作为片上集成光路中最重要的光学器件之一,得到了人们的广泛研究。与高非线性光纤相比,非线性波导具有体积小、耗能低的优点,它的出现使得传统的非线性光学再次焕发了新的生机。波导能够将光的模场很好地限制在芯区中,从而提高光场强度,使得其在较低的泵浦能量水平下,就可以产生非线性响应。波导的色散对其横截面结构尺寸的变化敏感,可通过改变横截面的结构尺寸对其色散进行调节。得益于CMOS工艺的不断进步,人们已经成功研制了多种基于不同材料的非线性波导平台。例如:硅材料波导、硫族材料波导、Ⅲ-Ⅴ族材料波导等。目前,人们已经将不同的波导平台中产生的非线性效应应用到片上光通信、光信息处理、生物医学成像等领域。本文结合不同非线性波导平台的优势,设计出不同结构的波导,对其在脉冲压缩、频谱压缩、超连续谱产生以及光频率梳产生中的应用进行了系统的研究,同时搭建实验平台,深入地研究了通信波段光频率梳的产生过程。本论文主要的研究工作和创新点概括如下:1)提出了实现自相似脉冲压缩及超连续谱产生的方案。该方案先将1ps的初始脉冲经过自相似脉冲压缩过程进行高质量的压缩,然后利用压缩后的超短飞秒脉冲产生了高相干、倍频程的超连续谱。根据自相似脉冲压缩理论,设计了长度为3.9 cm且二阶色散β2随传播距离增加呈指数递增的悬浮型锥形硅材料波导,成功地将中心波长位于2.8 μm的1ps初始脉冲压缩至47.06 fs,压缩倍数高达24.25。脉冲的峰值功率从1.67 W提高至27.63 W。利用压缩后的脉冲泵浦具有两个零色散点的条形硅材料波导,产生了一个倍频程的超连续谱,且具有较高的相干特性。与用1ps初始脉冲直接泵浦产生的窄超连续谱的相干特性进行比较,相干特性提高了 2个数量级。此研究为产生片上高质量的中红外波段超短飞秒脉冲和利用长脉冲间接产生高相干的宽带超连续谱打下了基础。2)提出了基于光孤子频谱压缩理论,在所设计的波导中实现高质量的频谱压缩的方案。设计了长度为6 cm的悬浮型锥形硅材料波导,其|β2|随着传播距离的增加呈线性增长的趋势。利用该波导成功地将中心波长位于2.4 μm的脉冲频谱从初始的121 nm压缩到11.1 nm,频谱压缩比高达10.9倍,对应的频谱峰值功率提高了 8倍。压缩后的频谱中,对应的光谱形状和时域波形良好。此研究为实现片上中红外波段窄谱宽、高光谱亮度的相干光源提供了解决思路。3)提出了在所设计的具备全正色散特性的多模硫族材料波导中,多个不同模式产生多个倍频程、高相干的超连续谱和光频率梳的方案。设计了具备全正色散特性的条形As2Se3波导,该波导的三个准TE模式（TE00、TE10和TE20模式）对应的色散曲线都在正常色散区内,具有较好的平坦性,其中TE20模最接近零色散、TE00模稍微偏离零色散,TE10模介于两者的中间。当脉冲泵浦参数选择为λ0=3μm、P0=3 kW以及T0=80 fs时,这三种模式在1 cm长的波导中产生的超连续谱的带宽分别达到了 1.82、1.93和2.33个倍频程,对应的第一阶相干度在所考虑的波长范围内均接近于1。将50个重复频率为50MHz的脉冲入射进该波导中,依次产生了与这三种模式对应的倍频程的光频率梳。该研究为实现片上中红外波段大带宽、高相干的超连续谱和光频率梳源提供了合适的方案。4)提出了在基于铝镓砷材料的非线性波导中产生覆盖多个通信波段的高转换效率光频率梳的实验方案,以及利用具备多个零色散点的波导产生中红外波段高相干、倍频程的光频梳仿真方案。实验方面,设计并制备了长度为5 mm、高度为320 nm的AlGaAs波导,将峰值功率为8.9 W、时域宽度为200 fs以及中心波长为1560 nm的高斯脉冲耦合进宽度为900 nm的全正色散波导中时,以20 dB带宽为标准,产生了覆盖S+C+L+U波段的光频梳,其谱宽为24.5 THz,对应覆盖的波长范围为1480nm到1683 nm,转换效率达到了 47%。C+L波段对应的谱功率波动较平坦,在8 dB以内。此实验结果为在通信波段中实现高转换效率、宽谱且高相干的光频率梳提供了实验参考,可考虑将其作为梳状多波长光源应用到高速光通信系统中,以实现高的数据传输速率。仿真模拟方面,设计了长度为3mm的具备三个零色散点的AlGaAs波导,利用合适的脉冲（λ0=4.9 μm、P0=900 W,T0=100 fs）进行泵浦,产生了 2.7个倍频程的超连续谱,覆盖了从2.2 μm到14.5 μm的波长范围。脉冲在传播的过程中,对应的第一阶相干性接近于1。基于产生的超连续谱,利用含有50个脉冲且重复频率为100 MHz的脉冲串作为泵浦,产生了中红外波段的多个倍频程、高相干的光频梳。该研究为利用具备多个零色散点的波导实现片上中红外波段的光频梳提供了理论指导。本论文通过结合不同材料波导平台的优势,设计合适的波导结构参数,利用其特定的非线性效应,实现了高质量的片上脉冲压缩、频谱压缩、超连续谱以及光频率梳。相关理论与实验研究成果不仅丰富了非线性波导的相关理论,而且在未来片上高速光通信、全光信息处理、生物医学成像等领域具有重要的应用价值。