随着超大规模集成电路的不断发展,现有的电子芯片的集成程度已经达到极限。在此情况下,人们寄希望通过新型的光子芯片取代电子芯片来更可靠且更高速地控制和传递信息。近年来,芯层和绝缘层具有较大折射率差的SOI光学波导作为光电集成的一种有效平台,引起了人们广泛的研究兴趣,有关硅光子学的研究结果层出不穷。与传统的光学波导相比,SOI波导具有自身特有的材料和结构特性。SOI波导的芯层和绝缘层具有较大的折射率差,这使得整个波导结构对光的约束作用很强。除此之外,SOI波导具有比光纤波导高数个量级的非线性系数,从而具有更强的非线性效应：包括克尔效应和受激拉曼散射效应。此外,受自身材料的影响,还具有双光子吸收、自由载流子吸收和自由载流子色散等光纤波导不具备或者不显著的非线性光学效应。本文首先总结了硅光子学理论和实验研究的发展情况,在此基础上系统地研究了SOI波导中的各种非线性光学效应,目的在于深刻理解SOI波导中的各种非线性光学效应的物理机制机理、可能存在的实际应用价值以及各种硅基波导结构在应用过程中将可能面临的各种内在的困难,并利用这些非线性效应光学功能函数探索和设计了各种应用模型。本论文的研究内容主要包含以下几个方面：1、数值研究了SOI波导的模式和色散特性,为了得到准确而有效的结果,文中在分别采用了频域有限差分方法(FDFD)、有限元方法(FEM)和光束传输方法(BPM)模拟了波导的模式和色散特性,讨论了各种数值方法的适用范围。在此基础上,通过灵活设计波导的几何参数,实现了波导色散的精确调控,可以根据实际需要对波导的零色散波长点进行有效调节。2、建立了超快光脉冲在SOI波导中传输的较为完备的理论模型,详细描述了SOI波导中各种非线性光学效应产生的内在物理机制和过程,包括自相位调制效应、交叉相位调制效应、受激拉曼散射效应、四波混频效应、双光子吸收效应、自由载流子吸收效应和自由载流子色散效应等非线性光学过程。3、研究了飞秒脉冲在SOI波导中传输并产生超连续谱的过程,研究结果表明孤子分裂和色散波辐射在SOI波导中的超连续谱产生过程中起着重要的作用,输入脉冲的初始啁啾参数对超连续谱的展宽程度和平坦度有着重要的影响,需要通过优化初始啁啾参数来实现最宽最平坦的超连续谱。4、建立了多个超快光脉冲在SOI波导中传输的简并非线性传输耦合方程组,该方程组详细描述了泵浦光、信号光和闲频光在满足相位匹配条件下各自的演化过程。实现了高转换效率中红外SOI波导光参量放大器,在克服了各种非线性损耗的不利条件下,中红外SOI波导光参量放大器的转换效率可以得到有效提升；进行了宽调谐SOI波导光参量振荡器技术研究。利用波导的高阶色散效应和非线性效应的共同作用实现超宽带相位匹配,从而实现了信号光以及闲频光在较宽光谱范围内的可调谐输出。数值模拟结果表明：宽调谐SOI波导光参量振荡器的调谐带宽可达266nm。5、对基于SOI波导的级联四波混频效应进行了研究。着重考虑了波导长度、波导色散斜率和输入泵浦功率对级联四波混频产生的影响,并对这些参数进行了优化,在超过1000nm的光谱范围内实现了有效的级联四波混频产生,形成了类似于频率梳状的频率分布。6、进行了锁模光纤激光器和光子晶体光纤参量振荡器的理论和实验研究。实验上建立了基于SESAM的飞秒锁模光纤激光器及放大系统,输出功率为1W,重复频率为25MHz。另外利用此系统作为泵浦光,搭建了光子晶体光纤参量振荡器系统,着重研究了耦合效率、偏振调节和同步泵浦对光子晶体光纤参量振荡器的调谐带宽的影响,实验上得到了飞秒脉冲光子晶体光纤参量振荡器的初步结果。