自从激光技术出现以来,非线性光学飞速发展。作为非线性光学的重要分支,三阶非线性光学的研究引起了越来越多的关注。因此研究和制备新型三阶非线性光学材料对于光通信、光信号处理和光存储等光子学领域的应用具有重要价值。二维层状材料由于其特殊的物理和电子结构,在非线性光子学的应用领域大放光彩。石墨烯作为一种典型的二维材料已经应用到众多领域。由于石墨烯的高载流子迁移率和宽带吸收等性质,科研人员致力于石墨烯在非线性光学器件中的应用,但是由于其具有零带隙结构而表现出较弱的非线性吸收特性,不足以满足实际应用的需求。本文针对这个问题,利用缺陷介导晶体生长技术直接在氧化石墨烯表面生长半导体材料,构建不同的石墨烯-半导体复合结构,通过复合结构间的电荷转移效应改善石墨烯的三阶非线性光学性质。利用皮秒Z-扫描技术和泵浦探测技术深入研究复合结构、电荷转移过程对非线性光学性质的作用机理。本文具体的研究内容和成果如下:第一,系统研究了Cu2Se/G复合材料中影响三阶非线性光学性质的因素。首先利用氧化石墨烯表面的含氧缺陷位点生长Cu2Se纳米晶体,采用热溶剂法成功制备了不同Cu2Se浓度的Cu2Se/G复合材料。结构和形貌表征表明Cu2Se纳米晶体均匀分散在石墨烯纳米片表面。采用皮秒Z-扫描技术在532 nm处研究了不同Cu2Se含量的复合材料的三阶非线性光学性质。结果表明Cu2Se/G具有反饱和吸收和正非线性折射特性,通过控制Cu2Se含量可以有效地调控Cu2Se/G复合材料的非线性光学性能。其中Cu2Se和氧化石墨烯质量比为1.5:1的复合材料的三阶非线性极化率可达到6.52×10-13 esu,相较于石墨烯的三阶非线性极化率提高了5倍。增强的非线性光学性质与Cu2Se尺寸减小引起的光致跃迁偶极矩增加和复合材料两组分之间的电荷转移过程有关。通过泵浦探测技术得到了Cu2Se/G的瞬态吸收光谱和载流子动力学分析,并建立了Cu2Se/G复合材料中的电荷转移模型,分析了G和Cu2Se之间的界面电荷转移过程对反饱和吸收性质的促进作用。本研究为Cu2Se/G复合材料在光电器件中的应用奠定了基础。第二,在本研究中,通过从氧化石墨烯晶格直接生长FAPbBr3纳米晶体制备了G/FAPb Br3复合材料以改善石墨烯的非线性光学性质。结构和形貌分析表明FAPb Br3晶体通过共价键成功生长在石墨烯表面。G/FAPb Br3吸收荧光峰的蓝移和荧光寿命减小表明复合材料中存在快速的电荷转移过程。皮秒Z-扫描结果显示G/FAPb Br3复合材料的饱和吸收效应相对于单体显著增强。通过瞬态吸收光谱和载流子动力学分析研究了G/FAPb Br3复合材料饱和吸收性质增强的原因。超快的电荷转移过程抑制了激发态吸收,促进了各能态之间的耦合,从而增强了饱和吸收效应。因此,G/FAPb Br3复合材料表现出优异的可饱和吸收特性,具有较大的调制深度（10.8%）和极低的饱和强度（0.1GW/cm~2）,这表明G/FAPb Br3可以作为出色的可饱和吸收体材料应用于脉冲激光整形器件。第三,系统研究尺寸对G/FAPbBr3复合材料的三阶非线性光学性质的影响。通过增加油胺配体的使用量,合成了尺寸逐渐减小的G/FAPb Br3样品,并对样品进行了基本表征。随着复合材料尺寸的减小,吸收峰出现蓝移,光学带隙增大。G/FAPb Br3电荷转移过程随着尺寸的减小而增强还导致了荧光寿命的衰减。Z-扫描结果表明G/FAPb Br3饱和吸收性质随着尺寸的减小得到优化。另外,本文还研究了复合材料在高激光能量下的非线性光学性质。随着激光能量的增加,G/FAPb Br3中存在饱和吸收向双光子吸收转变的现象,带隙更大的G/FAPb Br3复合样品表现出更强的双光子吸收性质。尺寸对于复合材料的三阶非线性光学性质的调控为G/FAPbBr3在非线性光学器件中的应用提供多样化的思路。