β-Ga2O3是一种新颖的超宽禁带半导体材料,因其带隙宽度大（～4.8eV）、击穿场强高、制备成本低、理化性质稳定等优点,在功率电子器件、紫外日盲探测器、高温气体传感器等领域受到了广泛的关注,现已成为国内外超宽禁带半导体方向的研究热点。由于其带隙宽度大导致的紫外-红外波段透明特性和可与Ⅲ-N族半导体集成的特点,β-Ga2O3在光子集成电路（Photonic integrated circuits）领域具有潜在的应用价值。但与电学性能相比,对β-Ga2O3在激光照射下产生的非线性光学性质的研究仍很不完善。因此,探索并揭示不同波长和脉冲宽度下,本征与掺杂β-Ga2O3的非线性光学响应演变规律及其光物理机理对于β-Ga2O3材料的研究和光电子器件开发具有重要意义。本文以非掺杂、Sn掺,Fe掺β-Ga2O3晶体为主要研究对象,综合利用Z扫描、时间分辨带相位物体泵浦探测和瞬态吸收光谱等实验手段,结合能级模型和载流子色散效应理论,对β-Ga2O3晶体在紫外可见波段的束缚电子相关非线性光学性质,载流子相关非线性光学性质及超快载流子动力学进行了研究。主要研究内容和结果如下:（1）利用飞秒Z扫描技术系统研究了非掺,Sn掺,Fe掺β-Ga2O3晶体在355 nm-750 nm范围内的超快非线性光学性质。测量了在Eg/2到Eg范围内的双光子吸收系数,在Eg/3到Eg/2范围内的三光子吸收系数和Kerr折射系数的色散关系,重点探究了掺杂对双光子吸收系数,三光子吸收系数和Kerr折射系数的影响。发现在540-600nm（接近Eg/2）范围内,Fe掺杂可以显著提高三光子吸收系数。计算得到三光子品质因数的阈值光强达到100 GW/cm2,表明β-Ga2O3在全光开关领域具有巨大潜力。（2）利用355 nm皮秒脉冲激发的简并带相位物体泵浦探测技术研究了非掺、Sn掺β-Ga2O3晶体的载流子色散效应。区分了 β-Ga2O3不同时域的非线性折射机制,基于双光子诱导的自由载流子模型确定了 β-Ga2O3晶体的自由载流子吸收截面,自由载流子折射体积和自由载流子复合寿命。发现β-Ga2O3的自由载流子吸收和自由载流子折射效应明显小于宽带隙半导体GaN和ZnO。该结果可为基于β-Ga2O3的超低损耗波导以及在紫外光谱范围内集成光调制器的开发提供参考。（3）利用355nm激发,515nm探测的飞秒非简并带相位物体泵浦探测技术研究了 β-Ga2O3晶体的掺杂和本征缺陷对非线性吸收/折射动力学的影响。结合瞬态吸收谱验证了 β-Ga2O3中本征缺陷态的存在,探究了特定探测波长对β-Ga2O3载流子非线性的调制作用,发现了 515nm探测下的载流子吸收/折射系数比355 nm探测下大至少一个量级,归因于本征缺陷对515 nm探光的额外吸收。利用缺陷态载流子动力学模型分析了 Fe诱导的深俘获态相关的载流子复合过程并确定了俘获态的复合寿命约50 ps。本文通过系统研究β-Ga2O3的非线性光学特性及载流子动力学,一方面确定了 β-Ga2O3的多光子吸收系数、Kerr折射系数、载流子折射体积、载流子寿命等光物理参数,另一方面揭示了不同脉冲宽度下,掺杂、本征缺陷引起的电子态与非线性光学响应、载流子动力学之间的关联规律。本文研究结果阐明了 β-Ga2O3在紫外-可见波段光子学器件领域的应用价值,可为后续基于β-Ga2O3的紫外可见光电子器件设计开发提供参考。