碲基复合薄膜具有较优的三阶非线性光学性能，在非线性光学器件领域具有较大的应用价值，研究碲基复合薄膜的三阶非线性光学性质及光限幅特性具有重要意义。　　 建立了Z扫描三阶非线性光学性质实验测试系统，以及材料光学性能参数的计算方法;采用数值计算方法对薄膜材料的Z扫描参数进行研究，以此指导调整Z扫描实验系统参数，尽可能提高测量的灵敏度。　　 对采用电化学方法制备的Te/TeO2-SiO2复合薄膜进行热处理，得到了不同TeO2相态掺杂的TeO2/TeO2-SiO2复合薄膜，研究了薄膜微观结构和光学性质之间的关系。实验表明，220℃热处理后Te/TeO2-SiO2复合薄膜中的Te部分和全部转化为γ-TeO2晶粒，γ-TeO2在450℃则成为α-TeO2晶粒;薄膜的三阶非线性光学性质在热处理后仍然表现出自散焦效应和非线性饱和吸收性质，随着热处理温度的升高，透光性增大，反射率增加，线性吸收系数变小，线性折射率增大，光学禁带宽度变大;非线性折射效应增强，饱和吸收性质减小。热处理后薄膜的吸收光谱的吸收边向短波方向移动（蓝移），说明复合薄膜产生了量子尺寸效应。　　 研究了Te/TeO2-SiO2复合薄膜中Te颗粒大小对其线性和非线性光学性质的影响，基于有效介质理论对复合薄膜的三阶非线性效应进行了分析。结果表明Te的粒径减小，颗粒数量多，颗粒分布均匀，使得等离子体共振峰红移，吸收强度增强，导致三阶非线性光学效应增强。　　 研究了Te/TeO2-SiO2复合薄膜的光限幅特性，发现Te/TeO2-SiO2复合薄膜的光限幅机理主要是薄膜的非线性折射效应，在入射光强度相同的情况下，薄膜的三阶非线性折射率越大，非线性相移越大，其光限幅性能越好。基于高斯光束通过非线性介质后的远场衍射光场分布理论，对经过薄膜的远场衍射光束进行分析，结果表明:薄膜的非线性光学特性越好，远场衍射光束的中心暗斑越大，光限幅效果越好。