具有较大非线性折射率，超快响应速度的三阶非线性光学材料在全光开关、光限幅器、光计算领域有着潜在的应用，因而引起了广大科研工作者的关注。非线性光学材料比较多，目前研究的比较广泛的有金属材料、半导体材料、有机材料等等。半导体纳米材料由于其特殊的量子尺寸效应，一直是非线性材料中研究的热点。受合成方法，颗粒半径，表面态等各种条件的影响，同种半导体纳米材料的三阶非线性响应往往存在较大差异，有些非线性响应机制有待更深层次的研究。半导体纳米材料可以分散在有机聚合物中，这种复合材料不仅具有半导体纳米材料的非线性性质，还可以发挥有机聚合物可塑性强的特点，进一步加工成器件。同时，半导体纳米材料分散于有机物聚合物中，可以阻止纳米材料间团聚现象的发生，改善材料性质。半导体纳米材料还可以通过物理途径或化学方法修饰到一些其他的具有非线性性质的材料表面，如石墨烯、碳纳米管等。由于两种材料同时存在非线性响应，修饰后的复合材料可能对三阶非线性响应有所提升，获得较大的非线性折射率。本论文共分为四章，第一章绪论部分对文献加以描述，介绍了半导体纳米材料的合成方法与半导体纳米材料的性质，特别是三阶非线性性质。介绍了碳纳米管的发现背景，物理性质，碳纳米管的修饰及其在各领域中的应用和三阶非线性光学性质。第二章介绍了三阶非线性原理，产生非线性折射与非线性吸收的物理机制，重点阐述了Z扫描方法，详细推导了Z扫描的数学过程，并对Z扫描的改进情况进行说明。第三章研究了两种PbSe纳米颗粒/有机聚合物的制备与非线性光学性质。第四章探讨了CdS纳米颗粒修饰碳纳米管的方法，及材料的三阶非线性光学性质。本论文的研究工作主要体现在如下几个方面：第一：应用有机热注入方法合成了粒径分布良好，颗粒大小在10nm左右的高质量PbSe纳米颗粒，X射线衍射（XRD）显示，合成的PbSe的晶相结构是岩-盐结构。将合成的PbSe纳米颗粒洗涤处理，分散于甲基丙烯酸甲酯中，经过高温预聚合处理，再进一步低温聚合，最终得到复合膜材料。透射电镜（TEM）显示PbSe纳米颗粒在膜中分散性良好。用纳秒Z扫描系统对材料三阶非线性性质进行测量，测得的三阶非线性折射率n2为-1.62×10-8esu，并从理论上计算了光热效应影响。（该工作已投稿《Chinese physicsB》）第二：运用湿化学方法，在聚乙烯醇辅助下合成PbSe纳米粒子，TEM显示PbSe纳米颗粒分散性良好，粒径在10nm左右。蒸发溶剂后得到复合材料，扫描电镜（SEM）显示材料的表面比较平整。用皮秒Z扫描系统测量了材料的三阶非线性光学性质，样品的三阶非线性折射率n2为-2.3×10-10esu。（该工作已被《光子学报》接收）。第三：运用分子间作用力将CdS纳米颗粒修饰到多壁碳纳米管上，通过XRD，TEM对材料的晶体结构及CdS纳米颗粒在多壁碳纳米管表面的分布状况进行测试，结果表明CdS纳米粒子尺寸分布在8nm左右，大部分纳米颗粒被修饰到碳纳米管的管壁上。利用紫外-可见光谱仪和荧光光谱仪对碳纳米管和CdS修饰过的碳纳米管的光学性质进行测量。应用皮秒Z扫描技术研究了材料的三阶非线性性质，三阶非线性极化率(3)为4.9×10-12esu。（该工作已投稿《Optik-International journal for light and electron optics》）。最后，提出了下一步的工作内容与实验安排。