自从1970年非线性Cerenkov辐射的概念首次被引入到非线性光学领域，此方面的研究引起了人们越来越多的研究兴趣。在多年的研究进展过程中，非线性Cerenkov辐射效应主要形成了两大研究体系，分别是光波导体系以及体块非线性光子晶体体系。本论文以LiNbO3、LiTaO3介电体波导和介电体超晶格的材料制备、表征等研究为基础，对这两个体系中的新颖非线性Cerenkov辐射效应的特性都进行了深入的探讨，主要内容包括:　　1、以苯甲酸（焦磷酸）为交换质子源，研制了退火质子交换光波导，标定了其基本的工艺参数，并建立了一套较为完备的光波导表征测量系统，包括棱镜耦合法和端面耦合法等用来对波导样品进行了光学表征，确定波导的模式数目、有效厚度、有效折射率分布等基本参数。在此基础上，我们系统的研究了退火质子交换LiNbO3多模平面光波导中各模式之间的非线性耦合作用，首次在实验上实现了非线性波导中同一频率、不同模式（即不同传输常数）之间耦合作用的Cerenkov和频辐射输出，并讨论了其相关特性。同时，我们的研究发现，各个导模的弹性散射光也会参与到Cerenkov相互作用。　　2、结合微结构设计的基本理论和准相位匹配原理，我们在实验上首次实现了非线性光子晶体波导中基于级联二阶非线性过程的Cerenkov三倍频效应，并对其进行了系统的理论分析。在周期极化的LiTaO3平面波导中，Cerenkov三倍频过程有导模至导模的倍频过程级联一个导模至辐射模的和频过程产生。这种级联的相位匹配方式相比于直接利用三阶非线性产生Cerenkov三倍频而言更加高效。实验结果表明，周期畴结构提供的不同倒格矢（包括正向和反向）都会对这种非线性Cerenkov三倍频过程的极化波相速度进行调制，从而产生不同角度辐射的三倍频波。同时，我们还在实验中测量了这种Cerenkov三倍频的温度及功率调谐特性。此外，我们通过数值求解耦合模方程，分析了级联过程产生Cerenkov三倍频效应的基本特性，包括在不同泵浦功率密度下的温度调谐特性、模场交叠以及辐射角度随温度的变化特性、三倍频强度与相互作用长度的关联等。理论研究和实验测量结果基本一致。　　3、二维体块非线性光子晶体中Cerenkov频率上转换效应的研究。在前人关于畴壁处可以产生Cerenkov效应的研究基础上，我们将研究的体系从一维畴结构拓展至二维畴结构。在二维畴结构中，不仅存在非线性Cerenkov效应的辐射源，还有沿着光传播方向的微结构可以对产生的辐射源进行调制。我们在实验中利用飞秒激光泵浦二维四方周期极化的LiTaO3晶体，实现了调制型Cerenkov上转换效应的输出。研究发现，只有在非线性极化波的传播方向上引入二阶非线性系数的调制，这种依赖于畴界的辐射效应才可以被调制。Cerenkov辐射的强度会随着泵浦光的偏振变化而变化。同时，我们还发现，在正向倒格矢参与的情况下，非线性极化波的相速度会减小到Cerenkov上转换的相速阈值以下，从而调制型Cerenkov上转换会出现截止波长。此外，借助LiNbO3等晶体的电光效应或声光效应等，有望实现可调谐的Cerenkov输出。　　4、二维体块非线性光子晶体中Cerenkov频率下转换的研究。非线性Cerenkov辐射效应产生的基本条件，是非线性极化波相速度必须大于谐波的相速度。在正常色散介质中，Cerenkov频率上转换自动满足这一相速度条件;而Cerenkov频率下转换则存在相速度的阈值条件。我们前期的研究工作表明，超晶格畴结构提供的倒格矢可以对非线性极化波的相速度进行加速。延续这一思路，我们同样利用四方周期极化的二维光子晶体，在非线性极化波传播方向上设计了较小的畴反转周期，可提供较大的反向倒格矢，来增加非线性极化波的相速度，使其超过了谐波的相速，从而打破了产生Cerenkov下转换过程的相速阈值，首次在实验上实现了正常色散晶体中的Cerenkov差频效应。此外，我们利用退火质子交换的LiTaO3光波导，实现了光参量产生过程，这也为我们以后实现光波导体系中Cerenkov下转换过程打下了良好的工作基础。