高质量的振荡器是现代电子系统的重要组成部分,在测控、雷达、通信、导航、电子对抗、天文和近代物理实验等领域都有着十分广泛的应用前景。随着高频电子系统及现代无线通信的快速发展,这些电子与通信系统对振荡器产生信号的频率范围、频率稳定度、相位噪声等的要求越来越高。高频率稳定度的晶体振荡器作为标准信号发生器,虽然相位噪声很低,但其频率一般低于百MHz量级。通过倍频方式产生高频信号是建立在牺牲相位噪声的基础上,难以满足高频系统需求。而压控振荡器可以产生几GHz的信号,但是相位噪声性能较差。随着微波光子学的快速发展,光电振荡器采用光电混合反馈闭环技术,将激光能量转化为微波信号能量,能产生甚至上百GHz、Q值高达1010的低相位噪声信号,是高频电子与通信系统理想的信号发生装置。本论文主要研究光电振荡器的性能优化,主要工作如下:一、介绍了光电振荡器的基本原理,探讨了光电振荡器准线性动态振荡模型和拉普拉斯域相位噪声模型,综合考虑了光电振荡器的噪声来源,并从理论上分析了长光纤、滤波器的储能能力及激光器相对强度噪声、热噪声、散弹噪声、微波放大器的闪烁噪声等对光电振荡器相位噪声的影响。二、分析了基于锁相环的光电振荡器频率稳定原理及相位噪声模型,搭建了锁相环-光电振荡器实验验证系统,在平均测量时间1024秒内,艾伦方差达到1.43×10-12,比自由振荡光电振荡器的艾伦方差提升了 5个数量级。三、分析了激光器线宽与相对强度噪声、光电探测器入射光功率、光纤链路中的瑞利散射、微波放大器的噪声及带通滤波器对光电振荡器相位噪声性能的影响,实现了相位噪声低于-140 dBc/Hz@10 kHz的10 GHz光电振荡器。四、基于单环光电振荡器的结构,提出了一种光电混合滤波环路,并基于该滤波器实现了毫米波光电振荡器的窄带、高Q值滤波,得到了中心频率为29.99 GHz、3 dB带宽为1 MHz的毫米波滤波器。结合该滤波器,毫米波光电振荡器产生了低相位噪声、低杂散的毫米波信号,其单边带相位噪声和杂散抑制比分别为-113 dBc/Hz@10 kHz和 83 dBc。五、基于耦合式光电振荡器的结构,提出了抑制其超模噪声的互注入锁定方案。由于互注入锁定效应,耦合式光电振荡器的超模噪声被有效抑制,杂散抑制比高达-120 dBc,且其产生的9.99 GHz微波信号的单边带相位噪声约为-117 dBc/Hz@10 kHz。