近年来，我国在毫米波雷达系统、宽带无线通信、毫米波信号分配网、卫星遥感等领域正朝着信号带宽高、动态范围高、频率覆盖范围大、地域分布广等方向发展，从而对毫米波器件的带宽、长距离传输时的相位稳定性、宽带信号处理能力等提出了重大的挑战。这些挑战的核心是如何提高器件的带宽和无失真动态范围(SFDR)，解决大频段范围与宽带宽情况下系统SFDR低的难题。　　 本文首先介绍了光学下变频研究的背景和国内外研究现状。然后介绍了包括变频效率、噪声指数、SFDR等主要指标以及提高SFDR方法的理论分析。接着从理论和实验上研究了测量仪器电频谱分析仪的线性特性，以及不同性能的光、电器件对于光学下变频系统线性特性的影响。然后从理论上分析了基于级联马赫-曾德尔调制器(MZM)级联的光学下变频方案，进行了模型仿真，通过解析求解，仿真得出了光学下变频系统的增益，噪声和无失真动态范围等性能，通过实验验证了该仿真结果，增益和噪声在仿真和实验上是基本保持一致的。实验结果表明基于级联MZM级联的光学下变频方案能有效地将20～40GHz的射频信号下变频到1～5GHz的中频信号，实现了大带宽可调频率的射频下变频和转换后的中频信号的低相位噪声，在18GHz下变频到2GHz的实验中测得下变频后的无失真动态范围(SFDR)值约为96.23dB·Hz2/3。　　 最后借鉴有线电视中的预失真补偿技术来提高光学下变频中的无失真动态范围(SFDR)，本论文通过实验验证了基于肖特基硅二极管正反向并联的预失真补偿电路的线性补偿效果。在相同变频效率的情况下，补偿后的三阶交调成分，相比于未补偿前的被有效地抑制了13～15dB，噪声本底基本没有变化，所以相对应的SFDR提高了4.3～5dB，达到116.46dB·Hz2/3。