随着现代科学技术的迅猛发展,人类社会已步入海量信息时代,更高性能、更具稳定性的数字信号处理系统在信息处理中扮演着愈来愈重要的角色。全光模数转换（All-optical analog-to-digital conversion,AOADC）,是在光域直接对模拟信号进行数字化处理,从根本上解决了限制传统电子ADC性能的固有电子瓶颈问题,从而可以获得电子ADC所无法比拟的更高速率、更大带宽、更高稳定性的数字化性能。然而,从目前国内外AOADC的研究现状及研究成果来看,依旧存在着一些亟需解决的关键问题,比如如何兼顾超高速采样率、宽带宽和高量化分辨率;如何实现器件的低功耗、可集成化和小型化。针对AOADC中存在的这些亟待解决的问题,本文通过研究光纤和微纳波导中的非线性光学效应以及调制器的电光调制技术,对可集成、高性能的AOADC进行了深入地探讨。论文的主要研究内容及创新性的研究成果可简单概括如下:1、针对AOADC中的全光采样模块,提出了基于高非线性光纤双泵浦四波混频（Four-wave mixing,FWM）效应的啁啾参量广播全光解复用方案。本方案对采样脉冲引入线性啁啾,利用脉冲重复率为10 GHz的采样脉冲源对归零码开关键控（Resturn to zero on-off keying,RZ-OOK）时分复用信号进行采样,可获得160 GSa/s的解复用率,即实现了采样率的16倍复用。此方案大大提升了采样率,降低了为实现高采样率而对MLLD脉冲重复率提出的苛刻要求,减少了参量广播的广播路数,从而在解决了MLLD脉冲的重复率与时间抖动相互制约的难题的同时,也降低了全光采样系统的复杂度。2、针对全光模数转换中的全光量化模块,提出了两种基于微纳波导结构的全光频率量化方案和基于非对称马赫曾德调制器（Unbalanced Mach-Zehnder modulator,UMZM）的全光级联量化方案。在通信波段1550 nm波长处,利用硫族化物材料As2S3设计了具有小有效模场面积、高非线性系数的水平槽型波导结构,基于硫族化物波导孤子自频移效应（Soliton self-frequency shift,SSFS）的可集成全光频率量化方案,对该量化方案进行了仿真分析。结果表明,当输入脉宽为100 fs、峰值功率为21.4 W的双曲正割脉冲时,仅使用长度为6 cm的As2S3水平槽型波导,便可实现425 nm的频移量,经过滤波、判决,4-bit的量化方案可以得到3.29-bit的有效量化分辨率。在中红外波段,通过利用两种不同配比的Ⅲ-Ⅴ族材料AlGaAs设计了一种色散相对平坦且简单易加工的条形波导结构,并利用此波导结构对三种不同类型的入射光脉冲的超连续谱产生及基于切割超连续谱的全光量化方案均进行了仿真分析。结果表明,在相同的入射脉宽和输入功率条件下,与双曲正割脉冲和高斯脉冲相比,当入射脉冲为抛物线型脉冲时,超连续谱展宽更宽、相干性也更好。对4-bit的量化方案来说,在中心波长为3μm的正常色散区泵浦,入射脉冲的脉宽为100 fs,输入功率为200～760 mW,入射脉冲分别为抛物线型脉冲、双曲正割脉冲、高斯脉冲时,对应的有效量化分辨率分别为3.99-bit、3.87-bit、3.93-bit。且抛物线型脉冲的优势在更高分辨率的量化方案中表现得更加明显。若使用传统的移相量化方案,输入4个不同波长的采样脉冲,可实现3-bit的量化分辨率,而在UMZM全光级联量化方案中,输入4个不同波长的采样脉冲、级联4个臂长差均为40 μm的UMZM,即可实现5-bit的量化方案,相应的有效量化分辨率为4.86-bit。以上三种量化方案的提出,为实现高量化分辨率AOADC提供了更多的可能。3、针对AOADC中的编码模块,提出了一种基于聚合物材料脊型波导结构的编码方案。首先对比、分析了几种AOADC常用的编码方案,但由于它们的构成均比较复杂,难以满足系统可集成、小型化的发展趋势。通过结合有效折射率法和有限差分光束传播法,设计了一种形似F的新型波导分支器结构。该波导分支器结构使用了有机聚合物材料,因此易于加工、损耗较低、兼容性较好;分支器的截面选择了易于耦合的脊型结构。仿真结果显示,该F-形分支器结构的两个输出端口的分光比为1:1。利用直波导、弯曲波导和该分支器结构,设计了一种编码结构,并将此编码结构应用于基于SSFS效应的4-bit全光量化方案之后,结果显示,该编码结构的编码效果良好,整个量化、编码方案的有效量化分辨率可以达到3.91-bit。本文的研究成果进一步丰富了全光模数转换技术的理论研究,为实现低功耗、可集成、小型化的高性能AOADC提供了详尽、扎实的研究基础,为微纳波导器件在AOADC中的应用探索了新的技术方案,为高速光通信中的信号处理系统提供了新思路,在未来的高速信息处理领域及超宽带光通信网中有望得到广泛的应用。