光分组交换网络（OPS）具有交换效率高、数据格式灵活透明等优点,可以克服光电转换中“电子瓶颈”,成为下一代互联核心网络的关键技术。本论文围绕高速光通信网络中的全光通信网络的关键技术,结合国家863项目“全光交换技术”和国家自然基金等项目,针对全光分组交换网络的网络结构,先进调制格式、标签加载技术、以及正交调制技术等方面进行了研究,本论文取得的主要成果如下:提出了一种新型的光学调制器,用于实现40Gb/s频移键控（FSK）信号的产生。此种新型调制器由于无需利用高频射频信号来实现载波抑制的双边带信号,因此减少了射频信号对于光信号的影响,减小了系统结构的复杂性,具有系统稳定、成本低等优点,利用该调制器仿真的FSK信号经过50km传输的功率代价仅仅为0.2dB。通过仿真详细讨论了采用此种调制器产生FSK信号的传输性能,并分析了滤波器的中心频率、带宽,色散以及色散补偿方案等对于FSK信号产生机制和传输性能的影响,为构建OPS传输系统提供了理论基础。基于新型光学调制器产生FSK信号的方案,提出了一种适用于全光分组交换网络的正交调制方案——频移键控和Manchester的幅移键控（FSK/ASK）调制机制。采用净荷为40Gb/s的ASK信号,标签为2.5Gb/s的FSK信号。针对正交调制模式中FSK信号和ASK信号串扰严重、需要严格控制ASK信号的消光比以及消光比低的缺点,本论文提出的FSK/ASK正交调制模式中ASK信号由于采用了 MC编码方案,MC信号为二进制相位编码格式,仿真结果证明此方案不仅可以极大的降低了 FSK信号和ASK信号的串扰,将信号的消光比提高了 6.1dB;并且在合适的消光比下,同时极大地提高了 ASK信号和FSK信号的传输性能。此外本论文仿真验证了传输系统中的入纤光功率、色散等参数对于ASK/FSK调制格式的影响,为选取适宜的系统参数提供了理论依据。提出了一种采用单个调制器同时实现FSK标签和ASK净荷调制的方案,该方案中,仅采用一个双臂MZM调制器,比原有的调制方案至少减少了一个调制器,优化了调制方案,可以使MC净荷传输性能提高1 dB。通过仿真验证了采用此方案产生的正交调制信号的传输性能,并详细讨论了信号带宽、调制深度等因素对信号的传输质量的影响。