波分复用技术是为了提高光通信系统的传输容量和带宽,适应指数级网络流量增长的需求而研发的,但是,在非线性光纤传输的香农限制下传统波分复用系统的容量几乎达到了极限。要进一步提高系统的数据传输能力,提高单个波长信道的容量,研究人员先后提出了新的复用技术:偏分复用和模分复用等技术。偏分复用和模分复用技术利用双偏振以及模式技术,在多个波长上来实现并行通道数据传输,这些技术不仅可以节省物理空间,还可以降低系统成本。尤其是模分复用技术具有更高的信息传输密度,被认为是最有发展前景的技术。本文主要基于模分复用系统,适当混合波分复用和偏分复用技术,提出并设计了一些功能强大、性能良好的硅光子集成的模式（解）复用器。主要的研究工作如下:（1）光波导是引导光波在其中传播的介质装置,是光子集成器件的重要组成部分。本文在研究和分析光波导的基础上探讨了硅基光波导中的模场分布、耦合模理论,以及设计器件需要的数值计算方法。（2）提出了一种非对称定向耦合器的设计方法,在SOI平台上级联该定向耦合器,实现了一种双偏振的10通道模式（解）复用器,在模分复用系统中实现了混合偏分复用技术的应用。所设计的（解）复用器由三个级联的耦合部分和一个偏振分束器组成,每个耦合部分包括两个或四个并行级联的非对称定向耦合器,用于（解）复用TE1～TE5和TM1～TM3高阶模式,偏振分束器用于组合/分离TE0和TM0基模。为了满足相位匹配条件,高效地进行模式耦合转换,根据硅波导的模式色散曲线来优化选择下载波导和总线波导的尺寸。为了有效地减小占地面积,该器件中定向耦合器采用并行级联,总耦合长度仅有59.3μm。仿真结表明,该器件具有较大的工作带宽（～80 nm）和良好的性能,在35 nm的波长范围内具有低插入损耗（＞-0.99 dB）和低模式串扰（＜-15.6dB）。（3）设计了一种锥形绝热耦合器,通过级联四个锥形绝热耦合器和一个定向耦合器,实现了一种6通道的模式（解）复用器。四个锥形绝热耦合器优化设计用于（解）复用TE1～TE4模式,TE0模沿总线波导输入/输出,一个定向耦合器用于（解）复用TE5模式。实验结果表明,在1500～1600 nm的工作波长内,该模式（解）复用器具有较低的插入损耗（＞-0.99 dB）和模式串扰（＜-21 dB）。此外,在波导制作容差范围（±40 nm）内,模式的插入损耗大于-2.4 dB,串扰低于-15.2 dB。（4）设计了一种微环谐振器,它具有波长选择性。在SOI平台上实现了一个基于级联微环谐振器的4通道模式复用器。在设计中,通过优化设计微环谐振器的结构参数,控制其工作状态实现基模与任意一个模式发生耦合转换。仿真结果表明,该器件在1520～1580 nm的工作带宽内,可实现TE0～TE3四个模式复用同时支持多个波长信道复用,实现了模分复用兼容波分复用功能。实验还表明,在1552 nm处,具有较低的模式串扰（＞-3.1 dB）和插入损耗（＜-15.8 dB）。