现代通信网络建设中,以光信号作为信息载体的光纤通信技术占据了重要地位。为了能够更好的传输光信号,需要构建一系列的光调控器件如光波导、光调制器、光耦合器等。通过这些光子器件来对光信号的幅度、相位等信息进行调节。随着人们通信需求的不断增大,对网络速度、网络带宽需求的提升,传统的以III-V族材料为主设计的光调控器件因存在调制深度低、功耗相对较高及尺寸较大的问题,而难以满足现在的通信需求。石墨烯的发现为解决这一难题提供了新的解决方案,石墨烯具有超高的电子迁移率、零带隙和极低的载流子弛豫时间,使其可以设计出远高于传统光调控器件调制深度、品质因数及更低插入损耗等优点的光子器件。而表面等离子体所具有的可以打破衍射极限的性质,则可以实现光子器件进一步的小型化和微型化。本文结合石墨烯、混合表面等离子体的优点,利用有限元方法研究了石墨烯混合表面等离子体波导的模式特性、传输特性及光调制特性和光耦合特性。本文的主要内容分为以下几个方面:1、研究了表面等离子体理论、石墨烯的材料特性及光调控实现机理。利用Paul Drude模型对金属介电常数进行表征,利用金属-介质分界面模型进行色散方程的推导,对表面等离子体的激发方法进行了研究。从石墨烯的物理结构出发研究了石墨烯具有独特光电特性的原因及光调控实现的机理。对光调控器件相关的设计分析方法及主要性能指标进行论述及推导。2、研究了基于石墨烯混合表面等离子体波导结构的模式特性、传输特性及电光调制特性。提出一种内嵌石墨烯纳米带脊型波导的吸收型光调制器设计。通过对波导结构及石墨烯的费米能级进行优化,使该波导在宽度约3μm,厚度约2μm的条件下,传播长度可以达到10~3 mm规模,品质因数达到10~5规模。通过在石墨烯上加装电极的方式,实现了波导的电光调制功能。当波导的长度为100μm时,对于1.55μm通信频段的光信号,其调制深度可以达到96.4%,插入损耗为0.959 d B,半高全宽（full width at half-maximum,FWHM）为约30 nm。对于波长为2.23μm中红外频段的光信号,其调制深度可以达到94.9%,插入损耗仅为0.038 d B,FWHM为约59 nm。通过三维数值模拟的方式对光调制特性做了进一步的验证,并提出了可行的制备方案。3、研究了石墨烯混合表面等离子体波导结构的模式特性、传输特性及光耦合特性。通过探索Na、Ag、Au三种金属分别作为波导基底时对波导性能的影响,发现相较于惰性金属,以Na作为波导基底时,所提出的波导结构在传播长度、归一化模场面积和品质因数等性能指标上具有更好的表现。通过优化波导结构及石墨烯的费米能级,可以使波导在宽度为约0.8μm,厚度为约0.5μm的条件下传播长度达到10~2 mm的规模,品质因数达到10~4的规模。通过将两平直石墨烯混合表面等离子体波导与两S型波导相连接,研究了波导光耦合特性。通过改变耦合区间的长度,可以在仅2.5μm长的耦合区间内实现3 d B耦合的功能。通过调节石墨烯的费米能级可将3 d B耦合点处波长的透射率由约0.3提升至约0.47,使波导结构的耦合性能得到较大的提升。本文研究的石墨烯混合表面等离子体波导的光调控特性,相较于传统光调控器件,能够在更小的尺寸条件下实现更高的传播长度、调制深度、品质因数及更好的光耦合特性。为光开关、分束器、波分复用器等光子器件的设计提供一定的研究基础。