铌酸锂单晶薄膜（LNOI）作为一种同时具备优异的声光、电光和非线性光学特性的材料受到了人们的广泛关注。LNOI有望在光子学领域中替代硅材料,为解决通信系统中传输损耗大、传输带宽不足的问题提供方案。未来,基于LNOI平台的光子集成芯片将会在光通信、大数据、云计算、人工智能等领域彰显出巨大的应用价值。光通信系统通常采用模分复用或偏分复用两种复用技术来进一步提升数据带宽。模分复用系统利用模式转换器产生不同的模态作为信息的通道进行传输,而偏分复用系统利用偏振分束器使两种偏振态分别携带信息能将传输容量提高一倍。目前,偏振分束器和模式转换器通常都是独立的波导结构。若能将它们进行合理地结合,则可以有效提高片上整体集成度。所以,同时具备偏振分束与模式转换功能的集成器件对片上复用传输还是特别需要的,也将助力LNOI平台光子集成技术的快速发展。全文的主要研究内容及创新点归纳如下:一、本文基于LNOI平台设计了一种三波导偏振分束及模式转换器。该器件可以同时实现输入TE0模和TM0模之间的偏振态分离以及从输入TE0模到输出TE1模的模式转换且性能相对较好。仿真结果表明,输入TM0模式时,该器件的消光比为26.15 d B,插入损耗为0.47 d B。输入TE0模式时,TE0模到TE1模的模式转换效率达到99.6%,串扰为-22.82 d B,插入损耗为0.12 d B。此外,通过增加交叉输出波导的宽度,所述器件方案可进一步扩展至其他高阶TE模的输出,具备良好的器件功能可扩展性。二、目前制造出的铌酸锂薄膜波导,其侧壁往往呈倾斜状。为了研究加工工艺所造成的侧壁倾斜对器件性能的影响,本文基于侧壁倾斜的LNOI波导设计了一种DC结构的偏振分束器,并优化了器件性能。该器件在1550 nm的工作波长下,其消光比达到23.15 d B,工作带宽超过70 nm,制造容差约为15 nm。由仿真结果可知,通过对器件的关键参数进行分析和优化,能有效降低侧壁倾斜对器件性能造成的影响。三、在充分考虑铌酸锂薄膜的研究现状及加工工艺的基础上,优化设计了一种波导侧壁倾斜的LNOI偏振分束及模式转换器。仿真结果显示,输入TM0模式时,该器件的消光比为29.91 d B,插入损耗为0.67 d B。输入TE0模式时,TE0模到TE1模的模式转换效率达到97.56%,串扰为-16.22 d B,插入损耗为0.39 d B。如果通过同时保持器件的消光比大于20 d B,串扰小于-13 d B来设置严格的评价标准,器件的带宽约为54 nm。