集成电路(IC)由于量子尺寸和功耗问题越来越无法满足现代社会对高速数据处理和信息传输的要求。人们越来越关注到光子作为信息载体时的独特优势,希望可以利用光子延续摩尔定律的发展。在这样的时代背景下,硅基光子学得到了广泛的研究。而对硅基光子系统性能的提升成为了重要的课题。除了利用基于传统理论的设计和优化方法外,将其他领域的理论向光学领域和硅基光子系统进行推广以及结合近些年发展迅速的人工智能和逆向设计等新的技术手段都将为提升硅基光子系统的性能提供新的动力。本论文主要研究了提升硅基光子系统性能的新方法,主要创新点如下。引入了时空对称理论,提出了在自发PT对称性破缺的双模波导中,损耗介质对模式耦合损耗具有额外的增强作用。通过在双模SOI波导上设计有效折射率实部和虚部的微扰分布,构建了处于厄米相、破缺的PT对称相和纯吸收相的三种器件。通过数值计算和实验有效地验证了当系统处于破缺的PT对称相时,相比于纯吸收相将具有更高的对目标输出模式能量的损耗。在该方案中,损耗介质在常规的光吸收作用以外,还引入了从厄米相到破缺的PT对称相的相变,而后者强烈地阻止从输入模式到输出模式的能量耦合,可以有效地增强模式耦合损耗。实验结果显示,模式耦合损耗增强因子可以达到17dB,且具有较高的带宽。通过时空对称理论增强硅基SOI波导内模式耦合损耗的方案,可以为吸收型光强度调制器或光开光提供一种新型的设计思路,使得对于电控损耗介质的利用更加高效,提高调制深度或消光比。引入了人工神经网络算法,提出了使用卷积神经网络分析多模波导内模式能量分布的方案。该方案不依靠以往常用的空间模式排序技术,降低了器件层面的复杂度,并将此负担转移到了数据处理层面。针对片上常见的薄SOI多模波导和SOI重多模波导,分别设计了专用的卷积神经网络和普适的二维卷积神经网络,从而利用预处理后的远场光强图像预测模式能量分布。这些训练好的卷积神经网络的性能经验证能够达到较高水准。在SOI重多模波导中,该性能也没有下降。此外,训练好的卷积神经网络经验证对噪声具有较高的鲁棒性。这种利用卷积神经网络分析多模波导中的模式能量分布的新方法对于空分复用和结构光领域具有较高的潜在应用,并且可以拓展到多模光纤体系。引入了逆向设计理念,提出了利用粒子群优化(PSO)算法设计超小尺寸高性能的硅基模式转换器的方案。该方案将模式转换器耦合区域的单侧宽度变化和总长度参数化,并给予它们合理的取值范围形成解空间。以FDTD计算出的TE00模的平均前向透射率为适合度函数,不断更新在解空间搜索的粒子的速度和位置,从而逐渐逼近全局最优解。根据上述逆向设计的理念,得到了模式转换器的全局最优参数(或接近最优)并对其尺寸、插损、背向散射、模式转换率、模式纯度和加工误差容忍度等多个性能指标进行了分析。通过和前人结果进行比较,该模式转换器表现优异。