随着光纤通信领域中波分复用技术的飞速发展，对各种高性能的分离光学元件和集成光学元件的市场需求，使得集成光学和光波导理论成为了该技术领域的热点研究课题。在这一领域中，存在着理论分析和数值计算两大类解决问题的方法。当人们试图通过理论分析的方法解决问题得不到理想结果的情况下，就采用数值模拟的方法来获得问题的求解。数值方法的基础是理论分析，而且数值分析只能给出特定条件下的结果，其结果具有评价性能参考意义，不能从根本上提供解决或者优化问题的方法。因此理论分析方法尤为重要。但是当前的理论分析方法并不完善，存在一些问题。本文主要针对目前光波导模式理论中不太被涉及到的模式完备性理论做了论述，并在解决实际问题方面做了一些探究。 本文首先从泛函分析的方法出发，研究了矢量偏微分算子本征函数系的性质，得到了矢量偏微分算子正交完备归一化本征函数的存在证明，研究了Maxwell方程组的情况，证明了电磁场在均匀和非均匀介质条件下的正交本征函数系的完备性质。接着推导了阶跃折射率平面介质波导和圆光纤的正交模式——包括束缚模式和辐射模式。由于从一个空间到另外一个空间的光束传播伴随着界面上各个模式能量之间的耦合，作为应用，本文介绍了完备性在三个情况下的应用：平面波导出射光束的衍射性质、波导的横向和纵向耦合以及标量光栅的测试。其中平面波导的出射光束衍射性质是光从波导模式到自由空间谐波耦合，波导的横向耦合和纵向耦合是从一种波导的模式耦合到另外一种波导模式的耦合，标量光栅可看作从一个谐波空间到另外一个谐波空间的耦合。 最后作为验证的实验，本文完成了波导—光纤耦合的第一部分准备工作：V型槽的制作。本实验为波导—光纤耦合提供了对准的条件，为进一步实验做好了准备。