具有亚波长光栅结构的衍射光学元件一直以来都是二元光学领域的一个研究热点。特别是波导型光栅结构的导模共振现象被提出及广泛关注以后，这类光学元件就越发受到各国研究人员的青睐。利用导模共振效应，可以设计出性能优越的光学滤波器、偏振分离器及转化元件等等，从而促进光通信及相关光学领域的快速发展。 本论文首先介绍了严格的矢量衍射理论—傅立叶模方法，然后深入分析了亚波长波导型光栅结构的导模共振异常现象。利用共振特性，结合薄膜抗反射条件，设计了旁带抑制的窄带反射型滤波器；另一方面，利用共振特性，结合传统的高反射结构—高低折射率膜系，设计了旁带高反射的窄带透过型滤波器，并分别对这两种滤波器的特性作了详细的讨论。根据光通信领域对具有非偏振敏感的滤波器的要求，提出三角形面形的光栅结构，通过理论计算可知，该结构在某些参数条件下表现出对入射光偏振态的不敏感性，从而能够同时实现对TE和TM偏振光的高反射。宽带滤波器也是一类应用很广的光学元件，通过结合多层膜系，提出光栅多层结构，在亚波长光栅的导模共振效应与多层膜结构的干涉效应的共同作用下，实现了在较宽波段上的反射型滤波器；同时，运用衍射光学元件的优化设计方法并结合光栅矢量理论，设计了单层光栅结构的宽带反射型滤波器。由于光子晶体是亚波长量级的周期性结构，因此可以用分析周期性光栅结构的矢量衍射理论来分析光子晶体。根据二维光子晶体的结构特点，提出光栅层模型，使二维结构退化为一维结构，从而大大简化了计算过程，提高了计算速度，并编制了计算程序，详细讨论了几类二维光子晶体的禁带特征。此外，采用特征矩阵方法分析了一维光子晶体的禁带结构。 本论文的工作为亚波长光栅结构的衍射光学元件在光通信领域及相关光学领域的应用发展提供了必要的理论基础和技术储备。