近年来,基于回音壁模式(WGM)的光学微腔引起了众多学者的研究兴趣。从光线理论的角度理解,WGM模式是指介质微腔中光场在满足表面全反射条件下围绕腔内壁形成的闭合稳定传播模式。正是由于光学微腔的这种模式,它可以把光能量限制在很小的空间内,因此腔中的能量密度极大。由于此类模式的微腔有极高的品质因子和极低的模式体积以及相对简单的制作过程,所以它在要求极细线宽、极高能量密度和极细微探测能力的场合中得到重要应用,比如在非线性光学和腔量子电动力学以及传感器和极低阈值激光器方面都有很广泛的应用。本论文从实验上制备了介质微球腔,理论上研究了表面等离子体微腔和波导。具体研究内容主要包括以下几方面：首先,本文详细介绍了近年来微腔的发展、应用以及微腔中的回音壁模式,并给出回音壁模式的本征模式方程及基本参数。其次,从实验上用CO2激光器作为加热光源用熔融法制备了二氧化硅微球腔。制备直径在20-120μm的微球腔,并拉制了直径在微米量级的光纤锥,用近场耦合的方式测量微球的品质因子。再次,从理论上研究了表面等离子体回音壁微腔,主要内容包括：◆提出了一种混合表面等离子体微腔,可以将传统微腔的模式体积降低两个数量级,并保持较高的品质因子(1000)；这种微腔还可以提高腔外的能量比,将微腔中的模式能量最大值从腔内转移到微腔的表面,进而这种微腔对腔外介质的折射率比较敏感,经计算,可以获得700nm/RIU的灵敏度,并且有很宽的探测范围。◆研究了一种楔形混合等离子体微腔,利用金属楔的极强光场束缚能力,可以使混合模式的体积在1μm3以下,并利用“介质负载”的方式使混合模式的Q值在400左右,因此此种微腔具有很高的Purcell因子,提高了原子的自发辐射。◆采用有限元法对表面等离子体激元的金属覆盖介质微盘谐振腔进行理论模拟。考虑微盘底半径、介质层厚度及金属膜厚度等参数对微盘表面等离子体模的品质因子及模体积的影响进行理论研究,最终在通讯波段1550nm附近获得高品质因子(1000以上),极低模式体积的表面等离子体微盘。最后,作为研究表面等离子体微腔以外延伸的内容,我们研究了表面等离子波导,具体内容包括：◆研究了一种新型的基于金属脊和半导体纳米线的混合表面等离子波导,可以获得λ2/1600的强模式束缚,并计算了金属脊的几何参数对于混合表面等离子波导的模式特性的影响变化。