我国是一个地震频发的国家。已有震害调查表明,特殊地形在地震作用下会受到严重破坏,其地震作用机理被广泛关注。然而,针对某些特定的地形,目前已有的理论方法还不能很好地解释其抗震机理。因此研究特殊地形中地震波的传播,在理论与工程应用方面都具有重要意义。地形对地震波的散射作用,使局部区域的地面运动更加剧烈,从而使地震灾害突显在某些特定区域。地震过程中,波场势之间的相互扰动使得特定地形中地震波的散射问题的难度增大。在3边楔形空间、边坡、内含四边形空洞的半空间中地震波的散射问题中,由于边界的不规则性,很难获得此类问题的解析解。针对以上三个问题,本文进行了研究,主要内容和创新点如下:(1)根据3边楔形空间的几何形状,采用特定的虚拟圆弧将三边楔形空间分解成两个子域,并建立相应的局部与整体坐标系。在局部坐标系中,应用波函数展开法对各子域中的位移场分别进行求解:以2边楔形空间中SH波散射的解答作为外域自由场,虚拟圆弧面振动所产生的向外的散射波场和自由场共同组成外域的位移场;內域位移场的表达形式为含有待定系数的级数。应用Graf加法定理将內域位移场的表达式转换到整体坐标系中,并通过满足圆弧面上的位移连续和应力平衡条件求解待定系数,从而得到3边楔形空间中各子域位移场的解析表达式,并分析不同形状的3边楔形空间的高、低频地面运动响应。(2)针对SH波作用下边坡的地震动响应,本文采用虚拟圆弧和波函数展开法,得到了各子域位移场的级数表达。解函数中的待定系数通过虚拟圆弧上的连续条件求得。采用局部坐标与整体坐标系之间的精确几何关系和Fourier展开实现坐标转换,得到了解答,并分析了不同形状的边坡的地面运动响应。(3)针对含有四边形空洞的半空间中SH波的散射问题,同样采用虚拟圆和波函数展开法对三个子域中的位移场进行分别求解。位移场的级数表达式中的待定系数通过虚拟圆上的连续条件求得。其中,坐标转换通过局部坐标与整体坐标系之间的精确几何关系和Fourier展开实现,待定系数方程组通过最小二乘法求解。由于此模型的灵活性,通过不同的参数取值,四边形空洞可以转化成矩形空洞、不同方向的裂缝等。最后,对特定矩形空洞,竖向以及倾斜裂缝对地震波的散射进行了分析。