随着科学技术的发展，单一材料结构已经难以满足实际工程应用，尤其在航空航天等工程领域。复合材料层合结构是把两种或两种以上不同性质的材料，通过物理或化学的方法在宏观上组成具有新性能的材料，这种材料表现出更好的力学性能并得到广泛应用，同时对该类材料结构的非线性振动特性分析也得到国内外学者的广泛关注和研究。本论文主要利用约束层阻尼理论和非线性动力学理论对层合梁结构非线性振动特性进行分析，力学模型包括两种：（1）具有热障涂层的层合悬臂梁力学模型。热障涂层是一类高温防护涂层，广泛应用于航空发动机叶片和燃气轮机叶片，目前，单一材料叶片研究较多，但是针对涂层叶片的非线性振动研究相对较少，有必要对其详细研究；（2）移动载荷作用的层合简支梁力学模型。移动结构作用下层合梁力学模型在铁路、桥梁和机械工程中广泛应用，其振动会降低系统的精度、稳定型甚至寿命，因此，移动结构作用下层合梁非线性动力学分析得到广大学者的研究。论文研究内容主要包括以下三个部分：（1）将具有热障涂层材料的叶片简化为三层层合梁模型，基于复特征值法研究涂层梁的阻尼特性，利用RKU模型得到涂层梁的损耗因子，分析厚度、厚度比及弹性模量等对损耗因子的影响。（2）把具有热障涂层材料的叶片简化为三层悬臂层合梁模型，考虑基体剪切变形、几何非线性因素和一阶活塞气动力作用，基于层合梁理论，利用Hamilton原理建立涂层悬臂梁的非线性动力学方程，利用Galerkin方法进行离散得到系统常微分方程，利用多尺度法进行摄动分析，分析气动力对涂层叶片非线性动力学响应的影响。（3）利用Hamilton原理建立单一材料单层简支梁和双层铺设复合材料简支梁在移动载荷作用下的非线性动力学运动方程，利用Galerkin方法进行离散得到系统的常微分方程，分析了两种力学模型的移动载荷临界速度，并对两种梁模型的减振特性进行对比分析。