随着制造工艺的迅猛发展和结构设计要求的日益提高,具有优良性能的复合材料层合结构已经以单一和耦合的结构形式在航空航天、船舶运输、民用体育等领域得到了广泛的应用。在应用过程中,复合材料层合结构的动力学性能将直接决定在设备整体的安全性和可靠性。从目前对复合材料层合结构动力学性能的建模理论和分析手段来看,往往都是针对常见的经典边界和耦合条件,例如自由、简支和固定边界条件及刚性耦合条件。而在实际工程中,理想的经典边界和刚性耦合条件是很难实现的,取而代之的是任意的边界和耦合条件。因此,全面地掌握复合材料层合结构在任意边界和耦合条件下的动力学性能,并开展此类结构的参数化研究具有重要的理论意义和实用价值。本文围绕建模理论和回传射线矩阵法(MRRM),开展了如下工作:首先,基于宏观力学理论和正交各向异性弹性理论,给出了曲线坐标下三维弹性体的运动学方程和复合材料层合结构的本构方程,并运用Hamilton原理给出推导控制微分方程和协调边界条件的一般步骤,从而在广义的角度上阐述了复合材料层合结构的建模理论。同时,扩展了MRRM的适用范围,将其推广于分析结构在任意边界和耦合条件下的结构动力学性能。并以MRRM总体方程为核心,针对结构的各种动力学性能提出了合适的求解方案。在此基础上,进一步给出任意边界和耦合条件下复合材料层合结构动力学分析的基本流程。其次,在不同的平面假设下建立了任意边界条件下、安置在Pasternak弹性基底上、具有任意敷层的复合材料层合梁类结构动力学性能的统一分析模型,其中,Pasternak弹性基底由Winkler层和剪切层组成。基于在经典梁理论和一阶剪切梁理论下结构控制微分方程的封闭精确解,构造了结构广义位移和广义力的波动解。采用人工虚拟边界技术,在梁两端分别布置两对线性弹簧和一对扭转弹簧,通过改变边界弹簧的刚度值实现了梁的任意边界条件。运用MRRM,得到了结构的固有频率和任意外界激励作用下结构的瞬态响应。通过数值算例,验证了分析模型和求解方法的准确性、可靠性和高效性。同时,针对剪切变形和转动惯量,弹性支撑参数、基底刚度、平面假设、敷层方案、材料属性和几何参数的影响开展了系统的参数化研究。第三,进一步将MRRM扩展应用于任意边界条件下、安置在Pasternak弹性基底上的复合材料层合面板型结构的动力学性能分析。根据面板型结构曲率的特点,在传统壳理论上补充一些假设条件,从而得到经典浅壳理论和一阶剪切浅壳理论。为了将MRRM扩展到了二维结构,采用Lévy型封闭精确解对结构控制微分方程进行降维处理,并得到适用于MRRM列式的波动解。应用人工虚拟边界技术,分别在结构的非简支对边上均匀布置对应广义位移方向的线性弹簧和扭转弹簧,从而对广义边界力进行模拟并实现任意边界条件。通过数值算例,验证了建模理论和分析方法的正确性、可靠性和高效性。此外,针对结构的自由振动特性,分析了不同浅壳理论和基底参数的影响,针对结构的瞬态响应,分析了不同边界参数、敷层序列、材料属性、几何参数和载荷形式的影响。第四,首次提出了一种简化一阶剪切壳理论(S-FSDST),并在此基础上对任意边界和耦合条件下复合材料层合加肋开口圆柱壳进行动力学分析。不同于现有的一阶剪切壳理论,S-FSDST仅包含了四个未知变量,且与经典壳理论存在很多的相似之处,如控制微分方程、边界条件、应变和内力表达式等。因此,S-FSDST又可以看做是进行了剪切变形和转动惯量的修正的加强经典壳理论。在该理论的基础上,扩展的MRRM被用于分析复合材料层合开口圆柱壳的自由振动特性及加肋开口圆柱壳的稳态响应。其中,人工虚拟边界和人工虚拟耦合技术被用于模拟结构的任意边界条件和耦合条件,肋条被考虑成安置在Pasternak弹性基底上的复合材料层合曲梁。通过数值对比研究,验证了S-FSDST在计算精度和效率上要优于现有的壳理论。此外,针对单一和加肋的复合材料层合圆柱壳,分别讨论了边界参数和肋条参数的影响。最后,在上述研究的基础上,进一步分析了任意边界和耦合条件下的复合材料层合耦合板结构动力学性能。以往研究者针对传统材料的耦合板结构进行了不少研究工作,但还未见关于复合材料层合耦合板结构的研究结果发表。本文采用扩展的MRRM,基于经典板理论和简化一阶板理论,研究了此类结构的自由振动特性和功率流传递问题。在结构的边界处,采用人工虚拟边界技术实现了任意边界条件;在子结构耦合边处,根据坐标变换关系将子结构的广义力和广义位移变换到总体坐标中,应用人工虚拟耦合技术,在总体坐标下相应广义位移方向上布置的均匀分布的支撑弹簧和耦合弹簧,通过改变各个弹簧刚度值调节子结构之间的广义力平衡关系和广义位移协调条件,从而实现任意耦合条件。通过对常见的“L”型、“T”型和“口”型耦合板结构的数值计算,证实了本文方法优越的计算性能,同时不受耦合板数目,耦合角度的限制。在此基础上,分别研究了材料参数和耦合参数对功率流及其传递效率的影响。