连续体结构拓扑优化被公认为结构优化领域最具有挑战性的课题。相较于尺寸优化、形状优化而言，结构动力学拓扑优化可以更好的改善结构的静、动力学性能，并得到造价低、质量轻的高可靠性结构。目前静力学拓扑优化已有了相对成熟的方法，而动力学拓扑优化问题与静力学问题相比，其在模型的建立求解、设计灵敏度分析、数值不稳定的处理上都有更大的难度。同时对于板壳结构来说，由于大多数板壳结构存在工况复杂及材料特殊等问题，动力学拓扑优化较少以板壳结构作为研究对象。因此，对板壳结构动力学拓扑优化的理论方法进行研究具有非常重要的意义和工程应用前景。本文基于ICM(独立、连续、映射)拓扑优化方法，以结构重量为目标，以动力学性能为约束，分别对动力学特性与动力学响应两方面问题进行了研究，并探讨了复合材料、流固耦合等板壳结构动力学拓扑优化问题。本文主要研究内容包括：(1)从ICM方法的基本概念入手，通过引入阶跃函数与磨光函数，阐述了ICM方法“独立”、“连续”的本质特点，并通过对磨光函数与过滤函数的深入探讨，研究了“离散—连续—离散”的映射过程，分析了过滤函数在求解过程中的识别作用。(2)基于ICM方法，建立了频率约束质量最轻的板壳结构拓扑优化模型。分析了频率问题数学特征方程的性质，并以此为依据研究了局部模态等数值不稳定问题的产生原因，提出了改进方案。利用序列近似对优化模型的约束方程进行了显式化处理，并将优化模型的求解分成内外两层，基于对偶理论将内层模型进行了对偶变换，提高了求解效率。(3)研究了流固耦合下的模态分析问题，采用虚拟质量法将流体对固体的受迫振动微分方程转化成了相对简单的模态分析问题，建立了耦合频率约束的拓扑优化模型，并利用求解动力学特性拓扑优化问题的方法进行了优化求解。(4)基于ICM方法构造了新的对数型过滤函数，建立了稳态谐响应激励的拓扑优化模型，并进行了设计灵敏度分析，利用序列近似的方法对优化模型进行了显式化处理，采用对偶二次规划方法求解了优化模型。(5)研究了各向异性材料的动力学拓扑优化问题，将ICM方法中的对各向同性材料的研究拓展到了各向异性材料，并探讨了不同铺层角度的板壳结构动力学拓扑优化问题。另外，在板壳结构拓扑优化中通过引入层合材料，将板壳基结构分为了拓扑优化设计区域与非设计区域，将动力学拓扑优化应用到了受到功能限制的板壳结构中去。(6)在上述优化理论和算法的基础上，以MSC.Nastran软件为有限元求解器，以MSC.Patran软件为开发平台，完成了板壳结构动力学拓扑优化软件的开发。利用PCL（Patran Command Language）语言，在MSC.Patran软件上增加新的菜单和窗口，编写优化程序模块实现数据的交换和优化模型的求解。