结构拓扑优化是结构优化技术中最具有挑战性和创新性的研究领域。作为高层次的结构优化，结构拓扑优化的效率较之截面优化及形状优化高，但求解的难度也比较大。比起结构静力学的拓扑优化，涉及结构动力学拓扑优化的研究相对较少，并且仍存在许多尚未解决的问题。尽管有关连续体结构动力学拓扑优化得到了不少学者的关注，但是大多数的研究对象主要集中于梁、壳和薄板等单一类型结构，而对三维连续体结构的动力拓扑优化研究则更是屈指可数。结构动力学拓扑的改进可以大大改善结构的静、动态性能，更能符合工程实际。因此，对三维连续体结构进行动力学的拓扑优化设计的研究具有非常重要的理论意义和工程应用前景。本文基于隋允康教授提出的ICM（独立、连续、映射）拓扑优化方法，主要研究了以结构重量最小化为目标，以结构的某阶（或多阶）频率为约束的三维连续体结构拓扑优化问题，同时对连续体结构拓扑优化中存在的数值问题如棋盘格现象、局部模态及模态交换问题等进行了处理。本文的主要研究内容包括：(1)从ICM方法的基本概念出发，深入研究了独立拓扑设计变量的内涵，从过滤函数在优化模型中的引入，探讨了过滤函数在模型的建立及求解中的作用。(2)基于ICM方法，建立了频率约束下以结构重量最小化为目标的拓扑优化问题的一般模型，对频率约束进行了显式化处理，通过在优化模型中引入不同的过滤函数（幂函数型和指数函数型过滤函数），将优化模型进行标准化处理，然后利用对偶理论和数学规划法进行了求解，从而形成了统一的建模与求解格式。(3)对于局部模态问题，本文分别对两类过滤函数进行讨论，借鉴了Pedersen等提出的“质量阵与刚度阵的比s保持在20~100之间”的思想，将这一思想运用于上述两种过滤函数的模型中，给出了本文的处理方法。数值算例表明了本文的处理方法的有效性与合理性。(4)对于动力学拓扑优化问题中的另一常见问题——模态交换现象，本文采用了动态约束的方法，数值算例表明了该方法的有效性。(5)根据上述模型和求解策略，构造算法并编制程序，借助PCL语言在MSC.Patran软件平台上进行了二次开发，最终形成了基于MSC.Patran的频率约束的结构轻量化的三维连续体拓扑优化软件集成，一些数值算例表明本文方法的可行性和可靠性。