结构拓扑优化是一种系统的结构设计方法,其通过结构分析与优化算法寻求一定约束下材料的分布使得结构的某项或者多项性能最优,广泛应用于航空航天、汽车工业、材料工程、土木建筑等工程领域。其缩短了传统试错式设计的周期,降低了对设计人员经验的依赖,为很多复杂结构的创新性设计提供了工具。结构动力学性能设计是目前结构设计的一个重要方面,设计结构动力学特性可以规避振动带来的危害,同时也能优化基于振动原理工作的结构的性能。本论文详细地研究了结构动力学特性拓扑优化的相关理论,并且将拓扑优化应用到原子力显微镜微探针的结构设计中,主要研究内容和成果如下:1)基于水平集法,解决了结构特征频率最大化中的局部模态问题。对特征频率优化问题进行了描述,分析了传统基于变密度的拓扑优化在处理特征频率问题时遇到的人工局部模态现象。针对这一问题,在水平集法的框架下提出了基于严格0-1描述的有限元分析,彻底避免了由于弱材料而引入的局部模态。同时,针对另一类由于拓扑剧烈变化导致的局部模态,提出了基于未振动区域体积比的模态识别准则。2)研究了结构边界扰动下的特征频率鲁棒优化问题。传统确定性优化的结构在遭受边界扰动时会导致性能显著的损失,甚至造成结构失效。为此,在水平集法的框架下结合一阶形状导数和优化条件对边界确定性拓扑优化进行了分析,提出在优化中每一步迭代引入边界内扰动的结构鲁棒优化问题。优化目标为扰动后结构的频率,设计变量为未扰动的结构边界,并给出了将扰动边界上的敏度映射到未扰动边界的方案。3)将拓扑优化用于轻敲模式原子力显微镜微探针的结构设计。轻敲模式原子力显微镜在形貌测量时,其测量性能取决于微探针的动力学特性。为改善其扫描速率与灵敏度,需要提高微探针的共振频率,同时调节其对应的模态振型使自由端具有更大的反射斜率。为此我们建立了一个多目标优化问题,给出探针几何模型与力学模型,推导了特征参数关于设计变量的敏度并基于梯度算法求解。在此基础上探究了多频率原子力显微镜的工作原理。探针周期性的轻敲样品表面产生非线性力,力作用于探针产生谐波响应,通过观测高次谐波响应可进行材料性质表征。为了增强探针高次谐波响应的信号,通过优化探针结构使得高次谐波频率等于其高阶共振频率。并结合探针的一阶模态设计需求,给出了多目标优化方案。