结构的形状和拓扑优化设计是随着计算机软、硬件的发展,利用数学和力学理论寻找工程问题中某个目标最优的过程。根据问题复杂度的不同,结构优化可分为三个层次:尺寸优化、形状优化和拓扑优化。其中,尺寸优化是最简单的,其研究工作已经基本成熟。在形状优化中,结构的边界形状可以变化,然而,结构的拓扑是固定的。与尺寸优化和形状优化相比,拓扑优化在设计前没有任何关于结构的几何形状与拓扑信息。因此,拓扑优化在结构优化设计中最难、最具有挑战性。目前结构拓扑优化设计理论存在的主要问题包括结构形状和拓扑控制方法尚未成熟,难以实现对求解过程中的形状和拓扑进行描述和控制。目前采用的依赖不同坐标系下单元映射方法来控制边界形状,不可能在形状和拓扑设计方面产生质的飞跃。它只能改变现有结构的几何形状,而不能对结构进行自然的几何拓扑优化。其次,目前结构拓扑优化的对象主要由单一的均质材料构成,随着对结构综合性能要求的提高,由多种不同特性的材料组成的多功能材料,在工程实际中具有日益广泛的应用前景。因此,如何优化结构的形状拓扑关系,将不同性能和功能的材料配置在一起,以达到设计所要求的性能的研究工作就变得日益紧迫。针对上述结构拓扑优化领域中存在的问题,开展了深入的探索和研究,提出基于水平集的散热结构与弹性结构拓扑优化设计及其改进算法,通过数值仿真验证算法的可行性与有效性,主要的研究工作及创新性成果总结如下:一、介绍了基于水平集方法的动态界面处理技术、分析了水平集方法计算和分析动态界面的优点。然后,研究了基于水平集方法的优化原理——变分水平集方法。针对以物理域的形状为变量的能量泛函变分的计算,给出了形状灵敏度分析的两个重要形状导数引理。最后,论述了利用边界推进技术与形状导数理论进行拓扑优化的基本过程。二、研究基于水平集的隐式描述材料边界方法,以温度梯度范数平方的积分为目标函数,利用形状导数理论和伴随变量方法进行形状灵敏度分析,构造基于水平集的最优化条件。针对拓扑优化结果对初始拓扑猜测依赖性问题,引入以椭圆型偏微分方程为约束的拓扑导数理论,在一定程度上抑制了初始拓扑猜测的依赖性。通过与SIMP方法的数值算例比较,证明方法的可行性与正确性。三、对于弹性结构拓扑优化问题,提出根据Von Mises应力分布情况进行开孔的策略,弥补了水平集方法本身不能开孔的缺陷。提出基于极限窄带单元推进的结构拓扑优化方法,在保持优化过程中自然处理拓扑变化优点的同时,不用求解Hamilton-Jacobi系统的偏微分方程实现隐式边界推进,避免了求解重新初始化、速度扩展偏微分方程与考虑重新初始化频率的问题,提高了拓扑优化过程的计算效率和收敛速度。四、研究了矢量水平集在多材料设计中的应用,构造了基于水平集的多材料散热结构拓扑优化设计的模型,推导使目标函数下降的速度场,通过求解多个水平集方程实现多材料散热结构拓扑优化设计。对于弹性结构拓扑优化设计,根据各材料Von Mises应力分布情况,制定各材料替换策略,产生新的拓扑,然后综合利用基于水平集的形状优化理论实现弹性结构的多材料拓扑优化设计,从而抑制多材料的弹性结构拓扑优化设计对初始拓扑猜测的依赖性。五、针对工程实际中的三维空间问题,研究了基于SIMP方法三维结构拓扑优化的密度惩罚项和滤波半径对最终拓扑优化结果的影响及其合理的取值范围。通过与基于水平集方法的三维弹性结构拓扑优化结果比较,得出基于水平集的三维结构拓扑优化设计不存在初始拓扑猜测依赖性问题。