结构设计过程通常是在方案比较基础上确定结构布局(拓扑形式)后，详细设计零部件的尺寸和形状。形状和尺寸优化通过设计部件尺寸和边界形状实现在一定结构布局下的性能优化。结构布局决定了力、热等的传输路径以及运动方式，布局对结构性能的影响更重要。拓扑优化通过设计材料在一定区域内的合理布置，在设计结构形状和尺寸的同时设计结构的布局，能够获得比形状和尺寸优化更大的优化效益，因而成为优化研究者和工程师广泛关注的问题。由于拓扑描述以及问题求解等方面的困难，拓扑优化也成为优化研究的挑战性课题。目前的研究主要针对结构刚度、自振频率等性能优化问题，建立了基于微结构的拓扑描述方法(包括均匀化化方法、SIMP方法等)以及边界移动方法(几何方法)(包括泡泡法，拓扑导数方法等)。新发展的水平集方法也属于边界移动方法。应用或建立了数学规划法、遗传算法、进化算法等拓扑优化问题的求解技术。 常规的拓扑优化是在给定设计区域内通过设计材料的分布获得结构的拓扑形式，而设计区域的尺寸和形状对结构的拓扑有重要影响。本文研究了结构拓扑与设计域尺寸协同设计问题，提出了基于平均柔顺性密度的拓扑优化方法。建立了以最小平均柔顺性密度为目标的同时设计结构拓扑形式描述参数和设计域尺寸的拓扑优化问题的数学提法和求解方法。针对狭长结构这一常规拓扑优化方法难以求解的问题，提出了最优基本结构组装的拓扑优化思想。并采用所建立的方法，同时设计材料分布和设计域的尺寸(长宽比)，获得了平均柔顺性密度最小的基本结构的拓扑形式，成功地求解了狭长悬臂梁拓扑优化设计问题。 水平集优化方法具有描述结构拓扑形式和边界演化能力强的特点，因此，基于水平集的拓扑优化具有很大的发展潜力。但是，常规的水平集方法是通过边界的演化、移动和融合实现结构拓扑的变更，获得最优拓扑，因而不能在优化过程中产生新孔。为了包含尽可能多的拓扑形式，初始设计需要包含足够多的孔。这导致最优拓扑严重依赖初始设计。本文分析了产生这些弱点的原因，揭示出初始设计构型应包含足够数量的孔，并且孔应合理布置才能获得理想的拓扑形式；提出了水平集方法同进化算法相结合的改进的拓扑优化方法，成功地克服了拓扑优化结果对初始设计的依赖性问题，提高了计算效率。该方法基于水平集方法实现边界演化，演化过程中采用进化算法中删除内部低应力区材料的策略生成新孔，消除了水平集方法不能生成孔的缺点，克服了常规水平集方法的拓扑形式对初始设计构型的依赖。