随着城市的迅速发展及城镇化进程的不断推进，深基坑工程日益增多，基坑周围建筑物更为密集，地下设施错综复杂，影响深基坑支护的不确定因素复杂多样。而且深基坑施工和支护往往以经验和工程类比法为主，尤其对支护方案的优选和支护构件的优化研究的并不深入系统。因此本文采用模糊数学理论对深基坑支护方案进行优选，并运用有限元拓扑方法对支护桩进行优化。本文首先给出了基坑支护结构与土体相互作用关系、土压力的计算以及深基坑支护型式和分析模型，同时详述了每种支护型式的技术参数及适用范围。并确立了深基坑支护方案初选、终选和结构校核以及对支护桩的有限元拓扑优化四个程序。其次，结合模糊数学理论建立了深基坑方案优化模糊评价方法，同时对支护桩进行选型及强度校核，在此基础上，给出了支护桩有限元拓扑优化原理及方法。最后，结合沈阳南华广场深基坑支护工程，对其支护方案运用模糊数学理论，比较分析了桩锚式和内撑式两种支护方案，确立了适合工程条件的桩锚式支护方案进行设计，并用等值梁法进行了稳定性验算。最后对支护桩运用拓扑方法进行了优化分析，得出了在不同优化目标下支护桩合理的拓扑结构，且优化后构件在满足强度的同时提高了材料的利用率。