变刚度复合材料结构以其优异的力学性能和可设计性在航空航天中应用广泛,曲纤维变刚度层合结构是利用纤维变角度牵引铺缝技术(VAT,Variable Angle Tow Placement)采用曲纤维单层代替传统的直纤维单层,可以带来更大的设计空间,并可以有效解决传统丢层区或开孔处的应力集中问题。但曲纤维铺设带来更大设计自由度的同时,也使复合材料结构设计参数增加,且设计变量与结构力学响应之间的关系变的更加复杂。为了更好的在工程实际中利用曲纤维层合结构,迫切需要对曲纤维铺设轨迹设计方法进行研究。本文主要针对复合材料开孔板和加筋板的曲纤维轨迹优化设计,开展如下研究:(1)对复合材料开孔板进行基于主应力法的纤维轨迹优化设计研究,并构建纤维铺设轨迹优化设计平台。通过对比优化前后开孔板静力分析结果,验证了曲纤维铺设对解决应力集中现象的有效性,并深入探究其影响机理;为了提升计算效率,基于PCL语言对PATRAN进行二次开发,构建设计平台,实现了主应力轨迹自动迭代生成,并通过两个工程算例,验证了设计平台的实用性。(2)对基于分段函数法的曲纤维层合结构屈曲优化问题的有效性及其参数影响规律进行了研究。屈曲失稳是受压薄壁结构的重要失效形式之一,为深入研究函数轨迹参数和几何参数对结构屈曲性能的影响规律,本文在连续性函数离散化的思想上构建曲纤维层合板和加筋板屈曲优化模型,并对其屈曲性能进行研究,得到了参数影响规律并验证了曲纤维铺设对结构屈曲性能提升的有效性。(3)利用遗传算法对基于函数法建立的曲纤维加筋板屈曲模型进行优化研究。曲纤维加筋板屈曲为典型的非线性多极值问题,利用参数敏度分析较难得到其影响规律。为此提出利用遗传算法对曲纤维加筋板屈曲性能进行优化分析,得到不同筋条间距下的最大屈曲载荷对应的曲纤维铺层方式,并深入研究筋条间距对曲纤维加筋板最大屈曲载荷的影响规律。