近年来,由于小型模块化反应堆具有厂址要求低、应用灵活、核安全风险低等优点,使得其设计建造成为国家核设施发展的一个重要方向,其发展逐渐成为国内外研究热点。在核工程设计中,尤其是对于船舰堆、空间堆等这类小型堆而言,屏蔽结构的设计优化是其重要组成部分,也是保证反应堆经济性与安全性的关键环节。但由于核装置的复杂性和屏蔽设计目标的多样化,在减少人因等不确定因素影响的前提下,实现一种针对小型反应堆辐射屏蔽设计的智能优化方法是十分必要的。本文首先利用平板屏蔽模型验证了基于神经网络和遗传算法的辐射屏蔽设计智能优化方法的可行性,优化结果表明该方法在解决双目标优化问题时效果较好,但针对优化目标之间具有一定相关性的三目标优化问题时,优化结果陷入了局部最优。因此,针对上述当优化目标之间存在相互冗余而导致优化结果不理想的问题,提出了一种基于神经网络、主成分分析和遗传算法的辐射屏蔽设计智能优化方法,该方法在优化过程中能够将高维的优化目标映射到若干个彼此之间互不相关的较低维的综合成分上,从而减少优化目标之间的冗余性对优化结果的影响。另外,在等比例构建了萨瓦纳船用核动力堆辐射屏蔽计算模型的前提下,针对不同的优化问题,分别利用上述两种不同的辐射屏蔽设计优化方法对模型不同部位的屏蔽层厚度参数进行优化计算,均得到了在空间中分布均匀的最优解,验证了两种优化方法在实际工程中的可行性。最后,由于反应堆内部屏蔽结构具有一定的复杂性,在考虑反应堆内部孔道等不规则形状屏蔽结构的前提下,建立了某小型反应堆辐射屏蔽计算模型,针对该计算模型的厚度、材料种类与排序以及经屏蔽后外表面的中子通量等屏蔽参数,实现了三维屏蔽结构的神经网络预测模型的建立。在建立预测模型的基础上,利用辐射屏蔽设计智能优化方法针对不同的优化问题完成优化计算,最终得到了在空间中分布均匀的优化解。本文研究内容给出了两种实际工程应用上的小型反应堆辐射屏蔽模型优化结果,能够给反应堆屏蔽结构设计人员提供部分理论支撑,对小型反应堆的实际工程设计具有重要的意义。