蛋白质折叠成特有的空间结构后,行使各种各样的生物活性,对其折叠结构进行研究,是生物信息学的关键问题之一。基于蛋白质天然构象处于其能量最低态的热力学假说,研究者们正采用从头预测法从氨基酸残基序列直接预测其空间结构,遇到了两大难点:其一,需要一个能区分蛋白质天然态和非天然态的势能函数;其二,需要一个有效的全局优化方法,搜索其最低自由能状态。本文将能反映蛋白质真实特性的三维AB非格模型作为简化模型,结合遗传算法和禁忌算法,形成了一种新的混合优化方法——遗传禁忌算法,并提出了五个改进策略:染色体编码、可变群体规模、排序选择、变异算子TSM和交叉算子TSR,用以增强算法的全局优化能力和局部搜索力度。本文将遗传禁忌算法应用于两类数据的三维折叠结构预测:被广泛使用的4条斐波纳契序列和从PDB获取的9条真实蛋白质序列,均能在保持较高精度的情况下,快速搜索到最低自由能和最低能量构象。实验结果表明,本文搜索到的最低能量值都优于同类其它算法得到的值,且随着序列长度的增加,遗传禁忌算法对解的改善程度越高,此外,本文的最低能量构象均形成了紧凑的疏水核,亲水残基包围在外面,与蛋白质的真实特征保持一致。这些都说明遗传禁忌算法为蛋白质三维折叠结构预测提供了一个有效的高性能的全局搜索方法。