针对HHT(Hilbert-Huang transfrom)的端点效应问题,提出基于最大Lyapunov指数预测模型的HHT边界延拓方法。该方法通过相空间重构,并利用时间序列相似点的演化行为,采用最大Lyapunov指数预测模型来对时间序列的端点进行预测,有效避免了不同边界条件的三次样条插值和Hilbert变换频谱泄露对HHT分析结果产生的影响。在此基础上,为了评价所提方法的有效性,提出了IMF分量归一化相关系数和IMF分量信噪比的性能评价指标,通过与标准HHT、镜像延拓HHT的仿真对比分析,结果表明所提方法抑制端点效应的性能优于二者。最后将其应用在转子油膜涡动故障试验分析中,结果表明基于最大Lyapunov指数边界延拓的HHT分析结果比镜像延拓后的分析结果更能够准确地描述油膜涡动故障特征。