最优化理论与方法是一门应用性很强的学科，它研究如何从某些实际问题的众多可行方案中找出最优解。最优化技术在金融、贸易、管理、科学研究等国民经济的许多领域中有着广泛的应用。 线性搜索方法和信赖域方法是保证最优化问题的整体收敛性的两种基本策略。现代信赖域方法的基本思想是在当前迭代点的某个邻域(称为信赖域)内极小化目标函数的一个合适的二次模型，并反复校正信赖域半径，得到可接受方向步。对于仅带有线性不等式的约束优化问题，Coleman和Li在[4]提出了“双信赖域方法”，巧妙地构造了一个仿射变换矩阵，以及合理的近似二次函数和信赖域子问题，克服了不等式约束带来的困难。对于无约束优化问题，Nocedal和Yuan在[12]中提出了信赖域和线搜索相结合的方法-回代法，朱德通在[17]中将最优路径和修正梯度路径与非单调信赖域方法相结合，张建中和徐成贤在[16]中提出了一系列不定曲线路径。 在这些思想的启示下，本文构建了相应的仿射变换矩阵，并在dogleg路径的基础上引进特征值校正因子和负曲率方向，着重解决Hesse阵不定的情况。当dogleg迭代方向不满足可接受准则时，利用线搜索技术和内点回代技术，得到新的使函数值充分下降的迭代点。此不定dogleg算法计算量小，速度快，避免了反复求解信赖域子问题带来的较大的计算量。在合理的假设下，此算法具有整体收敛性和局部超线性收敛速率。数值结果表明了算法是有效的和切实可行的。