非线性不等式约束优化问题是最优化领域中重要的研究课题，许多实际问 题都可以归结为非线性不等式约束优化问题。它有很多实际的应用价值。在应 用数学方面，可以应用到约束拟合和优化控制等领域；在物理学方面，可以应 用到光学和流体学等学科;还可以应用到化学、工程学、计算机科学等学科， 由此，可见它的重要性。自二十世纪七十年代后期，序列二次规划(SQP)方法已 成为解非线性最优化问题的一种最常见、最有效的方法。SQP方法具有类似牛 顿方法的快速收敛性，但是当迭代点远离问题的解时有可能会出现不稳定的行 为，而且SQP方法在求解二次子规划时，计算量相当大，有可能出现二次子规 划无解的情况。因此，有必要研究一种新的方法来克服这些问题。 近年来，有不少学者[33，64，80，105，133]研究用线性方程组来代替二次规 划子问题来解非线性不等式约束优化问题和变分不等式的数值解问题，这就是 无二次子规划(QP-free)算法，是把求非线性不等式约束优化问题转换为线性方 程组的求解问题。在每次迭代中，只需解若干个具有相同系数矩阵的线性方程 组，因此避免了序列二次规划(SQP)方法中遇到的问题，而且减少了计算量。 本学位论文通过构造新的无二次子规划(QP-free)算法求解非线性不等式约 束优化问题、变分不等式问题，以及对这类方法进一步的研究，包括对非线性 互补(NCP)函数的及其与算法的收敛性和收敛率的关系研究；构造以牛顿法 和拟牛顿法为核心的新算法，以及对这些算法在”弱”的假设条件下的可行性、 稳定性、全局收敛性和收敛率的分析，不但对解非线性不等式约束优化问题、 变分不等式的数值解问题提供了有效方法，并且可以把这些思想和技巧扩展应 用到其他一些非线性规划的方法，取到更好的成果。研究的内容和方法主要包 括如下几个方面： (1)在[105]H．Qi和L Qi提出了一个可行的QP-free算法解非线性不等式 约束优化问题。在[133]中，Y .Yang，D．Li和L Qi提出另一类QP-free算法， 也可称为序列线性方程组(SSLE)算法解非线性不等式约束优化问题。但在算 法的全局收敛性的证明中，仍需要一些较强的假设条件。一是假设在解处的积 极约束函数的梯度是线性独立的；另一个是假设由拟牛顿方法修正得到的矩 阵Hκ的一致正定性，但是，对于一般的函数f(x)，不能确保矩阵Hκ的一致正定 性。为了克服这些缺点，提出新的可行的无二次子规划(QP-free)算法和新的可 行的序列线性方程组(SSLE)算法解非线性不等式约束优化问题，能够在较弱的 条件下得到新算法的收敛性。新的算法是可执行的，并且不需假定聚点的孤立 性、严格互补条件和积极约束函数的梯度的线性独立性得到全局收敛性。其中 由拟牛顿方法得到的子矩阵不需要假设是一致正定的。并且在一些弱条件下得 到新算法的超线性收敛率。 (2)在[64，105]中的QP-free方法都利用Fischer-Burmeister非线性互补 (NCP)函数求解非线性不等式约束优化问题、变分不等式问题。然 而，Fischer-Burmeister函数是无理的。这使得原来的线性的项通过Fischer- Burmeister函数转化后为非线性的。为了克服Fischer-Burmeister函数的缺点，提 出两个新的非线性互补(NCP)函数：分片、线性有理的非线性互补(NCP) 函数和光滑化的Fisher-Burmeister函数。通过这两个函数构造新的可行的QP- free算法求解非线性不等式约束优化问题、变分不等式问题。结合论文的第一部 分研究方法，新的算法能够在较弱的条件下得到收敛性。这些新的算法都是可 执行的，并且不需假定聚点的孤立性、严格互补条件和积极约束函数的梯度的 线性独立性得到算法的全局收敛性。其中由拟牛顿法修正得到的子矩阵不需假 设是一致正定的。 (3)已有的无二次子规划(QP-free)算法都要求所有的迭代在可行域内部。 然而当接近可行域的边界时，步长会很小，而且要花很多的计算来避免Marators 效应。为了克服这些缺点，提出新的不可行的QP-free算法解非线性不等式约束 优化问题，新的算法分别采用论文的第二部分提出的新的分片、线性有理的 非线性互补函数和光滑化的Fisher-Burmeister函数。新算法中，定义一个价值函 数，这个函数与目标函数、乘自函数和新的非线性互补函数有关。在每步迭 代，使这个价值函数下降。这些新的算法都是可执行的，并且不需假定聚点的 孤立性、严格互补条件和积极约束函数的梯度的线性独立性得到算法的全局收 敛性。并且在一些弱条件下得到算法的超线性收敛率。 (4)在[33]中，F .Facchinei和C．Lazzari对不等式约束SC1函数最小化问题 提出了一个QP-free算法。但是这个算法是局部可行的。结合[133]中的算法 思想，提出了一个新的可行的序列线性方程组(SSLE)的算法解不等式约 束SCl函数最小化问题。不需假定聚点的孤立性和严格互补条件，就能证明算 法产生的迭代点序列全局收敛到SCl函数最小化问题的KKT点。在一些弱的条 件下证明算法的超线性收敛性。 关键词：非线性不等式约束优化问题，变分不等式问题，QP-frre算法，全局收敛性，超线性收敛性