非线性优化是最优化理论及其应用的主要研究领域之一，它在金融投资，生态保护，项目评估等领域都有着广泛的应用.对这一问题的研究涉及到凸分析，非线性分析等多门学科.因此，对它进行研究有重要的理论意义和实用价值.最优性条件是建立优化算法的重要基础，它与对偶性是最优化理论的两个重要组成部分，研究非线性优化的最优性和对偶性一直是最优化的研究热点之一.本文旨在不同广义凸性条件下对几类非线性优化问题的最优性和对偶性展开研究，所得结果改进，推广和统一了许多作者的最新研究成果.本文主要工作如下：1.研究了一类带不等式和等式约束的E-凸多目标优化问题.首先，在E-凸条件下，给出了该问题的一个最优性充分条件.然后，建立了该问题的一个Wolfe对偶模型，得到了弱对偶，强对偶和逆对偶定理.而且，通过实例说明，所得结果在平凡情形下均成立.2.首先，介绍了局部星形E-不变凸集的概念，讨论了它的一些基本性质.以此为基础，引入了半局部E-预不变凸及相关函数的概念，举例说明了这类函数不仅存在，而且是已知的一些广义凸函数的真推广，接着也研究了它们的一些重要性质.然后，在半局部E-预不变凸性条件下，分别研究了三类非线性优化问题:(1)建立了一类无约束的非线性优化问题的最优性充要条件.(2)获得了一类带不等式约束的非线性优化问题的几个最优性条件，并建立了该问题的Mond-Weir型对偶定理.(3)得到了一类非线性多目标分式规划问题的几个最优性充分条件，根据Bector等人的方法，建立了该问题的一个对偶模型，并获得了几个对偶结果.3.研究了一类带锥约束的非光滑向量优化问题.首先，利用Clarke广义梯度，介绍了几个广义锥不变凸函数.然后，结合例子讨论了它们的关系，推广了一些已知的广义凸函数.最后，在这些锥不变凸性条件下，建立了该类问题的几个最优性充分条件和Mond-Weir型对偶结果.4.研究了一类带不等式约束的不可微多目标规划问题.首先，利用dI不变凸性，提出了一类广义dI-V-I型一致不变凸函数的概念，并在此一致不变凸性条件下，获得了该类问题的几个最优性充分条件.最后，建立了该类问题的一个Mond-Weir对偶模型，并证明了弱对偶，逆对偶和严格对偶定理.5.研究了一类极大极小分式规划问题.首先，通过引入一类二阶广义(F, α, ρ, θ)-d-V-I型一致不变凸函数，建立了该问题的一个二阶对偶模型.然后，在此二阶广义I型一致不变凸性条件下，利用函数的次线性，获得了弱对偶，强对偶和严格逆对偶定理.