本文主要研究目标函数是凸函数的非光滑优化问题。在光滑的非线性优化问题中，非单调技术和过滤集技术获得了很大成功。我们把这些技术引入到非光滑优化中，得到了非光滑优化的非单调算法和过滤集算法。我们给出了这些的算法收敛性证明，以及收敛速度分析。分三部分介绍如下：一、非单调近似点捆集方法Grippo等人对非单调线搜索技术做了系统的研究，Facchinei和Lucidi提出了非单调线搜索的捆集算法，我们进一步研究非单调技术在Bundle算法中的应用。我们把非单调技术引入到Schramm和Zowe的算法中，主要是接受成功步的准则改变了。该算法不采用线搜索，而是一种“隐式”的信赖域方法，因此我们的算法与Facchinei和Lucidi的算法是不同的。我们给出了算法的整体收敛性证明。二、非光滑优化的非单调信赖域算法首先，非光滑优化问题min f（x）转化为min F（x），F（x）是f（x）的Moreau-Yosida正则化。用捆集方法得到F（x）的近似梯度，再利用梯度近似值和Hessian近似，构造一个二次规划信赖域子问题。利用截断CG方法解这个子问题，然后利用非单调信赖域策略接受步长。算法中所解的信赖域子问题是Sagara和Fukushima所给出的。我们将非单调技术用于Sagara和Fukushima的信赖域算法，给出了一个非单调的信赖域算法，并且证明了该算法的整体收敛性与超线性收敛性。三、拟牛顿过滤近似点方法研究过滤技术在非光滑优化问题中的应用。利用问题min f（x）与min F（x）的等价性，首先由割平面技术求得x_κ的一个近似的近似点p^α（x_κ），使得v_κ：=μ（x_κ-p^α（x_κ））∈（?）_εκf（p^α（x_κ））。其中ε_κ∈(0，α‖v_κ‖]，α是一常数。然后，在拟牛顿方法中用g^α（x_κ）：=v_κ近似代替g（x_κ），并且用t_κ：=g^α(x_κ+1)-g^α（x_κ）校正B_κ+1。计算h^（κ+1）：=‖v_κ‖和f^（κ+1）：=f（p^α（x_κ）+d_κ），我们用这样定义的数对(h^（κ），f^（κ）)定义过滤集。我们定义的过滤集与无约束光滑优化中的过滤集不同。如果(h^（κ+1），f^（κ+1）)被过滤集接受，那么令x_κ+1=p^α（x_κ）+d_κ，并把(h^（κ+1），f^（κ+1）)加入过滤集。否则，令x_κ+1=p^α（x_κ）。我们证明了算法的总体收敛性以及超线性收敛性。