由于实际被控对象或过程的非线性特性普遍存在，会造成控制的不稳定，鲁棒性较差，进一步将会影响整个工业生产。因此，研究非线性系统的控制方法具有重要的理论意义和迫切的实际需要。本文首先介绍了非线性系统的相关问题和当前的主要研究现状，描述了国内外对非线性系统控制器设计的一些先进方法，并引入了向量迭代逐次逼近法来解决非线性系统最优控制所面临的两点边值问题。　　 随后讨论了一类特殊的非线性时滞系统，即时滞双线性系统，在二次型性能指标下的最优输出跟踪问题。根据极大值原理的必要条件，将时滞非线性系统化为两点边值问题。通过向量迭代逐次逼近法，将该问题转化成为一族解耦的线性非齐次两点边值问题序列，从而通过求解该问题序列得到了系统的次优控制律。并同时证明了该线性两点边值问题的解序列一致收敛于原最优输出跟踪问题的解。　　 紧接着针对一类非线性时滞系统，深入地研究了其最优控制问题，同时考虑了系统在受到持续外部扰动情况下，如何进行扰动抑制的问题，给出了一种扰动抑制算法以及系统控制律的存在唯一性条件及其近似设计方法，并解决了其物理可实现问题。　　 最后，文章解决了目前所出现的状态时滞和控制时滞最优控制问题。通过运用状态转移矩阵变换，将原系统变换成为了只含有状态时滞系统，引入向量逐次迭代逼近法，求得系统最优控制律。　　 文章给出了大量的仿真实验结果，可以验证这种方法对解决这类时滞非线性问题的有效性，从而扩大了这种方法的应用范围，并在文章的结论与展望中给出了以后的研究方向。