非线性优化问题在科学计算、工程应用以及经济等诸多领域随处可见。非线性优化问题可以分为:非线性优化控制问题和非线性规划问题。非线性优化控制是指对非线性动态系统进行控制并使得相应性能指标最小;非线性规划是指在约束条件内寻找一个静态非线性函数的最优值。本文研究基于神经网络的两种动态优化方法:神经动态规划方法以及神经动态优化方法。本文针对非线性系统优化控制问题研究了改进的神经动态规划(neural dynamic programming,NDP)算法以及事件触发自适应优化控制结构;针对非线性规划问题,考虑了目标函数非凸和不可微的情况,研究了相应的神经动态优化方法。本文主要内容如下:1.提出了一种改进的NDP算法来求解部分未知非线性仿射系统的近似优化控制,并且能克服系统未知参数缓慢变化的困难。首先,阐明了经典最优控制理论中最优控制与性能指标的关系。然后,通过单层神经网络模型来逼近性能指标函数。随后,利用NDP方法动态求解该最优控制问题的近似解。在前人的基础上,提出移动数据窗递推最小二乘法,用于进一步改进NDP算法,克服了计算困难和系统部分未知的问题。此外,以Van der Pol振荡器为例,设计了振荡器的初始控制策略,仿真结果表明在系统参数部分未知情况下所提出的改进NDP算法控制效果好,并且能够克服参数缓慢变化的问题。2.针对一类连续时间非线性仿射系统,提出了一种基于有限信道速率编码机制的事件触发自适应最优控制方法。与常规事件触发控制相比,所提出的触发控制结构既减少了控制次数,又减少了状态测量次数。同时,证明了所采用的编码机制可以在有限的信道传输速率下获得更高的量化精度,并进一步研究了相关的控制算法和触发条件。所提出的方法首先利用神经网络对性能指标函数进行逼近,然后求解出与近似性能指标函数相对应的近似最优控制策略,并证明了闭环系统是渐近稳定的。最后,通过两个仿真实例验证了所提出控制算法的有效性。3.针对一类不等式约束下非凸规划问题,提出了一种量子行为神经动态优化(quantum-behaved neurodynamic swarm optimization,QNSO)算法。首先,研究了非线性不等式约束非凸规划问题,提出求解该类非凸规划问题的高性能递归神经网络,证明该神经网络可以收敛到规划问题的局部最优点。然后,结合量子粒子群优化算法,设计了一种量子行为神经动态优化算法。最后,通过数值例子和应用实例,对QNSO算法的性能进行了评估,验证了所提出方法的优越性和实用性。4.提出了一种新型投影神经网络来求解一类不可微伪凸规划问题。首先,引入平滑函数的概念设计了一种新型投影神经网络,给出了该神经网络的模块原理图,并证明了该投影神经网络状态的有界性。其次,通过分析证明了所提出的投影神经网络能最终收敛到约束条件下伪凸目标函数的最优解。最后,通过两个数值仿真验证了所提投影神经网络的有效性。