作为探索复杂系统的重要研究方向,对混杂系统的研究成为系统控制研究领域的一个热点问题。本文主要研究了混杂系统的最优控制问题。对一些重要的混杂系统模型:切换系统、脉冲系统和脉冲切换系统,研究了其最优控制问题在连续运行过程和系统跳变时刻所满足的最优性条件。下面将主要内容和结果从以下几方面进行概括。对于一类目标函数非光滑的切换系统的最优控制问题,研究了最优解所满足的必要条件。通过引进一个新的时间变量,将原切换系统的最优控制问题转化为古典动态系统的最优控制问题。再利用古典动态系统的最优控制理论和广义微分的知识,得到了该切换控制问题的非光滑最优性条件。最后,给出例子说明了方法的有效性。讨论了一类脉冲依赖于状态的混杂系统的最优控制问题。不同于传统的变分方法,将跳跃时刻转化为一个新的待定参数,得到了该脉冲控制问题最优解的必要条件。所得结果将原最优控制问题转化为一边界值问题,后者可由解析方法或数值方法解决。此外,利用非光滑分析中的最优性理论,将该必要最优性条件推广到广义微分形式。两个实例验证了方法的有效性。研究了一类脉冲切换时刻不固定的混杂系统的最优控制问题。在该最优控制问题中,考虑了含有状态和控制的混合约束。通过将以脉冲切换时刻为端点的可变区间转化为新的状态变量,得到了该脉冲切换最优控制问题最优解的必要条件和充分条件。并根据约束函数满足的条件,对充分性条件中的Legendre-Clebsch条件和Riccati矩阵方程进行了简化,并将该结果应用到企业产值增长模型。对于一类脉冲切换时刻依赖于状态的脉冲切换系统,考虑了其目标函数中含有切换费用的最优控制问题。根据切换函数的特点,将原状态依赖的最优控制问题转化为可变区间上的混杂最优控制问题,得到了该最优控制问题的最优性条件,讨论了最优性条件中Lagrange乘子的正则性。所得结果推广了已有文献的结论。