欠驱动机械系统是一类控制输入变量个数少于系统自由度的非线性系统,具有强非线性和强耦合特性。因为欠驱动部分不能直接控制,所以一般的光滑反馈控制方法对这样的系统是无效的。欠驱动机械系统广泛存在于机器人系统、空间飞行器系统、航海系统、柔性系统以及机车系统中。近年来,由于实际应用的需要,欠驱动机械系统控制问题已经逐渐成为非线性控制领域的研究热点之一。虽然欠驱动机械系统有很多类型,但是Pendubot系统结构复杂,具有较强非线性和耦合性,控制困难,实现其控制对其它欠驱动机械系统控制也具有比较好的借鉴意义。因此本文以Pendubot为研究对象,进行了相关控制算法研究。Pendubot是一个单输入两输出欠驱动平面机器人。与直线摆和旋转摆不同,它具有一些旋转耦合特性。例如,在直线摆和旋转摆系统中,其动力学模型在任意工作点的线性化模型都是相同和可控的。但是Pendubot系统在各个工作点的线性化模型是不同的,并且有些是不可控的。Pendubot控制主要分为起摆控制和平衡控制,其中,起摆控制是Pendubot控制的难点,现在已有的起摆控制算法大多具有以下几个问题：(1)控制器设计未考虑摩擦的影响,因此提出的控制方法需要多次摆动驱动臂;(2)控制器设计基于精确动力学模型,控制算法复杂,而且提出的控制方法只停留于仿真。针对上述问题,本文以Pendubot实际系统为对象,开展了一类欠驱动机械系统的起摆控制方法研究,取得主要成果如下：(1)当Pendubot的控制目标为最高不稳定平衡位置时,为了消除系统摩擦产生的扰动影响,本文设计了神经网络补偿器；为了消除基于能量控制器的奇异性,通过构造适当能量评价函数,给出了基于奇异避免的能量控制器。在此基础上,提出了基于神经网络补偿摩擦的能量控制器,并对闭环系统进行了稳定性和收敛性分析。仿真结果表明,与已有的欠驱动平面机器人的控制器相比,本文提出的控制器使得Pendubot较短时间内一次摆起到控制目标。(2)当Pendubot的控制目标为非平衡位置时,由于重力影响,系统摩擦力特性变得更加复杂,为了消除系统摩擦产生的扰动影响,本文设计了模糊神经网络补偿器。结合基于奇异避免的能量控制器,提出了基于模糊神经网络补偿摩擦的能量控制器,并对闭环系统进行了稳定性和收敛性分析。仿真结果表明,比基于神经网络补偿摩擦的能量控制器具有更好的控制性能。(3)建立了一个三自由度欠驱动平面机器人的动态模型,当控制目标为最高不稳定平衡位置时,本文设计了模糊神经网络摩擦补偿器和基于奇异避免的能量控制器。在此基础上,提出了基于模糊神经网络补偿摩擦的能量控制器,并对闭环系统进行了稳定性和收敛性分析。仿真结果表明,本文所提出的控制器使得三自由度欠驱动平面机器人较短时间内一次摆起到控制目标。(4)采用Pendubot实际系统,开展了所提出控制方法的实验研究。当Pendubot的控制目标为最高不稳定平衡位置时,实验结果表明,与已有的欠驱动平面机器人的控制器相比,本文提出的控制器使得Pendubot具有更高的起摆控制成功率；当Pendubot的控制目标为非平衡位置时,实验结果表明,基于模糊神经网络补偿摩擦的能量控制器比基于神经网络补偿摩擦的能量控制器具有更好的控制性能。