近年来,随着工业、航空航天等领域的快速发展,人类社会正面临一些极具挑战性的任务,例如深海开发,太空探索等。为了解决这一问题,机械臂逐渐走进人类的生产生活当中。传统的刚性机械臂在进行搬运、抓取等工作时为人们带来了极大的便利,而柔性材料凭借其质量轻、灵活性高、能耗低以及人机交互安全等特点,引起了各个领域的高度重视,很适合用于机械臂系统。但是正是由于其灵活性的特点,在机械臂运动过程中或者存在外界环境扰动时,往往会使机械臂发生弹性振动,甚至造成机械臂的损坏。因此,保证机械臂操作运动的同时抑制柔性部分的振动是一个重要且具有挑战性的问题。本文主要研究了刚柔耦合机械臂系统分别在外界扰动、输入或输出约束等情况下的位置跟踪和振动抑制问题。首先,利用Hamilton原理建立刚柔耦合机械臂系统的分布参数模型,为避免忽略高阶模态而引起的溢出问题,不对模型进行有限维的近似,直接针对无穷维系统模型进行控制器设计,并对系统中的柔性连杆部分进行了能量分析。其次,考虑了机械臂系统的参数不确定性和外界扰动的影响,提出了一种基于PDE模型的神经网络自适应控制策略。基于对系统柔性连杆的能量分析,设计一个由关节角、角速度、柔性连杆根部应变力和剪切力组成的耦合滑模面。考虑外界干扰和参数不确定性,设计了基于PDE的神经网络自适应滑模控制算法,有效的补偿了外部干扰,具有很好的非线性逼近特性,并采用自适应方法估计系统中的不确定参数。采用半群理论和La Salle不变集原理证明了闭环系统的渐近稳定性,通过仿真分析证明了控制器的良好性能。再次,考虑系统具有输入约束和输出约束的直接关节控制方法。利用分段的障碍Lyapunov函数给出了一种基于非对称输出约束和执行器部分失效故障的自适应容错控制算法。针对带有输入约束和外部扰动的机械臂系统,采用双曲正切函数和双曲正割函数来解决输入饱和问题,基于干扰观测器设计直接关节力矩控制估计外部干扰,从而实现了对关节的位置控制,并对柔性连杆的振动进行了抑制。最后,运用半群理论和La Salle不变集原理对该系统进行了渐近稳定性的证明,对控制算法进行了仿真验证。最后,总结全文内容,结合对刚柔耦合机械臂系统的研究经历对未来工作内容进行计划和展望。