近年来，工程实际中的非线性动力学问题受到广泛关注并得到了迅速的发展。混沌运动是非线性系统特有的一种运动形式，是产生于确定性系统的敏感依赖于初始条件的非周期运动。本文利用稳定性理论和非线性动力学方法研究了3D刚体摆运动的姿态稳定性和姿态混沌运动。　　由于GEO卫星必须定点在赤道上空(35786km)与地球同步运行，其定点(质心)相对于地球完全固定，但卫星绕定点的相对转动是允许和存在的。从力学意义上说，在GEO轨道上运行的航天器为纯姿态运动而没有平动运动，GEO卫星动力学与控制问题完全可以利用刚体姿态动力学模型描述。　　本文首先引入3D刚体摆的概念，即为一刚体绕无摩擦的固定支点旋转，刚体受到恒重力(或万有引力)作用且具有三个转动自由度。建立动力学模型，利用动力学方法分析其局部稳定性。根据姿态的变换关系，对3D刚体摆模型进行约化，建立3D刚体摆姿态运动的一种简化动力学方程以及基于欧拉角的动力学方程。利用3D刚体摆的轴对称性，将其退化为重陀螺、球面摆以及平面摆模型，并分析了重陀螺在悬挂平衡的情况。研究了3D刚体摆的姿态非线性动力学特性，发现在非轴对称的情况下系统存在明显的混沌现象，在轴对称的情况下系统运动存在一定的规则性。最后，利用一种耦合的方法估算出在非轴对称情况下3D刚体摆的最大Lyapunov指数。