玻色-爱因斯坦凝聚是近几十年来倍受关注的课题。它不仅提供了一个研究量子力学基本问题的宏观系统，而且在原子激光，量子计算等领域有着广泛的应用。而玻色-爱因斯坦凝聚系统中内在的非线性以及与外场相互作用，使其成为一个典型的混沌系统。本文在平均场理论的框架下以Gross-Pitaevskii方程为主要模型，讨论了外势阱中两分量玻色-爱因斯坦凝聚系统的稳定性，宏观量子自囚以及混沌特性。同时对激光控制下的混沌区域进行了讨论。 　　本文共包括了四个部分。第一章简单介绍了平均场理论以及玻色-爱因斯坦凝聚领域中有关混沌的研究历史，现状和应用。第二章研究了定态解的稳定性和在含时势阱情况下系统的混沌行为。用线性稳定性定理分析了相对粒子数布居的定态解的稳定性。其结果表明当物理参数满足一定关系时，定态相对粒子数布居将出现音叉分岔，两个分支分别对应着不同的定态解，这种情况称为亚稳定，对应的两个态分别称为亚稳态，它们描述定态的宏观量子自囚。我们也考察了初始条件、跃迁系数和相对能量对非定态宏观量子自囚的影响，得到了周期的宏观量子自囚。最后，我们研究了势阱含时条件下，相对粒子数布居从倍周期分岔到混沌的演化过程。随着含时相对能量的增加，相对粒子数布居的振动周期也变大。当相对能量达到(或大于)一个临界值时，相对粒子数布居的振动周期将趋近于无穷大，此时，系统出现混沌。同时我们发现系统存在混沌的宏观量子自囚。 　　第三章用直接微扰理论求解了此系统的Melnikov混沌解和有界性条件，由此我们得到了参数的混沌区域。发现混沌区域与初位相有关，而且不同于以往的Melnikov混沌参数区域的是，这个混沌区域直接与系统的初始条件相关。而BEC系统的初始条件通常不能被精确确定，但是我们发现通过变化初始相位、激光的频率等可调的参数可以改变混沌区域。由此我们得出结论：可以调节激光的频率来控制系统从有序到混沌(或从混沌到有序)的变化过程。 　　最后，我们在第四章中对本文做了简要的总结，并对该领域前景作了一点展望。本文中，作者的研究工作集中在第二章和第三章。