本论文的内容共分为两章,第一章为综述部分,主要介绍了玻色-爱因斯坦凝聚现象（Bose-Einstein Condensation,缩写为BEC）,实现BEC的实验技术、以及与BEC相关Gross-Pitaevskii方程（简称G-P方程）和一些重要的物理现象。第二章是对光晶格中偶极BEC系统不稳性问题的研究。调制不稳定性是非线性系统里的一个特别现象,在普通的光晶格BEC系统里,调制不稳定性对光晶格中BEC的超流-Mott绝缘体转变,明暗孤子的激发以及不同组分BEC空间分布的形成有着重要的影响。在已有研究的基础上,我们进一步对光晶格中偶极BEC原子系统的调制不稳性进行了研究。在前面人们研究的普通的光晶格BEC原子系统中,调制不稳性主要来源于同一格点上BEC原子之间的在位相互作用。但在偶极BEC系统中,由于偶极-偶极相互作用还会导致不同格点上BEC之间的耦合,因而其调制不稳定性具有不同的特点。利用线性稳定性分析方法,我们研究了光晶格偶极BEC原子系统的调制不稳定性与偶极-偶极相互作用之间的关系。由于偶极-偶极相互作用可以通过外场很方便地进行调节,因而通过对光晶格中偶极BEC的调制不稳定性的分析,除了可进一步加深对非线性现象和BEC动力学行为的理解,还可为如何操控光晶格中偶极BEC,以及其在量子计算等实际中的应用提供帮助和信息。