费米子和玻色子由于自旋不同而具有完全不同的统计性质。费米子满足泡利（Pauli）不相容原理，从而由费米子组成的系统遵从Fermi-Dirac统计。而玻色子组成的系统遵从玻色-爱因斯坦统计。在温度很低的情况下，由于玻色粒子不受泡利不相容原理的限制，玻色粒子会发生凝聚现象，这就是玻色-爱因斯坦凝聚（BEC）。对于费米子，情况则不同。费米气体只有在存在吸引相互作用的情况下，费米子先进行配对形成库柏（cooper）对，然后库柏对发生凝聚，这就是Bardeen-Cooper-Schrieffer（BCS）超流。要观察到玻色和费米系统的凝聚现象，必须要达到极低的温度，使得系统达到量子简并的条件。在1995年Cornell、Wieman, Hulet和Ketterle小组用碱金属玻色超冷原子气体中实现了玻色-爱因斯坦凝聚。通过调节Feshbach共振来调节费米子之间的相互作用，从而使得费米系统可以光滑的在BCS超流态和BEC态之间相互转换（BCS-BECCROSSOVER）。随着实验的不断进展，冷原子也不断的‘热’了起来。近年来，实验上更是用激光实现了规范场，从而实现了有效的自旋-轨道耦合相互作用（SOC）。由于自旋-轨道耦合相互作用极大的改变了费米面的性质，从而使得费米系统的性质发生了极大的变化。本博士论文首先简单介绍一下超冷原子气体的一些基本理论和相应的实验（包括BCS、BEC理论，BCS-BEC转换和Feshbach共振以及光晶格）和拓扑超导体的一些概念，然后具体介绍我在博士研究生期间所做的工作，主要包含以下几个方面：（1）对于二维-三维混合的费米系统，我们在平均场的框架里，采用在NSR机制上改进的G0G机制考虑涨落的效应，推导出能隙、赝能隙方程和粒子数方程。在此基础上自洽的计算出系统的超流相变温度在BCS-BEC转换过程中的光滑演化，并考虑质量不平衡以及粒子数的不平衡对转变温度的影响。我们发现，当增加质量极化或者减小晶格间距都会降低转变温度。在自旋极化情况下，增加自旋的极化会极大的破坏超流态的稳定性。我们的这些研究为以后混合维冷原子的实验提供了理论参考。（2）对存在自旋-轨道耦合相互作用的二维谐振约束费米冷原子气体的研究。我们在平均场框架下采用局域密度近似，通过分析系统的拓扑性质定性发现了拓扑非平凡的相分离现象。这种拓扑的相分离现象是一种普遍的现象，在约束的连续模型中也存在拓扑的相分离。这种拓扑的相分离不同于普通的相分离，在拓扑相分离的边界上，存在无能隙的边缘态。这个无能隙的边缘态受体的拓扑性质保护，是稳定的。而拓扑平凡的相分离则没有这样的现象。（3）对存在自旋-轨道相互作用的二维均匀费米系统的研究。我们在平均场的框架下，考虑到相分离的存在，通过比较系统的热力学势找出系统的基态，并且做出系统基态的相图。由于自旋-轨道耦合拓扑改变了系统费米面性质，自旋不再是一个好的量子数，取而代之的是螺旋，所以基态也就发生了拓扑的变化。由于费米面发生了拓扑的变化，所以相分离就不同于没有自旋轨道情况的系统。存在自旋轨道相互作用的系统有两种不同的相分离（拓扑相分离和普通相分离）。这两种相分离只有通过拓扑相变才可以相互转变。（4）对三维费米气体低能集体激发的研究。我们在平均场的框架在，考虑鞍点附近的高斯涨落，推导出零温情况下的系统的低能集体激发模式在整个BCS-BEC转换过程中的变化。我们发现由于存在自旋轨道耦合，系统在BCS区域的集体激发被自旋轨道相互作用压制了，而在BEC区域，自旋轨道耦合对系统低能激发的影响就很小。