三维电子气在量子极限以外的行为是凝聚态物理中一个长期悬而未决的问题。当电子被局域在最低的朗道能级时,原本在单粒子模型中可以被忽略的库仑相互作用,此时会对电子气的行为产生非常重要的影响,导致很多新型量子物态的出现。作为典型的半金属,石墨、铋及其锑掺杂的合金具有很小的载流子浓度,较低的磁场就能将整个电子系统局域到最低的朗道能级,从而达到量子极限。因此,这两类半金属是研究强磁场下三维电子气的理想材料。本文利用脉冲强磁场下新开发的能斯特效应测量以及转角电输运测量等实验方法对石墨、铋及其锑掺杂的合金开展了深入地研究,发现在强磁场下,石墨会进入激子绝缘体态,而铋及其锑掺杂的合金则会进入100%的电子谷极化态以及可能的三激子态。下面为本论文的主要研究内容和结论:一、克服脉冲强磁场下热电实验的困难,成功地测量了石墨在60 T强磁场下的能斯特效应,并在能斯特信号中发现了一个相变临界点:T=9.2 K,B=47 T。通过分析发现在临界磁场处,电子和空穴的倒数第二个子朗道能级会同时穿越费米面,两个子能级之间的带隙消失,电子与空穴可以通过库仑相互作用结合形成一种玻色子——激子。通过计算激子之间的距离和有效质量,发现理论上激子对应的简并温度与实验上观测到的临界温度几乎一致。因此得出结论,在该临界点处,石墨中的激子会发生玻色–爱因斯坦凝聚进入激子绝缘体态。另外,该发现也解释了为什么在石墨中观察到的电子相变不是量子极限以外三维电子系统的普遍特征。二、研究了铋单晶在65 T强磁场下角度依赖的磁阻,发现在30 T附近,磁阻突然开始剧烈下降。以往的研究认为这是由空穴型朗道能级穿越费米面引起的,并预测在88 T时会发生金属–绝缘体转变。然而90 T的磁阻实验中却没有发现任何金属–绝缘体转变的迹象。通过修正原有的理论模型,考虑最低朗道能级之间的耦合,计算得到的铋单晶的朗道能级谱与实验符合得很好。通过对比实验和理论,证明磁阻的下降与狄拉克型电子谷有直接的关系。当磁场超过阈值磁场Bempty时,有一个或两个电子谷被完全排空,系统进入100%的电子谷极化态。在电子谷排空的过程中,电子由迁移率较高的谷转移到迁移率较低的谷,迁移率的整体降低最终导致了磁阻的下降。另外,通过讨论磁场依赖的迁移率,发现迁移率在阈值磁场附近会发生突变。经过分析,发现迁移率的突变可能与电子和空穴通过库仑相互作用形成三激子态有关。三、由于铋和锑有相同的晶格结构和相似的晶格参数,在结晶时,两者可以互相替换形成任意比例的Bi1-xSbx合金。当锑含量x<4%时,Bi1-xSbx合金和铋单晶具有相似的能带结构,而且随着锑含量的增加,Bi1-xSbx合金的费米面会逐渐减小。因此我们继续研究了强磁场下锑含量为1.6%和3%的Bi1-xSbx合金角度依赖的磁阻。实验结果发现,随着锑含量的增加,Bi1-xSbx合金的各向异性逐渐降低,电子谷完全排空所需的阈值磁场也会随之降低。对比铋单晶,我们获得了Bi1-xSbx合金的朗道能级谱。最后简单讨论了Bi1-xSbx合金在强磁场下可能存在的三激子态。通过本文的研究,我们在强磁场下发现了两个新型量子物态激子绝缘体态和100%的电子谷极化态,以及一个可能的新型量子物态三激子态。这些研究丰富了我们对三维电子气在强磁场下行为的理解,为强关联电子体系的研究开辟了新的道路。