量子自旋液体是指具有量子阻挫的磁性系统,在低温下形成的具有长程纠缠的量子态。该模型最初是在解决三角反铁磁格子的基态问题时提出;后来被认为是高温超导体的基态;目前,被认为是具有纠缠熵的拓扑序。关于量子自旋液体的研究一直是凝聚态物理的研究热点。理论上,量子自旋液体的出现打破了经典的朗道对称性破缺相变理论的范式,推进了强量子关联体系的研究,对于量子理论的发展具有重要意义;实验上,利用量子自旋液体材料可以观察到具有分数化的自旋子激发,对实验量子计算具有重大价值。目前,人们普遍认为,具有笼目结构的海森堡反铁磁材料是最有可能实现量子自旋液体的模型之一,本篇博士论文主要介绍我们在笼目结构的新量子自旋液体材料所做的探索以及笼目量子自旋液体的物性特征的研究。首先,我们利用水热法首次合成了新的量子自旋液体候选材料Cu3Zn（OH）6FBr,该材料中由Cu2+离子组成二维的笼目晶格。Cu2+离子之间存在很强的反铁磁相互作用（200 K）,然而热力学测量到50 mK,没有观察到任何磁相变的迹象。进一步,我们利用核磁共振技术,得到样品中来自笼目层Cu2+离子的自旋磁化率,观察到了低温下能隙打开行为;并基于塞曼劈裂效应,首次在笼目结构的量子自旋液体上观察到了S=1/2的自旋子激发。其次,由于室温下Cu4（OH）6FBr与Cu3Zn（OH）6FBr具有完全相同的晶体结构,我们详细测量和分析了,Cu4-xZnx（OH）6FBr体系中不同Zn2+离子含量的变化对笼目磁性影响,期望能够找到从三维磁有序到量子自旋液体的量子相变行为。实验中,我们发现该系列材料中三维反铁磁有序随着x值增加,被快速抑制;但是,这个材料体系中同时存在着局域的铁磁性的磁有序,这种铁磁性行为在x=0.8时依然存在。令人惊奇的是,我们发现与量子自旋液体性质相关的笼目层的行为,在x大于0.3的时候即开始表现出来。因此我们认为这个体系中很有有可能具有人们长期搜寻的从长程序到拓扑序转变的量子相变点。最后,简要介绍了我们利用水热法、助溶剂法等方法在探索量子自旋液体材料和拓扑材料方面都做出的一些新成果。一方面,我们合成了与Cu3Zn（OH）6FBr行为与结构都很接近的新量子自旋液体候选材料Cu3Zn（OH）6FCl。这是该材料的首次合成,为探索合成量子自旋液体材料提供了新的思路,同时由于量子自旋液体候选材料的匮乏,该材料的合成为研究笼目结构的量子自旋液体行为提供了新的素材。另一方面,我们利用助溶剂法首次合成了高质量的MoP单晶。这是一个打破外尔-狄拉克-马约拉纳传统分类的具有三重简并的新费米子半金属材料,我们利用APRES测量,首次在实验上观察到了MoP体能带中的三重简并点。这一发现,为推进拓扑物理学的发展,进一步在固体材料中寻找新型费米子提供了新的动力。以上是本论文的主要内容,量子自旋液体和拓扑材料作为当前研究的热点,依然处于初期的研究阶段,仍有大量的问题需要解决。这两个主题的起源于上个世纪末高温超导体和分数霍尔效应的发现有直接的关系。正如20世纪物理学的两朵乌云最终发展成了物理学重要的支柱量子力学和相对论,我们认为,由量子霍尔效应发展而来的拓扑材料和与高温超导相关的量子自旋液体,有可能重新刷新人们对凝聚态物理的认识。