拓扑材料由于其电子能带具有特殊的拓扑性质导致其具有奇异的物理性能。发现和研究拓扑材料的奇异物性是目前凝聚态物理研究的热点之一,其潜在的应用将为科学与技术的发展带来新的重大机遇。本文主要研究了最新发现的新型硫族化合物拓扑绝缘体和第二类外尔半金属的高压行为。通过高压原位电阻、霍尔系数、交流磁化率等低温输运性能的测量,并结合同步辐射大科学装置上所进行的高压原位X射线衍射实验,对研究体系开展了深入系统的研究。这些研究结果为揭示非平庸拓扑表面态受控因素（如温度与压力）,理解其拓扑性质、探索其超导电性和超导电性与晶体结构的关联性等提供了重要的实验依据。论文主要包括以下内容:第一章介绍了超导材料与拓扑材料的发现与最新的研究进展,重点介绍拓扑绝缘体、外尔半金属的基本概念和基本物性。同时也对高压技术在量子材料研究中的重要应用做了介绍。第二章介绍了本文研究所采用的金刚石对顶压砧压力产生装置与高压-低温-磁场联合测量系统等设备。同时还介绍了高压原位电阻、霍尔以及同步辐射高压X射线衍射等测量原理及方法。第三章介绍了新发现的新型硫族化合物三维拓扑绝缘体(Bi2Te2Se,Bi1.1Sb0.9Te2S)的高压研究结果。主要研究目的是探索拓扑绝缘体表面态的电导与温度和压力的依赖关系及其与体态电导的关系。研究发现尽管这两种材料的体态电导在较低的压力的作用下增大了几个数量级且随温度发生变化,但表面态电导却不随温度和压力变化,首次从压力维度上揭示了这类拓扑绝缘体的表面态导电性是独立于体态导电性的。实验结果也同时证实了拓扑绝缘体材料的拓扑表面态在一定范围的压力作用下表现出的稳定性。第四章介绍了新型拓扑绝缘体压力导致的超导电性研究。研究发现压力可诱导其发生超导转变并在较高压力范围内存在两个不同的超导相。根据XRD数据显示超导相出现在结构相变的边界。通过与碲铋矿同体系材料对比,我们首次在实验上揭示了此类拓扑绝缘体中存在普适的压力诱导的超导相图。我们的研究结果为理解其的晶体结构、拓扑性质和超导电性之间的关联提供了重要的实验依据。第五章介绍了新型第二类外尔半金属TaIrTe4的高压研究。实验发现TaIrTe4在23.8 GPa附近出现超导电性。同步辐射XRD结果表明在超导转变的压力处晶体结构出现扭曲。我们提出晶格扭曲导致了费米面的重构并诱发了超导转变。这项研究首次揭示了晶格变形、拓扑和超导电性之间的关系。