具有层状结构的化合物因其丰富的物理性质和潜在的应用价值受到诸多领域的关注,层状化合物的基本结构单元可以大致分为电中性层和带电层两大类。对于电中性层沿某个晶体学方向堆垛而成的化合物,层间相互作用一般是较弱的范德华力,在结构调控时可以采用机械解离、离子插层和化学掺杂等方法,系统地调控层间距离、层数和层间相互作用,以期调控载流子浓度和物性;对于由电正性层和电负性层沿某个晶体学方向交替堆垛而成的化合物,其层间存在着较强的电荷吸引力或化学键,一般采取层内化学元素替代的方式来调控晶体结构、载流子浓度和物性。本论文针对几种具有不同层间作用力的化合物,分别采取了机械解离、离子插层和层内化学掺杂的方法,对它们晶体结构的变化和低温输运性质进行了系统的调控和综合的表征,结合第一性原理计算,揭示了层状化合物中结构和物性的内禀关系,获得了如下的创新性成果:1.我们采用机械剥离和原位电场栅压调控相结合的技术,在厚度为13nm的超薄SnSe2中实现了Li离子插层,诱导出半导体-金属-超导体的相变,获得了4.8K的超导相。在对SnSe2进行等价S替代后,发现超导临界温度随着硫掺杂量的变化呈现出dome形状的变化,其中SnSe1.8S0.2具有6.2K的最佳临界温度。低温霍尔电阻测试证明该方法可以将载流子浓度有效提高至2.58×1015cm-2。结合密度泛函理论计算,我们证明了Li离子插层后所形成的LiSnSe2是热力学稳定的,Li离子插层会导致样品金属化,声子软化和电声耦合增强。理论计算的超导临界温度为5-8K,表明该超导体为BCS型超导体,本工作为系统研究窄带隙半导体的金属化和超导转变提供了有效的实验手段。2.通过Te自助熔剂法合成了层状单晶IrTe2,电阻率测试表明IrTe2体相在～280K发生了电荷密度波相变（CDW）,在更低温时表现为金属行为。采用机械剥离的方法获得了IrTe2薄层样品,其中典型的厚度为100nm、40nm和20nm。低温输运测试发现薄层样品中的CDW相变消失,表现为Tc=3K的超导体。霍尔电阻测试证明样品的载流子浓度随厚度的减小而减小。低温拉曼测试表明薄层样品的CDW相变温度可能升高至室温以上,且伴随特征峰的集体蓝移。此现象不同于CDW与超导相互竞争的关系,随着样品厚度的减小,我们发现样品的CDW与超导同时增强。我们的工作为研究低维系统中凝聚和电子涨落所导致的复杂电子行为提供了重要的实验数据。3.对于ThCr2Si2型的层状化合物CsCo2S2,其晶体结构通过Cs+和[Co2S2]-层沿c轴堆垛而成,层间作用力较强,我们针对性地采取了层内化学元素掺杂的方式来调控其结构和物性。通过层内化学掺杂,我们制备了三个新型层状硫化物CsLiCoS2、CsAgCoS2和CsLiFeS2。结构解析表明CsLiCoS2与CsCo2S2同构,为Li+/Co2+混占位的四方相;CsAgCoS2和CsLiFeS2为正交相,表现为ThCr2Si2型的倍的超结构,我们推测这是由于单价的Ag+/Li+和二价的Co2+/Fe2+独立占据[AMS2]-层中的不等价位置所引起的。通过对比分析相关化合物的晶体结构,我们给出了无序-有序的相区分界,并推测离子半径和晶格失配的差异度是其内在原因。通过系统地低温物性表征,我们发现该方法对载流子浓度、电学和磁学性质产生了有效的调控作用,为进一步探索新型含过渡族金属元素的功能层状材料提供了新的思路。4.在层状化合物La2M5As3O2（M=Cu,Ni）中,通过Co元素替代的方法研究了结构和磁性的变化规律。通过晶体结构解析发现Cu5As3结构单元中的As1-As2共价键键长随Co掺杂量的增加出现临界变化,O-La-O键角随Co含量的增加逐渐减小,表明Co掺杂主要导致了c方向的形变。La2(M1-xCox)5As3O2系列化合物均表现为金属行为,在磁学性质方面,当Co掺杂浓度大于0.3时,La2(Cu1-xCox)5As3O2出现顺磁到铁磁的相变,然而La2(Ni1-xCox)5As3O2均表现为顺磁性。我们从结构细节和可能的过掺杂效应,详细讨论了结构演化和超导电性缺失的原因。