过渡金属元素的d壳层易于失去一个或多个电子导致电子或自旋结构的巨大差异。这类金属氧化物具有很多非常奇特的性质，例如烧绿石结构的Tb2Ti2O7是一种自旋液体材料，即使在绝对零度下，这种材料中的Tb3+自旋依然持续地涨落，晶体场理论的计算表明Tb3+的基态与第一激发态均为特殊的双重态结构，目前该体系的磁性和自旋动力学过程依然不甚明朗。针对存在的问题，本论文主要研究了(Tb1-xYx)2Ti2O7单晶的磁化率、比热和热导率等低温物性，探讨了非磁性离子(Y3+）掺杂对该体系物性的影响，此外还研究了另一种层状钙钛矿结构的GdBaMn2O5.0单晶的低温热传导性质。论文正文部分分为三章，每章主要内容概述如下:　　 第一章综述了过渡金属氧化物的一些特征性质。简单介绍了阻挫的机制及自旋液体材料的研究，然后详细描述了自旋液体材料Tb2Ti2O7的晶体结构、磁性质、μSR、中子衍射及比热的测量结果，本章后半部分对强关联体系GdBaMn2O5.0进行了一些介绍，包括其特殊的层状钙钛矿结构，稀土离子层中氧离子的扩散机制，磁性质及可能的磁结构等。　　 第二章主要介绍了浮区法生长非磁性Y掺杂的(Tb1-xYx)2Ti2O7单晶O=0，0.1，0.5)的方法，我们改进了文献中的单晶生长条件，获得了高品质(Tb1-xYx)2Ti2O7单晶，并在此基础上，详细测量了其磁性质、比热及部分热输运性质。在～80K时，(Tb1-xYx)2Ti2O7单晶(x=0，0.1，0.5）中开始出现短程磁关联相互作用，非磁性离子Y的掺杂并没有显著地改变Tb2Ti2O7的磁性质，但大幅地降低了体系内的关联相互作用并导致Tb3+晶体场能级劈裂的加剧。Tb2Ti2O7内部持续的自旋涨落抑制了声子的导热，而Y的掺杂引起的无序度增加导致声子导热被抑制得更为显著。　　 第三章简要介绍了GdBaMn2O5.0单晶的低温热输运研究。低温下GdBaMn2O5.0中只有声子参与导热，表现出了典型的声子导热行为。而高温段Mn3+/Mn2+开始形成长程反铁磁有序时出现的磁振子的激发导致了k(T)曲线中该温度段的鼓包。GdBaMn2O5.0k(H）的测量中发现磁场引起的Gd3+的自旋能级劈裂对声子的散射导致了k(H)曲线中的低谷。