发生在零温度下的量子相变（QPT）与传统相变的主要区别是:前者由自旋量子涨落所引起,而后者由热涨落所驱动。尽管量子相变发生在零温下,但量子临界点（QCP）附近材料的物理性质,却与这种量子自旋涨落存在重要关联。对于一个磁有序系统,化学组分、压力、或磁场等外界参数的变化,可以抑制其长程磁有序,在某一临界参量附近,系统由磁有序相转变为顺磁相,既达到量子临界点（QCP）。在过去三十多年里,科学家在量子临界点附近的材料中发现了许多新型量子态,如:铜基和铁基化合物中的非常规超导电性、MnSi合金中的Skyrmion相、以及重费米子中的非费米液体行为等。目前,针对量子临界行为的研究已成为凝聚态物理学科的重要研究方向之一。本论文选择两种重费米子系统:一种是具有各向异性的铁磁（FM）近藤格子体系CeTiGe3,其Curie温度为TC=14K;另一种是反铁磁近藤格子系统Ce2Ir3Ge5,其Neel温度为TN=9.5K。分别通过Ni对Ti、或La对Ce的部分替代,系统的长程磁有序受到抑制,在某一临界替代浓度时,系统的磁相变温度TC（或TN）趋于零,从而达到量子临界点,我们对其量子临界行为开展了系统研究。本论文共分为五章。第一章对材料的磁性、重费米子化合物、铁基和重费米子化合物中的量子临界行为等研究现状进行了综述。第二章针对本论文所涉及的实验方法进行详细介绍。第三章和第四章详细讨论了,我们就上述CeTi1-xNixGe3和（Ce1-xLax）2Ir3Ge5两个体系的量子临界行为研究结果。在论文的最后一章对论文进行了总结,并对未来研究进行了展望。论文的主要研究结果总结如下:1.重费米子化合物CeTi1-xNixGe3中的铁磁量子临界行为。通过对铁磁化合物CeTi1-xNixGe3 （0.0<x<0.45）的磁化强度（M）、电阻率（ρ）和比热（C）系统观测,结果发现,随着Ni替代浓度（x）的增加,TC逐渐下降,在临界浓度xcr=0.44附近,TC趋于零。基于这些实验结果,获得了该系统磁性-组分相图。对于临界组分xcr附近的样品,其电阻率-温度关系ρ（T）呈现非费米液体行为、C/T呈现1og（To/T）行为,说明在这些样品中确实具有增强的自旋涨落,同时也证实这些样品处于量子临界点（QCP）附近。这些实验结果表明,CeTi1xNixGe3体系可能为铁磁量子临界点附近,寻找奇异量子基态提供了一个平台。2.反铁磁重费米子近藤格子系统（Ce1-xLax）2Ir3Ge5中的量子临界行为。通过对反铁磁化合物（Ce1-xLax）2Ir3Ge5 （0.0≤x≤0.66）的磁化率（χ）、电阻率（ρ）和比热（C）温度关系的系统观测,结果发现,随着La替代浓度（x）的增加,Neel温度TN逐渐下降,在临界组分xcr=0.6附近,TN趋于零。基于这些实验结果,我们获得了该系统的磁性-组分相图。在xcr附近,样品的电阻率-温度关系ρ（T）同样呈现非费米液体行为、C/T呈现log（To/T）关系,说明（Ce1-xLax）2Ir3Ge5系统可实现量子临界相变,在临界浓度附近样品中呈现增强的自旋涨落。意味着:（Ce1-xLax）2Ir3Ge5体系可为寻找新的非传统超导体提供了一种可能。