量子色动力学(QCD)是描述夸克层次上的强相互作用动力学基本理论。在有限温度有限密度下,QCD物质具有非常丰富的相结构,如强子物质相,夸克胶子等离子体相及超导超流相等。研究不同相之间的相变及临界现象,确定相边界及临界点位置等,是当前高能物理研究领域里的重要课题。一般来讲,直接从QCD拉式量出发进行研究,在高温高密条件下,可以采用微扰论的方法。在非微扰区域,通过格点计算或建立具有QCD对称性的有效模型来讨论QCD物质的热力学性质及相关计算方法等。本论文基于QCD有效模型,讨论了有限重子数密度下QCD临界点位置的确定、不同临界行为的过渡区域；有限同位旋密度下三种相变的相互影响及在π超流相的BEC-BCS过渡。本文的前三章简要评述了相关的工作基础。首先,我们对已有的QCD物质相结构的研究作了简单回顾。然后,介绍了具有QCD对称性的两种有效模型,Nambu-Jona-Lasinio (NJL)模型和Polyakov-NJL (PNJL)模型。NJL模型是四费米子直接相互作用,具有QCD的手征对称性。PNJL模型在NJL模型基础上,引入静态胶子场背景,将夸克的手征凝聚与Polyakov圈耦合起来,兼具QCD手征性和禁闭性质。具体计算是在有限温度场论框架下进行的。本文的后半部,讨论了具体的研究成果。我们用朗道相变理论,系统分析了两味NJL模型在有限温度有限重子数密度下的相结构,给出三维空间T-μ-m0中的相图。清楚地显示出三临界点、临界结点以及普通临界点的区别和联系,为接下来分析临界现象作准备。考虑到手征极限下三临界点的特殊性,我们分析了沿不同相变线趋近它时热力学量的临界行为。结果表明,在三临界点邻域内,存在从φ4-φ6临界行为的过渡区域,且给出了不同临界行为的区域。进一步研究表明,沿一级相变线去趋近三临界点时,临界指数需要进行Fisher重整化。通过能量扫描寻找QCD临界点位置,一直是高能重离子碰撞实验的目标之一由于临界点是一级相变的终止点,我们考虑沿一级相变线进行能量扫描去接近QCD临界点的方法。本文的分析证实,不仅在手征对称破缺相有热π介子存在,而且在手征对称恢复相,除了有夸克反夸克外,必然会存在热π介子被激发的区域。考虑到一级相变线上系统处于两相共存状态,文中分析了这种特征。序参量及相关物理量如π介子质量等具有两个物理值,但到临界点处两个物理值重合。热π介子在两相的质量差别,会使得在两相介子的丰度不同,从而π介子衰变的产额也不同。但到临界点这些差别消失。我们期待这种图像能为实验上探索相边界和临界点提供有益的启示。最后,我们在PNJL模型框架下研究了同位旋化学势效应。讨论了手征相变、退禁闭相变和π超流相变的相互影响,计算了超流相的介子激发谱,并获得相应的T-μI,相结构。结果表明,禁闭性扩大了手征凝聚和π凝聚的范围,并且影响了热力学系统的集体激发模式；T-μI相图被分为四种物态区域,即强子相、夸克胶子等离子体相、BEc超流相和BCS超流相。在π超流相,当同位旋化学势大小等于两倍夸克有效质量时,存在BEC-BCS的过渡行为,这是密度引起的效应。