数据聚类是计算机视觉、数据挖掘、信息检索和模式识别等领域的基本无监督学习任务。为了更好地拟合非高斯数据尤其是正数据向量,并有效解决有限高斯混合模型的参数估计和模型选择困难的问题,本研究将基于逆贝塔刘维尔（Inverted Beta-Liouville,IBL）混合模型进行建模方法分析。首先,提出了一种具有Dirichlet复合多项式先验的有限IBL混合模型。在模型中,本文假设上下文混合比例服从Dirichlet复合多项分布,这使模型对噪声具有更强的鲁棒性。为了验证模型的有效性,本文把模型运用到图像分割中。由于模型是基于混合模型的,模型中每个混合成分可以解释给定图像中的特定部分。为了增强图像的分割性能,本文利用广义均值对模型施加空间约束,同时提高模型对于噪声的鲁棒性。模型采用变分贝叶斯方法对模型的参数进行估计,得到封闭解并减少模型的迭代次数。通过与其他图像分割方法的性能比较,证明了该方法的优越性。针对组数据聚类问题,提出基于Hierarchical Dirichlet Process（HDP）的分层IBL混合模型。提出的聚类方法解决了对分组数据建模的问题,其中观察数据被组织成组,允许通过共享混合组件保持统计上的联系。所得到的聚类模型的参数是使用变分贝叶斯推理算法进行学习的,能够避免陷入局部最优解。通过文本分类和图像识别实验来验证该模型的有效性。为了解决含有大规模数据和流数据的聚类问题,提出基于在线变分推断算法的无限IBL混合模型。该分层模型使用Pitman-Yor过程构建,其成分密度分布为IBL分布,在文本数据建模方面表现出优于广泛使用的高斯分布。本文利用在线学习算法进行模型参数估计,该算法能够有效地从基于变分贝叶斯的新闻报道流中学习TDT模型。通过与其他基于聚类的TDT方法在不同新闻数据集上的分类比较,说明了本文提出的模型在TDT方法的优越性。