文本分类可以为文本提供有序的组织,网络信息的增长使文本分类对信息处理的意义变得更加重要。二十世纪八十年代以后,基于机器学习的文本自动分类方法越来越成为主流,它具有周期短,效率高,节省人力资源等优点。但文本自动分类研究自开展以来,准确率一直不能达到令人满意的效果,如何提高分类准确率成为研究热点。本文较详细的介绍了文本自动分类的多种关键技术,分析了文本的向量空间模型的表示效力以及它对于分类效果的影响因素；然后针对朴素贝叶斯文本分类方法中“属性独立性假设”的不足,运用局部降维的思想提出了一种用互信息差值来表达特征项之间的相关性,对相关性高的特征采取适当融合来达到向量空间降维的方法。此方法首先对训练文本集中的每篇文本提取出原始的特征词,经过去除停用词、词义消歧的处理后,在类的内部利用信息差值来表达特征项之间的相关性,对相关性高的特征采取适当融合的方法来对特征向量进行局部降维。得出的向量与降维前相比,低频特征词的数目大为减少,高频特征词数目增多,且高频特征词的频度得到加强,特征词总的数目减少,向量的维数降低,对于所属类别具有更强的关联性和较好的表示效力,很好地达到了降维的目的。最后,运用此方法对朴素贝叶斯分类方法进行改进,还对具体操作时阈值的选取做了一些研究。实验结果表明,改进后的文本分类模型适合于文本分类的需要,提高了原有分类器的性能。