随着信息技术日新月异的发展,文本数据呈爆炸式增长,文本分类与聚类也随之成为研究热点。K近邻算法和非负矩阵分解算法是文本分类与聚类中常用的两种方法,但由于算法本身存在缺陷,文本数据结构的多样性以及中文语义的复杂性,基本的算法已经不能获得较好的效果,优化算法也不断被提出。传统的K近邻算法中关于K值合理选取问题一直是该算法的研究热点,在算法提出之初主要是依靠研究者们的经验来确定K值,这具有较大的随机性和盲目性,通常会导致算法性能的降低也不能得到最优的分类结果。针对上述问题,本文使用融合具有行稀疏性的L_2,1/2范式的最小二乘法模型重构的方法优化样本空间,使变换矩阵具有较好的稀疏效果;同时引入基于流形学理论的局部保持投影算法,使得样本在投影变换过程中保持近邻结构不发生改变,提出基于流形学LPP算法和稀疏约束的自适应LAKNN算法,自动确定KNN算法中的K值。我们将改进算法应用在文本分类中,分类的实验结果表明,与其他对比算法相比,本文所提的方法在分类准确性有一定程度的提高。针对传统的非负矩阵分解算法在模型的优化过程中受到潜在特征之间的内在关联影响,且数据中具有较大误差的噪音和异常值,影响算法的聚类性能。本文提出用于独立特征学习的稀疏非负矩阵分解文本聚类算法,在进行矩阵的非负分解过程中,结合图正则化处理和稀疏表示理论,对目标函数施加稀疏约束,使得分解后的矩阵具有可控的稀疏性;同时把余弦相似度引入到非负矩阵分解模型中达到降低潜在特征相关性的目的,增强算法独立特征学习能力,通过最小化潜在特征间的余弦值使得相关性最小。最后,将本文的算法与现有的改进算法进行实验对比分析,证明了本文提出的改进算法的有效性。