随着互联网技术的迅猛发展,人们可以通过各种在线平台随时随地与其他互联网用户分享自己的真实体验并且进行评论互动。然而当评论文本数量过多时,浏览这些简单堆积的评论需要耗费大量时间,因此将评论文本进行准确的归类划分对高效获取有价值的信息有着十分重要的意义。传统的文本分类需要耗费大量时间和人力去处理海量数据,随着人工智能的发展,利用深度学习和神经网络处理海量数据、提取关键信息的方法应运而生。本文主要对多标签文本分类过程中的文本表示和文本分类方法进行了研究,通过对多组实验结果进行对比分析,取得了如下研究成果:(1)提出在文本表示模型BERT-wwm中采用相对位置编码的方法中文版BERT-wwm模型在学习绝对位置信息时,需要投入大量额外的时间,而结合生活经验发现绝对位置信息在帮助理解文本中相同单词在不同位置的含义时作用是有限的,人们在理解文本信息时更依赖相对的位置信息。针对这一问题,本文在文本表示模型的嵌入层中使用相对位置编码和序列间相互作用关系的方法,进一步提升了中文版BERT-wwm模型的性能。(2)提出在文本表示模型BERT-wwm中为情感特征词分配更高权重的方法本文在对评论文本等篇幅较短的数据集进行实验时,发现模型不能很好的提取到上下文信息中包含的情感特征,甚至出现预测错误的情况。因此本文在文本表示模型的预训练任务中,对文本的情感特征词分配更高的权重,使模型能够更好的利用文本中有效的情感特征信息,从而提高了文本表示模型预训练任务对目标文本的预测准确率。(3)提出基于改进CNN-LSTM模型的多标签文本分类算法本文首先深入研究基于深度学习的文本分类算法,并详细分析了目前常应用于文本分类场景的卷积神经网络和长短时记忆网络算法,及分别利用以上两种模型各自的优势进行集成的CNN-LSTM文本分类模型;随后针对CNN-LSTM模型在多标签文本分类任务中的不足,本文在CNN-LSTM模型上添加了使用标签共现频率初始化的完全连接层作为最终输出层;最终本文提出的文本分类算法在多标签文本分类任务中获得了较高的准确率。本文通过实验对改进方案进行验证,将改进的文本表示模型和多标签文本分类算法分别用于公开的数据集,并设计多组实验进行分析。结果证明本文提出的改进方案能够有效提升中文版BERT-wwm文本表示模型的性能和文本分类结果的准确率。最后将本文改进方案应用于餐饮项目中评论文本的自动分类,为就餐用户和系统管理人员带来了便利。