随着信息时代的到来,越来越多的人们开始热衷于在社交网络上发表自己的言论,这使得全球信息呈指数级的增长。如何从这些信息中提取出人们的情感倾向成为一个亟待解决的问题。正是在这种环境的驱使下,情感分析技术应时而生,其广泛应用于商品评价、舆情分析、推荐系统等领域,具有很高的研究和应用价值。情感分析技术中的关键在于情感分类模型的构建。传统的情感分析方法是基于情感词典的方式,这种方法非常依赖于情感词典的构建,同时模型的泛化能力不高。随后,利用朴素贝叶斯、支持向量机等机器学习算法来构建分类器,虽然取得了一定的成果,但是这些方法不能提取深层次的语义信息,且训练较为困难。深度学习的发展给情感分析技术带来了新的契机,本文借鉴了深度学习的相关算法,对现阶段情感分类模型存在的问题进一步优化,其研究内容如下所述:(1)从词向量的角度出发。目前应用最广泛的词向量表示为Word2Vec词向量、Glove词向量,虽然这两种词向量表现出不错的效果,但是它们存在不能解决一词多义的缺点。文本借鉴了 BERT预训练语言模型,因为该模型在训练的过程中,采用随机Mask部分单词的策略,模型通过学习上下文信息来预测被Mask的单词,同时,在词向量的基础上,又拼接了单词的位置向量和句对向量来共同作为嵌入层的输入向量表示,解决了一词多义的现象。随后通过词向量的对比实验,验证了采用BERT词向量的方式能够提升模型的分类性能。(2)针对RNN网络无法并行化训练的缺点,同时进一步提升模型的性能,本文提出了一种基于多头自注意力的双向切片神经网络模型。该模型借鉴了切片神经网络的特点,通过对原始序列进行切割的方式,每一个切割后的子序列都能够并行化的训练,减少了模型的训练时间,同时,在模型的内部添加多头自注意力机制,其能够学习到不同子空间中的隐藏信息,提取序列中单词之间的联系。通过对比实验可知,本文提出的模型在保证一定的分类准确率下能够明显提升模型的训练速度,验证了本文模型的有效性。