对词或者文本进行向量化建模是自然语言处理领域中一个重要的研究领域,相应的向量表示是一些应用中常见的处理工具,通过使用向量空间模型将词或文本映射到向量空间,并应用到具体的自然语言处理应用系统中。近几十年自然语言处理相关研究应用取得了很大的发展,对于较少的文本如词或短语,词嵌入的提出使得我们能很好的用向量表示词的意义。传统的词频逆文档概率的使用使得我们也可以对整篇文章进行合理的向量化建模。但在越来越复杂的应用场景中,随着对文本向量化建模要求的逐渐提升,合理的对句子进行建模显得越来越重要。但现有研究中所使用的方法仍未达到精确的效果。主要原因是句子的复杂性及相应语义捕获的困难性,如何更准确合理的表示句子及其意义对自然语言处理的研究有着重要的影响。本文针对这一问题,对句子向量化建模进行分析,并介绍一种嵌入句子及句子片段信息的建模方法,通过额外的上下文信息提高句子建模的精度。这种方法的动机是通过捕获更多的上下文信息来增强词向量的表示能力,然后将词向量进行组合获得相应的句子向量,词向量表达能力的增强同时带来了句子向量表示能力的提高。本文在相关应用系统中使用这种句子建模方式,并通过机器翻译及文章评分实验结果证明本文提出的句子向量建模方法能捕获句子中上下文信息,获得更好的句子建模效果。