由于自然语言文本的抽象语义与内容多样等特征,文本生成方法面临两方面的挑战:一方面,自然语言文本在表达上形式多样、上下文内容动态变化,需要能准确理解并在线建模大规模文本上下文内容的方法。另一方面,基于模型的文本生成方法其生成的内容在语义上容易出现上下文主题不一致的情况;针对以上问题本文开展了基于主题模型的文本生成方法研究,旨在基于动态主题模型对文本的上下文内容进行动态建模,并且提供在线处理大规模数据的能力,同时通过上下文主题的一致性,指导模型的生成过程,文章的主要贡献如下:1.针对文本生成过程中,生成序列的上下文语义动态建模问题,本文提出了一种面向大规模文本在线主题建模的动态建模方法（Dist HDP）,主要解决两方面问题:1)文本生成应用中需要处理各类型主题变化的动态文本数据（例如对话生成场景中,上下文对应的主题分布随着会话的推进而变化）,传统基于LDA的静态主题模型在使用语料训练时,需预先指定主题个数,难以适应主题内容与数目动态变化的问题。2)现有在线主题模型主要关注单机情况下的模型表达能力,难以适应大规模文本数据的动态主题建模需求。针对以上问题,本文在在线变分HDP的基础上,设计并实现了并行在线变分HDP主题模型算法。将训练任务分为多个子任务并分布在多个工作节点上,从而加快了整个训练过程。通过并行变分推理算法可以保证模型的收敛性。最后在真实数据集上进行了3组实验并证明了该算法的可用性和良好的可扩展性。2.针对文本生成过程中,生成的文本内容与输入的数据存在上下文语义主题不一致的问题,本文基于条件变分自编码器（CVAE）设计实现了一种融合主题模型的文本生成方法（Trans CVAE）,通过主题建模方法在线捕获生成数据的上下文主题信息,获得文本数据对应的主题编码。将CVAE中的条件信息设置为文本数据对应的主题编码,使文本生成过程添加了主题约束。最后在数据集上进行了3组实验并证明了此方法的BLEU值最优,更加符合人类的逻辑,且倾向生成长文本。针对以上两个研究内容,本文分别提出了面向大规模文本在线主题建模的动态建模方法（Dist HDP）和融合主题模型的文本生成方法（Trans CVAE）。最后在多个数据集上分别验证了两个模型,实验表明,Dist HDP比单机版本算法的训练速度快,尤其在处理大规模数据集时尤为明显。同时,并行主题模型Dist HDP的线程数扩展至30时,其并行效率仍保持70%以上,体现了其良好的扩展性。对于Trans CVAE,在蕴含数据集上,该模型的BLEU值达到了最大。另外,Trans CVAE更加倾向生成较长的文本序列,比Transformer模型的平均生成文本长度多50%。