随着自然语言处理技术的发展,对话系统相关技术不断得到完善,而任务型对话系统更是有着广阔的应用前景。当前对于任务型对话系统的研究通常只是针对特定领域,但在多领域任务上并没有得到很好的支持。多领域对话任务是通过对话完成不同领域的对话任务,而构建这样的对话系统往往与实际对话任务更加符合。因此,构建多领域的任务型对话系统对促进对话系统技术的发展有着重要意义。端到端的模型是基于数据驱动的系统,具有结构简单、训练便捷等优点,但同时也具有不可控、需要大量数据等缺点。本文在端到端对话系统框架的基础上,研究如何更好的表示特定领域的对话信息以及解决多领域对话任务,并得到以下工作内容和研究成果:(1)为了更好的表示和引入特定领域的对话信息,本文首先构建领域专属实体库,将任务性对话信息引入到端到端框架中。其次针对端到端生成模型生成实体词困难问题,本文提出了两步复制机制。一方面对输入文本进行复制,另一方面通过对实体库中实体词进行复制,从而提高生成领域实体词的概率。最后通过实验证明了所提模型在生成文本的质量以及生成实体的概率方面均有一定的提升。(2)为了解决跨领域对话任务的自适应问题,本文通过引入隐变量将源领域和目标领域信息映射到同一隐空间中。通过训练得到具有多领域信息的隐变量,再通过该隐变量指导目的领域文本的生成。对于生成不同领域实体问题,本文提出了实体映射机制,从而将源领域实体映射为目标领域实体。通过实验证明了所提模型在多领域对话任务中达到了最新的研究水平。(3)本文还对预训练语言模型进行了研究,针对传统端到端生成模型训练效率低的问题,本文提出了基于预训练语言模型的端到端对话生成模型。通过实验证明了所提模型在训练效率上优于于当前主流端到端生成模型,同时在生成文本的流畅度以及多样性方面要高于这些主流模型。