论文部分内容阅读
大数据及人工智能技术的发展对人们的生活方式影响深远。各种人工智能相关应用通过与用户的交互掌握其需求,提供相应的服务博得用户的满意。作为人机交互的重要形式,自然语言处理的意义不言而喻。而文本生成作为其中的经典问题也日渐成为学术界的热门研究领域。文本生成拥有广泛的应用场景,比如机器翻译、线上聊天机器人、电子商务系统及创意广告当中,文本生成技术都不可或缺。文本生成问题中一个值得关注的现象是:用户对于文本的喜好往往因人而异。相关研究表明,用户的性格对该用户对于文本的接受程度有很大的影响。例如在广告推荐中,有些用户表现出易受社交影响的特点,则“其他用户也尝试过”类型的广告更切中他/她的喜好。因此生成个性化的文本可使文本更具信服力,有助于提升用户满意度与信任度,并最终促成购买行为,其意义不言而喻。作为一个新兴课题,个性化文本生成包含以下三个研究问题:1)研究场景问题。什么样的研究任务中有条件及需求进行个性化文本生成;2)信息选取问题。哪些种类的个性化信息对相应任务有益,可以应用到文本生成中来;3)信息整合与用户建模问题。本文在包含推荐与对话的三个传统或新兴的研究场景中研究个性化文本生成,根据各场景不同特性充分利用已有的用户个性化信息并结合到文本生成模块中,从简单的用户标签到复杂的用户信息建模,逐步实现文本生成的个性化目标:(1)在单轮短文本对话任务中,系统需要根据用户给出的上文生成合适的回复。我们考虑利用对话文本中蕴含的情感信息进行个性化文本回复生成。本文通过真实数据分析展示情感信息在短文本对话中的作用,并根据分析所得的结论设计生成模型模仿人与人之间的对话。我们提出了分步学习及联合学习模型,同时考虑预测回复中的合适情感以及生成包含情感的回复这两个研究问题。模型通过结合注意力机制,可以在给定上文时预测适合出现在回复中的各种情感并使生成的文本包含这些情感。实验表明模型可以生成情感合适的高质量的短文本回复,产生的文本高度个性化且具有多样性。(2)可解释推荐是推荐系统领域新兴的研究热点。系统在向用户推荐商品的同时产生文本作为推荐理由,这有助于用户更好地理解系统,提升系统的可信度与满意度。具体的,我们研究如何结合用户历史评论信息,在进行推荐的同时生成个性化的解释文本。现有工作普遍缺乏对推荐准确性与可解释性之间深层次联系的探索,无法同时对二者进行优化。故本文提出了基于互注意力机制的多任务学习模型,将个性化文本生成任务与推荐任务紧密关联起来。基于认知科学的相关知识,我们采用编码器-选择器-解码器的多任务模型架构,结合分层的基于互注意力机制的选择器,使得模型能够表征用户-商品间的深度交互,并引入多指针网络高效地建模两任务之间的交叉知识传递。最终本文在真实数据集上验证了模型对推荐准确性和可解释性的提升作用,且能够生成个性化的文本作为推荐解释。(3)可解释推荐系统能够在推荐商品的同时生成对应的文本解释。研究表明,生成的文本不仅能帮助用户理解推荐系统,更是连接用户与推荐系统的桥梁,引导用户向系统提供反馈。因此我们进一步提出可解释对话式推荐任务:推荐系统持续给出解释文本帮助用户理解模型,驱使用户提供反馈并吸收到模型中,迭代地提升推荐准确性以及解释质量。本文设计了增量的多任务学习模型进行可解释对话式推荐,利用共同优化的多个目标函数发挥推荐结果预测、解释生成以及用户反馈整合三个模块间的相互促进作用。通过建模“概念词”实现推荐与解释任务间的信息传递,并驱使用户对概念词的好恶进行反馈,将之整合到原模型中实现更新。本文引入多视角用户反馈整合模块实现模型的高效更新,第一个视角关注局部的用户反馈是否被满足,第二个视角关注整体模型的推荐效果是否提升。真实数据集上的模拟实验验证了模型能够高效地整合用户反馈显著且稳定地提升推荐及解释效果,并保证对用户反馈的及时响应。综上,本文通过研究个性化文本生成的多个现实应用场景,展示了如何针对具体的场景与个性化信息充分且高效地建模用户个性,并与文本生成相结合,发挥出个性化文本生成在场景中的重要优势与作用,具有相当的实际意义与价值。