基于注意力机制的知识追踪方法研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:zhangduanhua0505
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着网络和信息技术的飞速发展,在线教育得到了快速普及,如今的在线教育行业正在从数字时代、移动时代向以人工智能、教育大数据挖掘为基础的智慧教育过渡。智能教育系统中包含了数以百万计的学生,每个学生的兴趣爱好、个人潜质和学习能力都是有差别的。智慧教育旨在为学生提供更多的个性化学习指导,针对学生的薄弱知识点进行科学性和有效性的分析,为学生制定自适应的学习方案。因此,如何利用数据挖掘相关技术对学生的学习过程进行建模,准确掌握学生的学习状态是一个非常重要的课题。知识追踪是模拟学生知识状态的关键技术,也是增强个性化教育能力的重点研究领域之一。作为学生个性化建模的基石,知识追踪在长期的研究积累中取得了一些不错的成果。但由于在线教育的特殊性,知识追踪仍然面临许多挑战。智能教育系统包含非常庞大的资源数据,如何在海量数据中找到起决定性的数据是一个很大的难题。在线教育允许用户在任何设备、任何时间和任何地点进行学习,因此学习数据往往是稀疏的。此外,许多现有的知识追踪模型没有合理利用题目的文本特征。最近,注意力机制广泛应用于神经机器翻译领域,并且取得了不错的表现。注意力机制的主要思想是模拟人的选择性视觉机制,进而从海量的信息中挑选出对当前任务更为关键的信息,这为智慧教育中的知识追踪提供了新的思路。本文基于注意力机制的方法,在长短时记忆网络和动态键值记忆网络的基础上,改进知识追踪模型。本文的主要研究工作如下:(1)在现有的知识追踪模型中,题目的属性信息经常被忽略,只是作为一种隐性条件。本文针对题目中包含的属性信息,提出了一种基于异构信息网络的题目建模方法。其次,设计了一种基于题目元路径的异构网络嵌入方法,将题目的属性关系通过图的表示映射到向量空间中,有效缓解了学生学习数据稀疏性的问题。(2)根据题目的属性特征,结合长短时记忆网络提出了基于异构信息网络嵌入和注意力机制的知识追踪模型。利用注意力机制捕捉学生历史答题序列和当前题目之间的关系,通过计算历史序列中每个问题和当前问题的相关程度,强化了历史序列中和当前状态最相关的问题,以此提高知识追踪的效果。为了验证所提模型的有效性,本文在多个数据集上进行了实验,结果表明该模型优于多个对比方法。(3)提出了一种基于题目增强的动态键值记忆网络知识追踪模型。传统的知识追踪模型使用特定的编号代表题目,忽略了题目文本中包含的丰富语义信息。针对学习资源表征困难问题,本文提出了基于语义理解的练习题表征方法。首先,使用BERT模型获取题目文本中每个词的向量表示。其次,为了在编码过程中不丢失词语之间的语义联系,引入一个双向自注意力机制对词向量进行编码整合,得到整个题目的句子级别特征。最后,我们使用了一个动态键值记忆网络模拟学生的学习过程,帮助追踪学生的学习状态。在真实数据集上的实验结果验证了该方法的有效性。综上所述,本文在注意力机制的基础上,结合深度学习相关算法对知识追踪问题进行研究。通过大量的实验表明,本文提出的算法能够更准确地模拟出学生的认知水平,并能对未来的做题结果进行预测。
其他文献
土地承载着人类的社会活动,是人类社会发展的基础,与我们的生活息息相关,随着经济社会的快速发展,土地成为越来越重要的资源,合法保护和适当利用土地资源变得越来越重要。土地质量是土地的综合属性,体现了自然因素、人类活动等对土地的影响,通过土地质量地球化学评价可以得到土壤有益元素、有害元素等的含量水平、空间分布,以及土地质量的综合水平。了解研究区土地质量的详细情况,对土地利用规划、环境保护和可持续发展有重
从人工智能这一概念被首次提出至今,游戏博弈一直都是其最具技术和挑战性的主要研究领域和方向之一,博弈又可以划分为完全信息博弈和非完全信息博弈。完全信息博弈主要指在进行博弈时,信息都是完全可知的;非完全信息博弈的主要特征是智能体进行博弈时无法从局面信息中获得所有的信息。很多博弈都实际上是基于非完全的信息博弈模式来进行开发和对局的,例如带手牌的德州扑克等牌类,麻将,有战争迷雾的即时战略游戏等。真实世界的
随着人工智能领域的蓬勃发展,人工智能技术在人们日常生活中的应用日益广泛。其中机器学习日渐成为人工智能中最不可或缺的重要技术,而深度强化学习以其独特的学习模式成为了机器学习领域最炙手可热的研究方向之一。在深度强化学习中,模型的学习不需要提前采集大量标注的样本数据用于训练,也不需要考虑样本覆盖率问题,而是通过其独特的交互学习模式边学习边采集训练数据,甚至还能实现自我学习。这也使得深度强化学习在需要短时
随着近年来电子存储技术的不断进步与发展,以及科学界的学术数据的指数增长,人们得以在更高规模的数据集上对科学事业进行更深层次的探索。随着存储技术的发展和计算能力的提升,这些数据的可获取性和可分析性得到极大增强,同时也催生了一门新兴的交叉学科:科学学(Science of Science)。科学学旨在通过网络科学、数据科学和人工智能的理论基础与技术手段,对这些由学术大数据构成的复杂系统进行挖掘与分析,
乡村聚落作为农民生产、生活及进行各种社会经济活动的主要载体,是人地关系相互作用最为密切的地域单元。伴随着城镇化进程的不断加速,乡村聚落布局不合理、土地利用效率低下、功能配置不完善等问题严重制约着乡村发展,对城乡统筹和乡村振兴战略的实施推进带来了巨大阻碍。在当前乡村社会经济转型的关键时期,针对围绕乡村聚落产生的各种问题,更需要科学有序引导乡村建设规划,协调乡村人地关系健康可持续发展。在此背景下,为适
本论文研究一类基于双曲正切模型的不确定离散系统的鲁棒镇定问题和H∞控制问题,主要结果包括以下三个部分: 第一部分:研究了一类基于双曲正切模型的不确定离散系统的状态反馈H∞控制问题。不确定参数具有线性分式形式,范数有界形式是其特殊形式。通过函数阵是PDD矩阵的李雅普诺夫函数的方法,给出了系统稳定且满足H∞性能界的具有线性矩阵不等式(LMI)形式的充分条件和H∞状态反馈控制器的设计方法。最后,通
公约形成,是多智能体系统(MAS)中普遍存在的一种通过去中心化方式而形成一致性行为的过程,是一种通过智能体自主决策达到MAS协调的有效方式。MAS的协调有助于减少各种资源和时间的冲突,并促进智能体之间的互利共赢。形成的一致性行为也称为公约,其通过离散的方式对智能体的预期行为进行约束,极大的促进了智能体之间的协调,实现智能体自身以及MAS的利益最大化。因此在MAS中,研究如何快速有效的形成公约是一直
学位
在农村现代化进程加快的背景下,作为信息社会弱势群体的少数民族村民,参与到网络社会的信息互动中,现代媒介逐渐渗入少数民族村民的日常生活。笔者研究的中里屯是广西偏远山区的一个毛南族村落,属于环江毛南族自治县,是广西众多偏远少数民族山区农村的其中之一。本文运用线上线下民族志的研究方法,通过田野调查和访谈,从村民的微信社交、生活方式以及情感体验三个方面对微信与中里屯毛南族村民日常生活进行研究。第一章“线上
本文主要研究了基于Kp=L2D2S2分解的多变量系统的模型参考自适应控制(MRAC),分为以下两个部分: 一.基于高频增益矩阵Kp=L2D2S2分解的多变量系统的模型参考自适应控制(MRAC) 考虑下面理想的多输入多输出系统 y=G(s)u,(2.2.1)其中G(s)∈Rm×m[s]是传递函数矩阵,u,y∈Rm。 控制目标是设计控制律使得闭环系统的所有信号均一致有界,且使得