【摘 要】
：
该文提出利用一个大型且精度高的神经机器翻译模型(教师模型)从单语数据中提取隐性双语知识,从而改进小型且精度低的神经机器翻译模型(学生模型)的翻译质量。该文首先提出了&
【机 构】
：
中国科学院计算技术研究所智能信息处理重点实验室,中国科学院大学,清华大学计算机科学与技术系,北京搜狗科技发展有限公司语音交互技术中心,华为诺亚方舟实验室
【基金项目】
：
国家自然科学基金(61876174,61662077)
论文部分内容阅读
该文提出利用一个大型且精度高的神经机器翻译模型(教师模型)从单语数据中提取隐性双语知识,从而改进小型且精度低的神经机器翻译模型(学生模型)的翻译质量。该文首先提出了'伪双语数据'的教学方法,利用教师模型翻译单语数据获得的合成双语数据改进学生模型,然后提出了'负对数似然—知识蒸馏联合优化'教学方法,除了利用合成双语数据,还利用教师模型获得的目标语言词语概率分布作为知识,从而在知识蒸馏框架下提高学生模型的翻译质量。实验证明,在中英和德英翻译任务上,使用该方法训练的学生模型不仅在
其他文献
以柠檬酸三铵为前驱体,构建了系列N-CQDs(N掺杂碳量子点)修饰介孔TiO2/RGO(还原氧化石墨烯)异构体,并通过XRD、TEM、BET、BJH、XPS、PL、UV-Vis等测试手段系统表征其样品的微
近年来随着我国人民生活水平的提升,群众对精神文化需求不断上升,音乐类群众文化活动在各地开展得如火如荼。作为社会主义精神文明的重要组成部分,音乐类群众文化活动能够娱
以硅铁粉、Fe-Si3N4粉末、钛铁矿粉为原料,采用自蔓燃法制备Si3N4-Fe3Si复合材料。将Si3N4-Fe3Si复合材料试样在1 650,1 700,1 750和1 800℃氮气气氛下进行烧结。采用X射线衍
以聚丙烯酸丁酯-无规立构聚苯乙烯核壳乳胶粒子（PBA-aPS）增韧改性间规聚苯乙烯（sPS）,研究了PBA-aPS用量对sPS/PBA-aPS共混物力学性能和形态结构的影响.PBA-aPS的引入提高了sPS的
总结了35例骨科患者应用VSD负压封闭引流的护理体会,主要包含VSD技术操作、常规护理、心理护理及术后护理,认为在骨科中应用VSD负压封闭引流技术,能够有效避免干扰,改善创面
相信很多同学对北京首都国际机场(简称首都机场)并不陌生,你可能曾在那里离开、到达北京,也可能在新闻里听到过关于首都机场节假日客流量的报道,可以说长久以来,首都机场就是
教学生写作文是一个慢工夫,不是一朝一夕就能成功的。有个名人说得好：＂世上并不是没有美,而是缺少发现美。＂其实,作文并不是难教,而是缺少总结、缺少方法,教师只要善于总结方法,
随着当前社会群众文化的不断发展,音乐作为群众生活中不可或缺的一部分,逐渐成为人们生活中重要的精神食粮。在社会快速发展的同时,人们对于社会精神文明的追求也有所提高。
思维导图是一种全新的教育教学方法,可以进一步优化教学过程,提高课堂教学效率。思维导图在英语教学中应用的优势明显,尤其在词汇教学、语篇教学、写话教学中,能进一步激发学
ue＊M＃’＃dkB4＃＃8＃”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:（100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技