税收是国家组织财政收入的主要形式与工具,税务持续受到社会公民的广泛关注。伴随我国税务信息化建设的全面开展,税务办理效率显著提升,但目前税务存在业务内容复杂、征管关系繁多、时效性较差等问题。纳税人无法全面了解税务政策,税务办理存在的问题主要通过咨询客服专员得以解决,方式单一且人力资源投入较大,无法在较短时间解决大量用户的税务咨询需求。针对当前税务办理存在的问题,论文基于自然语言处理技术与系统开发相关理论,深度融合Electra模型与全词掩码机制（WWM）的优势,构建Electra-WWM复合模型并验证模型效果,以Electra-WWM复合模型为基础设计并实现税务问答系统,论文的主要研究工作如下:1.构建Electra-WWM模型。本文将近期达到SOTA（State-of-the-art）效果的Electra模型与全词掩码机制进行深度融合,根据先验知识构建实体词表和token词表,针对其特性调节损失函数,构建适用于中文环境的Electra-WWM特征表示模型。2.Electra-WWM模型实验与结果分析。为验证Electra-WWM模型有效性,本文利用CLUE2020语料,逐一训练Small、Base、Large三个不同参数规模的模型。实验数据集基于公开数据集CMRC2018、LCQMC、BQ Corpus与自建数据集TQ Corpus,选取F1与Accuracy作为评价指标,与Bert-Base、Ro BERTa-Base-WWM等模型进行对比实验。分析实验结果,与传统Electra模型相比,Electra-WWM在各参数规模上平均有1.5%的提升,解决了中文环境中简写和专有名词理解效果差的问题;与Bert-Base-WWM,Ro BERTa-Base-WWM等模型相比,本模型性能有一定的提升,验证了Elec-tra-WWM模型有效性。3.基于Electra-WWM模型的税务问答系统的设计与实现。论文首先对税务问答系统开展功能性需求分析,提炼税务业务流程、划分税务系统角色,明确系统整体设计原则,对系统的网络拓扑架构、软件层次架构展开设计,将税务问答系统的功能划分为监控统计、知识库管理、账号管理三个模块,设计相关数据库并对系统上线后的前后端界面予以展示。分析上线前测试结果与实际上线后运行结果,该系统能满足一般用户、客服专员与管理人员的业务需求,与同类型现存的智能客服系统相比,本系统的语义理解模型的识别能力强,迭代成本低,并提供贴合业务实际需要的功能模块,能够提高税务问答业务办理效率,优化用户体验。目前,该系统已在大连市、福州市等多地应用,累计创造价值逾百万元。