论文部分内容阅读
中文分词的难点在于处理歧义和识别未登录词，因此对新词的正确识别具有重要作用。文中结合提出的新词测间模式特征以及各种词内部模式特征，对从训练语料中抽取正负样本进行向量化，通过支持向量机的训练得到新词分类支持向量。对测试语料结合绝对折扣法进行新词候选的提取与筛选，并与洲练语料中提取的词间模式特征以及各种词内部模式特征进行向量化，得到新词候选向量，最后将训练语料中得到的新词分类支持向量以及对测试语料中得到的新洲候选向量结合进行SVM测试，得到最终的新词识别结果。