基于ALBERT-CAW模型的时政新闻命名实体识别方法

作     者：范钰程 梁凤梅 邬志勇 FAN Yucheng;LIANG Fengmei;WU Zhiyong

作者机构：太原理工大学信息与计算机学院山西晋中030600 

基　　金：山西省自然科学基金(201801D121144) 山西省青年科技研究基金(201801D221190) 

出 版 物：《电子设计工程》 (Electronic Design Engineering)

年 卷 期：2022年第30卷第15期

页      码：49-54页

摘      要：针对时政新闻领域词语的含义复杂、新词更新速度快等问题,提出了一种基于ALBERTCAW的时政新闻命名实体识别模型。使用预训练语言模型ALBERT获取文本的动态字词向量,在CAW层中利用多层CNN提取词语的局部特征,使用LSTM获得每个词的上下文语意,将两者结果融合,输入BiLSTM获取深层特征,通过条件随机场(CRF)获取最有可能的标签作为识别结果。在自建的人民日报新闻数据集上取得了87.3%的F1值,优于对比模型。实验结果表明,该模型能较好地应用于时政新闻命名实体识别任务。

主 题 词：命名实体识别 字词融合(CAW) ALBERT预训练语言模型 双向长短期记忆网络 条件随机场(CRF) 

学科分类：081203[081203] 08[工学] 0835[0835] 0812[工学-测绘类] 

D　O　I：10.14022/j.issn1674-6236.2022.15.011

馆 藏 号：203113858...