摘要：【目的】针对当前传统聚落研究缺乏结合自然语言处理的原理与方法从海量文本数据中提取文化景观基因信息的相关探索,本文提出景观基因命名实体(Traditional Settlement Landscape Genes Named Entity,TSLGNE)的概念,并以邵阳市48个传统村落为案例,采用BERT-BiLSTM-CRF深度学习模型开展TSLGNE的识别研究。【方法】首先,结合地理实体特征与文化景观基因理论及其分类体系,提出TSLGNE的概念、分类体系与知识表达方法。其次,基于TSLGNE的分类体系与扩展BIOES标注方法,对研究案例源文本数据进行语料标注,构建了相应的语料库。随后,基于BERT-BiLSTM-CRF深度学习模型识别并提取语料数据中的TSLGNE信息。最后,通过Neo4j图数据库对获取到的TSLGNE知识进行组织与储存,并基于此对区域传统聚落及其TSLGNE进行空间特征分析。【结果】本文模型能够有效识别文本数据中的建筑、环境、文化等12类景观基因实体信息,总体精确率、召回率、F1值相较对比模型均有提升。与BiLSTM-CRF、BERT-CRF模型相比,本模型的F1值分别提高11%与1%。特别地,本模型对于语料数据质量差且语义复杂的实体的识别效果有极大提升,如文化基因C3类实体识别的F1较对比模型分别提高了31%与5%。【结论】此方法能够有效地对区域复杂的传统聚落文化基因特征及其关系进行空间分析处理,对今后结合GIS和数据挖掘方法分析传统聚落的重要文化特征及传统聚落知识服务等具有较好的借鉴意义。

摘要：[目的/意义]比较以BERT为代表的判别式语言模型与以ChatGPT为代表的生成式语言模型完成中文医学文本命名实体识别任务的效果,以期为生物医学领域的命名实体识别提供参考。[方法/过程]设计6种BERT拼接不同类型深度学习网络的抽取模型,同时针对ChatGPT设计融合不同维度元素的提示语,采用精确匹配和宽松匹配两种方式对中文医学实体的抽取效果进行评价。[结果/结论 ]在判别式语言模型中,BERT-BiLSTMCRF模型表现最优,其精确匹配与宽松匹配F1值分别达到85.71%和89.49%;在生成式语言模型中,结合提示语框架的GPT_baseline+A+three-shot模型取得最佳效果,其精确匹配与宽松匹配F1值分别为78.14%和84.73%。本研究场景下,BERT系列模型取得相对好的效果。精心设计的ChatGPT提示语框架能显著增强模型对命名实体识别任务的理解,有望成为未来自然语言处理领域的新突破点。

摘要：机电领域命名实体识别是机电创新设计信息检索最基础的过程。目前命名实体识别任务的数据在机电领域较少,且大部分存在不平衡问题。通过构建机电领域命名实体识别数据集,根据数据集文本结构特点设计多维数据增强方法,并提出基于改进loss的命名实体识别模型BERT-BiGRU-CRF(BL)。对互联网机电领域文本语料进行爬取并进行标注构成机电领域命名实体识别数据集;根据不同方式对数据集的影响从同类实体替换、同义词替换、语料裁减和语料拼接四个方面进行多维数据增强后按一定比例进行数据扩充增加数据丰富度;针对数据集数据不平衡问题设计使用Weigh loss平衡focal loss与CRF loss权重的模型,该模型采用BERT进行词向量编码,利用BiGRU完成文本向量的特征提取,使用CRF进行标签约束与解码。经实验证明,多维数据增强方法对模型效果有显著提升,并且经过改进的模型在原始和增强后数据集上表现均为最优,F1值分别为78.23%和83.3%。

摘要：针对中文命名实体识别中未充分利用完整的文本表示和语句特征的问题,提出一种融合多阶段特征的中文命名实体识别模型(LM-CNER)。采用全局注意力机制文本融合字符级嵌入与其预训练词向量,同时获取字符级特征和单词级特征。采用翻转长短时记忆网络(Re-LSTM)进行上下文特征提取,采用多头自注意力机制进行句法分析,并将二者进行拼接。使用条件随机场作为解码器,得到命名实体识别结果。在微博和简历两个数据集上的实验结果表明,该模型能够获取更加准确的文本表示和语句特征,提升模型的实体识别效果。

摘要：中药材用于胃病治疗的命名实体识别,是中药材开发领域文本信息挖掘的重要任务,也是构建知识图谱最重要的基础任务。为了更好地实现对中药材治疗胃病实体的提取,实验设计了5个命名实体识别模型进行实验比较,在预训练层、神经网络层,输出层都进行了不同设计,选择了更适合的BERT-BILSTM-CRF模型。首先,通过BERT生成特征提取层BILSTM的词向量;其次,利用BILSTM获取文本前后两个方向的特征得到相关特征向量;最后,利用CRF进行解码、标签预测,并讨论了模型各部分对实验的影响。实验表明,所提模型在自创数据集上的准确率、召回率、F1值分别为85.20%、85.47%、85.33%,相较于现有方法表现较好。

摘要：为了解决视觉特征和文本特征融合后存在部分语义缺失从而导致视觉信息对文本信息的补充有较大偏差的问题,提出了一种基于视觉与文本语义增强的多模态命名实体识别方法。融合BERT文本特征提取和CLIP(contrastive language–image pre-training)视觉特征提取方法,设计了基于协同交叉注意力机制的特征交互单元,以增强视觉信息和文本信息之间的语义关系。CLIP通过对比学习框架进行预训练,优化模型以正确匹配视觉和对应的文本描述,最大化正样本(匹配的视觉-文本对)的相似性,同时最小化负样本(不匹配的视觉-文本对)的相似性。采用通用领域数据集TWITTER-2015和TWITTER-2017作为实验数据集。实验结果表明,本模型相比传统方法在多模态命名实体识别任务中的准确率、召回率、F1值均有显著提升。

摘要：为优化AI问答效果,提出基于大语言模型命名实体识别的优化方法。首先,通过在多种分割方式中选取最优方案,结合词语划分概率判断结果,对语料库文本进行分词。其次,在预训练的BERT模型顶部添加线性层,并通过标注数据对预测实体类别进行微调,将预测的同类标签词组合得到命名实体。最后,通过上下文构建整合用户输入与识别结果,将整合结果输入模型生成回答,并结合用户反馈优化输出。结果表明,所提方法生成结果与参考文本之间的语义相似度较高,具备较为理想的问答效果。

摘要：伴随着广告的普及,违法广告检测的意义重大。面对目前已有的违法广告检测方法仅能判断是否违法,而不能提取违法词并关联违法法条的问题,提出一种基于命名实体识别的违法广告词检测方法,此方法将触及违法条例关键词作为特殊的实体进行识别。具体包括以下步骤:使用BERT(bidirectional encoder representation from transformers)预训练模型提取动态字向量作为模型的输入,构建双向长短期记忆网络获取广告文本上下文的信息输出得分向量,最后结合条件随机场对标签进行限制,获取到最优标签。实验结果表明,这种基于命名实体识别的检测方法可有效地完成违法广告的检测,不仅可以提取违法词,而且还可识别出违法词触犯的相应法条。

摘要：针对远程监督命名实体识别(named entity recognition,NER)任务,目前有许多基于强化学习的方法,利用强化学习的强大决策能力,对远程监督生成的自动标注数据进行噪声过滤.然而,这些方法所使用的策略网络模型架构都较简单,识别噪声能力较弱,且都以完整的句子样本为单位进行识别,导致句子中的部分正确信息被丢弃.为解决上述问题,提出了一种新的基于强化学习的方法,称为RLTL-DSNER,该方法可以从远程监督生成的带噪数据中,以单词级别识别正确实例,减少噪声实例对远程监督NER的负面影响.具体来说,在策略网络模型中引入了标签置信函数来准确识别实例.此外,提出了一种新颖的NER模型预训练策略,使其能为强化学习的初始训练提供精准的状态表示和有效的奖励值,引导其向正确的方向更新.在4个数据集上的实验结果验证了RLTL-DSNER方法的优越性,在NEWS数据集上,相较于现有最先进的方法,获得了4.28%的F1提升.

摘要：法律文书命名实体识别是智慧司法的关键任务。现有的序列标注模型仅关注字符信息,导致在法律文书命名实体识别任务中无法获得语义和词语的上下文信息,且无法对实体的边界进行限制。因此,该文提出了一个融合外部信息并对边界限制的司法命名实体识别模型(semantic and boundary enhance named entity recognition,SBENER)。该模型收集了40万条盗窃罪法律文书,首先,预训练模型,将获得的司法盗窃罪词向量作为输入模型的外部信息;其次,设计Adapter,将司法盗窃罪的信息融入字符序列以增强语义特征;最后,使用边界指针网络对实体边界进行限制,解决了序列标注模型丢失词语信息及缺少边界限制的问题。该模型在CAILIE 1.0数据集和LegalCorpus数据集上进行实验,结果表明,SBENER模型在2个数据集上的F_1值(F_1-score)分别达88.70%和87.67%,比其他基线模型取得了更好的效果。SBENER模型能够提升司法领域命名实体识别的效果。