摘要：目前,基于长文本的实体关系抽取研究倾向于对实体和关系隐式建模,未能有效利用实体间、实体与关系间的隐含联系,无法获取两个相距较远实体之间的依赖关系。为此,提出一种融合额外实体信息的层级联合抽取模型J-AH,基于注意力建模实体间依赖特征,通过拼接融合实体类型和依赖特征得到实体聚合表示,计算文本聚合表示与关系信息的中间差异因子进行信息层级融合,形成实体间、实体与关系间相互促进、相互增强的正向互动。在英文公开数据集DialogueRE上的实验数据表明,模型的F1值相较于对比模型提升了1.3个百分点,验证了模型的优势。

摘要：为获得结构化的小麦品种表型和遗传描述,针对非结构化小麦种质数据中存在的实体边界模糊以及关系重叠问题,提出一种基于深度字词融合的小麦种质信息实体关系联合抽取模型WGIE-DCWF(wheat germplasm information extraction model based on deep character and word fusion)。模型编码层通过深度字词融合和上下文语义特征融合,提高密集实体特征识别能力;模型三元组抽取层建立层叠指针网络,提高重叠关系的提取能力。在小麦种质数据集和公开数据集上的一系列对比实验结果表明,WGIE-DCWF模型能够有效提高小麦种质数据实体关系联合抽取效果,同时拥有较好的泛化性,可以为小麦种质信息知识库构建提供技术支撑。

摘要：为充分发掘文本序列中潜层语义关系信息,提出一种实体和关系联合抽取的潜层关系增强模型SREM(text subtext relationship enhancement model)。在潜层关系表示层利用结构化对齐的方式,获取并保持文本序列中的语义信息结构。在融合注意力机制的关系网络层中对数据进行建模,提高模型对文本词汇间关系信息的捕获能力。结合注意力机制获取细粒度语义信息,对上下文信息进行选择过滤。实验结果表明,在数据集NYT和WebNLG上取得的F1值分别为92.40%和92.52%,验证了模型的有效性。

摘要：以往的知识抽取模型忽略了实体关系间的内在语义关联,并且在处理具有复杂关系的用水数据集时会产生大量的冗余信息。针对以上问题,提出一种融合语义信息的实体关系联合抽取模型。模型包括三个阶段:第一阶段,将经过BERT⁃wwm编码后的文本信息投影到关系检测空间中,过滤掉关系集合中的冗余数据;第二阶段,利用多头注意力机制将关系信息融合进文本编码,获取对应关系下的头实体和尾实体集合;第三阶段,引入融合上下文语义信息的实体相关矩阵,完成对三元组的准确提取。实验结果表明,所设计的模型在用水结构研究数据集上取得了较好的实体关系抽取效果。

摘要：[目的/意义]特定领域中的信息检索系统,往往因为用户自身领域知识不足存在检索效率低下的问题。现有的面向特定领域的知识组织工具,如领域知识图谱,可以有效缓解这一问题,但是如何将其更好地嵌入到现有信息检索系统中是目前尚未解决的问题。因此,提出一套基于领域知识图谱的探索式搜索系统的全流程解决方案,包括从实体及关系的联合抽取、领域知识图谱构建到探索式搜索系统的实现。[方法/过程]以图情领域学术文献为研究对象,对图情领域的实体及其间关系的形式化定义进行深入的探索、提出基于Paddle UIE实现实体及关系的联合抽取任务方法,并构建一个基于可交互图情领域知识图谱的原型检索系统。[结果/结论 ]通过比较不同实体及关系联合抽取方法的效果,包括Paddle UIE、Cas Rel、Sp ERT和CORE,发现基于提示学习的预训练大语言模型Paddle UIE具有更好的抽取效果,特别是在样本量较少的情况下。此外,从进一步设计的两个搜索实验任务结果中可以发现,与通用搜索引擎相比,本文系统可以显著提高用户满意度,有效解决用户领域知识不足(如跨学科场景)下检索性能低下的问题,表明本文提出的全流程解决方案可以为学术文献服务提供方开发用户支持工具提供流程指导和建议。

摘要：关系抽取作为知识图谱等诸多领域的上游任务,具有广泛应用价值,近年来受到广泛关注。关系抽取模型普遍存在暴露偏差问题,抽取文本普遍存在实体嵌套和实体重叠问题,这些问题严重影响了模型性能。因此,提出了一种基于片段标注的实体关系联合抽取模型(span-labeling based model,SLM),主要包括:将实体关系抽取问题转化为片段标注问题;使用滑动窗口和三种映射策略将词元(token)序列进行组合排列重新平铺成片段(span)序列;使用LSTM和多头自注意力机制进行片段深层语义特征提取;设计了实体关系标签,使用多层标注方法进行关系标签分类。在英文数据集NYT、WebNLG上进行实验,相对于基线模型F1值显著提高,验证了模型的有效性,能有效解决上述问题。

摘要：文中研究了知识图谱中关于实体关系联合抽取方式,解决流水线抽取方式的误差传播、效率低下及关系重叠的问题,设计了网络安全本体模型,提出基于深度学习的Seq2Seq联合抽取模型,编码层通过BERT-WWM和双向长短期记忆网络(Bi-directional Long Short-Term Memory,BiLSTM)模型获取上下文语义表示,并融合多头注意力机制突显文本中的重要单词,解码层通过指针网络输出序列标注,从而获取头实体、关系及尾实体。以自标注的数据集为语料,通过TensorFlow框架建模,对实体和关系抽取的质量进行评估。结果表明,模型的精确率、召回率和F1值均较高,验证了联合抽取模型的有效性,最后通过Neo4j图数据库构建并可视化知识图谱。

摘要：针对目前机器学习方法在化学领域的资源实体及关系抽取任务上召回率低以及高度依赖人工特征工程和领域知识的问题,提出一种基于实体信息及关系信息融合标注的联合抽取方法(Information Fusion Tagging-Joint Model,IFT-Joint)。该方法主要从以下两个方面改进:将联合抽取任务转化为序列标注问题,缓解联合抽取中重叠关系的问题;从序列标注的角度出发,提出一种基于BERT(Bidirectional Encoder Representations from Transformers)联合抽取模型。通过多组实验表明,在化学领域实体数据集上,IFT-Joint的召回率可达到75%以上,相比于所提到的其他方法效果提升明显,且具有良好的稳定性。

摘要：实体及关系抽取是信息抽取中的两个核心任务,是构建知识图谱的重要基石。对于实体识别和关系抽取,当前通常采取人工提取特征和规则,分独立两步实现的方法,这种方法易造成数据重复预处理和错误传播。实体识别和关系抽取两个模块存在相互关联性,实体识别是进行关系抽取的基础,实体关系抽取结果又可反馈校验实体信息。因此,文中提出无须添加人工特征和引入互反馈机制的混合神经网络模型(Mufeedback-Join Model)来完成实体及其关系的联合抽取,实现实体关系对实体识别的反馈校验机制。该模型共享Bi-LSTM特征提取层来提取文本上下文特征,依据共享层特征引入Attention机制捕获关键局部特征来完成解码,再用条件随机场CRF完成实体序列的标注任务,融合共享层特征和实体特征,并将其输入到CNN模型来实现实体关系的抽取,最后计算关系抽取结果的损失值,再联合实体识别损失值反馈修正特征提取层和实体识别模型参数。将此算法应用在实体数据集上进行实验,在同等硬件环境下,该方法可以缩短的模型训练时间,提升实体及关系抽取的准确率、召回率和F1值,联合抽取的F1值整体提升了3.91%,实体识别子模块的F1值平均提升了1.34%,关系抽取的F1值提升了5.79%。实验数据说明,联合抽取模型可以实现两个子模块的合并,从而缩短数据处理时间和减少错误数据的传递;相互反馈的机制可以提升整体识别效果。

摘要：针对现有实体和关系联合抽取方法中存在的实体与关系依赖建模不足、实体发生重叠难以抽取其所涉及的多个关系的问题,设计了基于深度学习的联合抽取框架。首先针对依赖建模不足问题,从预训练语料中提取实体共现特征,建模了实体间的潜在语义关系和实体与关系之间的依赖关系。其次提出了新颖的指针标注方法,该标注方法可以通过指针表示关系类别,由于任一实体可以被多个指针指向,所以可以在一段文本中标注重叠的实体并抽取多个实体—关系三元组结果。最后,为了有效利用单词的丰富语义和指针之间依赖的信息,设计了一个标签感知注意力机制,融合了包括来自编码层的字词信息、相关的共现语义信息。与研究中前沿的联合提取方法相比,该方法在百度DuIE测试集上实现了F_(1)值的增加。通过实验结果表明指针标注方法在一定程度上可以解决实体重叠问题。