摘要：在航空服务的选择过程中,用户通常通过查看海量评论信息进行判断。然而,随着评论数据剧增和数据采集手段的提升,如何快速从评论中提取有效用户情感信息的难度也不断上升。基于bert模型设计出一种针对航空评论数据的情感分析方法。在真实的航空评论数据集上,该方法准确率能够达到0.8141,可在一定程度上降低购票风险,提升航空公司服务质量。

摘要：由于电网基建工程涉及因素较多,导致在对其知识图谱特征进行提取时,F1值难以得到保障,为此,本文章提出基于bert模型的电网基建工程知识图谱特征提取方法研究。以RDF模型为基础,构建了以三元组为基本单元的电网基建工程知识图谱模型;通过关系(即边)之间的联系,实现对电网基建工程知识图谱目标特征的有效提取。在测试结果中,设计方法对于不同特征,对应的提取结果F1值基本稳定在0.90以上,最大值达到了0.94,与对照组相比,在稳定性和有效性方面具有较为明显的优势。

摘要：Google AI团队发布的bert模型在多项自然语言处理任务中取得了研究成果,但在中文文献自动分类领域尚有待探索。本文旨在探索bert;中文基础模型在中文社科、科技期刊文献分类上的实际分类效果,指出模型在实际应用中存在的问题并提出解决方法。本文选取R大类(医药、卫生)、TG大类(金属学与金属工艺)、F大类(经济)、J大类(艺术)共1 745 000条数据作为训练语料,并以另外9 610条数据作为测试样本,利用bert模型分别对社科、科技期刊文献进行分类研究。测试结果表明bert模型在社科文献中的四级准确率为76.95%,科技文献为68.55%。之后引入惩罚策略,为实际工作中免检数据阈值的设定提供参考。bert;模型在《全国报刊索引》实际分类标引工作中有一定可行性,基本满足当前网络环境下中文文献自动分类的需求。

摘要：网络个性化信息消费时代,信息茧房带来的社会文化风险受到广泛关注。在“千人千面”的个性化表层之下,陷入“茧房”是让用户走向内容趋同还是趋异,是具有争议的学术命题和亟需检验的现实问题。基于bert模型,以新浪微博用户(N=2 143)为样本,实证检视社交网络内容生产中的用户“茧房趋同性”现象。主要研究发现:(1)任意两个用户的内容相似程度,能够通过彼此的“茧房”程度予以表达和预测;(2)“茧房”程度越高的用户彼此的内容相似程度越高,“茧房”程度差异越大的用户彼此的内容相似程度越低。结果从相似关系视角拓展和反思对信息茧房的认知,有助于深入刻画社交媒体UGC用户趋同背后的复杂机制和实践问题。

摘要：主题模型能够从海量文本数据中挖掘语义丰富的主题词,在文本分析的相关任务中发挥着重要作用。传统LDA主题模型在使用词袋模型表示文本时,无法建模词语之间的语义和序列关系,并且忽略了停用词与低频词。嵌入式主题模型(ETM)虽然使用Word2Vec模型来表示文本词向量解决上述问题,但在处理不同语境下的多义词时,通常将其表示为同一向量,无法体现词语的上下文语义差异。针对上述问题,设计了一种基于bert的嵌入式主题模型bert-ETM进行主题挖掘,在国内外通用数据集和《软件工程》领域文本语料上验证了所提方法的有效性。实验结果表明,该方法能克服传统主题模型存在的不足,主题一致性、多样性明显提升,在建模一词多义问题时表现优异,尤其是结合中文分词的Wobert-ETM,能够挖掘出高质量、细粒度的主题词,对大规模文本十分有效。

摘要：随着大数据时代的到来,问答系统成为人们获取信息的有效手段之一。作为问答系统关键一环的问句分类直接影响系统的性能。目前,问句分类研究主要集中在现代汉语领域,对中华典籍的问句分类研究还不多见。本文从问句分类概念出发,在生成中华典籍问句分类语料集的基础上,设计了面向中华典籍的问句分类体系,并对支持向量机、循环神经网络、长短时记忆神经网络、双向长短时记忆神经网络、bert等模型的问句分类性能进行了比较研究。实验结果表明,与支持向量机和传统深度学习模型相比,bert模型具有更优的问句分类能力,在本文提出的问句分类体系上,F1值达到95.55%,bert模型在中华典籍问句分类任务中具有一定优势,具有一定的推广和应用价值。

摘要：针对传统的方面级情感分析模型不能很好表征深层次的字词向量信息,且无法解决该领域由于人工标注的高成本方法,使得数据集普遍较少而导致的分类效果较差的问题,提出bertDTL-HAN方面级情感分析模型。模型通过bert结构在获得含有丰富语义信息字词向量信息的同时,结合深层次迁移学习和层次注意网络机制将数据量大的句子级别情感分析数据集,通过单词编码层和片段编码层两个维度深层迁移到数据量小的方面级情感分析任务中,并在三个领域的数据集上进行实验。对比该领域内的三个最佳基准模型,其准确率分别提升1.40%、0.96%和0.93%。

摘要：排比句的条理清晰、气势宏大,为各类文体的写作所广泛使用,但目前排比句自动识别方法的识别效率欠佳。采用深度学习的方法来优化排比句的自动识别;设计融合预处理算法与bert模型的排比句自动识别方法,提升模型的整体表现。针对作文数据集的测试结果表明,其识别效果和计算性能均有所改善,从而验证了该方法的有效性。

摘要：传统三元组抽取任务的方面词与意见词的抽取相互关联,采用流水线(Pipeline)或联合(Joint)模型架构会存在误差传递、错误传播等问题.基于上述问题,本文设计基于位置提示的双通道循环网络(Position-prompt dual-channel recurrent neural network,PDRN)模型解决三元组抽取任务.采用预训练bert模型生成词向量作为模型输入,通过双通道显示交互方法在多个循环中建立同步机制,作为两元组(方面、意见)抽取及配对,使用基于位置提示的bert-BiLSTM模型进行情感极性判别.在3个三元组抽取数据集进行实验,F1值相较最好的流水线模型和同类联合模型提高了1%~2%,在ASOTE任务上F1值相较基线最高提升了2.9%.

摘要：电子邮件在办公应用中有其独特的优势,但电子邮件在应用过程中也被一些人通过广告邮件推送的方式进行牟利,这些广告邮件也称为垃圾邮件。为了阻断垃圾邮件,邮箱管理者经常采用垃圾邮件分类的方法对其进行管理。但垃圾邮件推送者为了绕过邮件分类器,采取了同义词替换攻击的方法。本文通过使用SMS垃圾邮件的数据集,进行文本预处理和分类后,建立了根据从数据集中提取5000个最常见词语的词汇表,并将它们用作同义词库中的关键词。随后分别使用文本表示模型BoW、TF-IDF和新的bert模型,结合SVM、朴素贝叶斯、决策树算法,对同义词替换攻击检测。经比对分析,结果表明BoW和TF-IDF检测率急剧下降,而bert模型能够抵抗同义词替换攻击。