摘要：在方面级情感分析研究中,现有工作往往忽略不同类型词性贡献程度以及局部特征和全局特征的交互作用会影响分类准确率的问题。为此,提出了一种基于双层词性感知和多头交互注意机制的方面级情感分析模型DPMHA。首先,使用bert预训练模型获取包含上下文信息的词向量;其次,提出了双层词性感知的局部特征提取层,重点关注方面词周围具有重要词性词的特征,降低噪声词的影响;接着,在局部特征和全局特征之间设计了多头交互注意力机制,充分挖掘局部特征和全局特征之间重要的交互特征;最后,提出了动态特征融合层和softmax层获取情感分析的结果。在三个公开数据集上的实验结果表明,与现有的方面级情感分析模型相比,提出的DPMHA模型在restaurant14、laptop14、restaurant15数据集上MF1值分别提升了2.41%、1.24%、2.39%,准确率分别提升了1.34%、0.78%、0.37%。

摘要：目前中文命名实体识别模型在识别具有嵌套结构的实体时存在误差,无法准确识别。基于跨度的方法能够找出嵌套实体,但在识别过程中经常生成不包含实体的跨度,无法明确划分跨度边界,增加模型负担。针对此问题,提出了基于词汇融合与跨度边界检测的中文嵌套命名实体识别模型。该模型使用多词融合方法达到文本特征增强的目的,在设计的注入模块中将目标语句中字符相关的多个词汇信息进行合并,之后融入到bert中,以此获得更全面的上下文信息,提供更好的跨度表示;其次添加跨度边界检测模块,通过感知分类器预测跨度的首尾字符来划分跨度边界。在公共数据集上的实验表明,该模型可有效提升识别准确率。

摘要：广泛收集国家部委公开政策文件,在海量政策文本的基础上生成了我国政策体系量化因子,并借助时域溢出模型量化分析各政策目标对旅游业的溢出效应。结果表明,“质性分析→关键词正则→bert模型”能够解决政策体系的多目标量化特征提取问题,其中社会环境和需求支撑政策对景区营收的正向溢出效应较显著,旅游发展政策对景区经营业绩的影响较小。政策制定应充分重视其他政策对产业发展的溢出效应。旅游发展的相关政策制定不应局限于旅游本身,应配合支持居民消费需求、强化社会治理和安全保障的相关政策,实现更有效的政策体系设计。

摘要：为进一步提高当前的心理测试效果,通过深度学习的方式,设计一种多维度的心理测评系统。其中,将心理测评的结果细化为抑郁症的二分类问题;选择bert模型作为基础模型,结合多头注意力机制,实现基于文本情感分析的抑郁症二分类。实验结果表明,与HAN+L基线模型相比,提出的模型在进行抑郁症的二分类时整体上能够取得较好的分类效果,其中,将提出的模型与平均池化的处理方式相结合能够取得最好的分类效果,在准确率、精确率、召回率以及F1-score四个评价指标上分别提高了0.11、0.12、0.06、0.08。系统测试表明,基于构建心理测评模型可实现抑郁症准确的二分类,能够取得效果良好的心理测评效果,设计系统具有一定的实际应用价值。

摘要：本论文主要探讨了电力工程领域智能问答系统的设计与实现。首先进行了系统需求分析,确定了系统的功能需求和性能指标。在此基础上,完成了系统的架构设计、业务流程设计以及数据预处理模块、知识图谱模块、语义分析理解模块和答案生成展示模块的设计与实现。其中,利用bert模型和自然语言处理技术,提高了系统的智能化程度和准确性。数据预处理模块用于对电力工程领域的数据进行预处理,以便于后续的知识图谱构建和语义分析。知识图谱模块用于构建电力工程领域的知识图谱,以便于后续的语义分析和答案生成。语义分析理解模块用于对用户提问进行语义分析和理解,以提供准确的答案和解决方案。答案生成展示模块用于根据用户需求和要求,生成符合用户需求的答案和解决方案,并进行展示。本论文的研究成果为电力工程领域智能问答系统的开发和应用提供了重要的参考和借鉴。

摘要：为了给群众提供免费且准确的法律咨询服务并降低咨询成本和律师服务成本,对基于知识图谱的法务问答系统进行了设计研究。系统构建基于bert+BiLSTM+CRF的法律实体识别模型,对法律实体进行字符级抽取,将词向量技术、双向长短期记忆模型和条件随机场模型相结合,获得最优序列标注,为知识图谱构建和文本处理提供技术支持,并针对缺少法律咨询方面知识图谱的现状,构建了一个知识图谱,改善用户法律咨询的体验。

摘要：随着信息技术的发展,人们越来越多地使用网络平台进行购物、购票、出行等日常活动与娱乐项目。在这些活动之中,难以避免地会出现众多来自用户主观性的、带有情感色彩的评论。这些评论直观表现出对商品或者服务的偏好,同时也会出现一些虚假评论,网络平台运营者如果能根据用户的喜好进行推荐,则会大大促进用户的消费意愿,增加客户黏性。而若是能够提前对用户评论进行情感的分类,则能极大地提升分析的效率。该文将阐述如何用结构化开发方法设计并实现一套视频评论情感分析系统,采用训练好的bert模型对视频下的全部评论进行文本情感分析,并对用户展示正面评论、中性评论、负面评论、虚假评论的数量占比。

摘要：自主学习能力作为高校大学生重要的一种学习能力,已成为大学生应当具备的一项重要的基本素质。大学生自主学习最大难题是遇到问题时不能实时、精准、有效地解决。针对这个问题,提出基于自然语言处理(natural language processing,NLP)的自主学习智能问答系统。系统使用基于转换器的双向编码表征预训练模型提取输入序列的表示,然后通过注意力机制将表示传递到下游神经机器翻译模型的编码器和解码器的每一层中,最后联结成自主学习智能问答模型。在开源的中文医学问答数据集——cMedQA2上进行训练和测试自主学习智能问答模型。实验结果表明,与其它模型相比,该模型的自然语言处理评价指标BLUE值有明显提高。进一步分析预测样例,对于同一问题,预测值的表达基本与真实值相符。

摘要：随着5G网络建设规模不断扩大,传统高度依赖人工网络运维的模式在5G时代已不适用,高度智能化运维才是发展方向,需研发一套能兼容各个厂商的数智化上层应用。本文以运营商的角度,从智慧网管方向出发,基于NLP领域bert算法模型的AI意图引擎,联动基于***的模块化OMC参调脚本编排系统展开了应用研究。该系统在日常生产中能释放大量的劳动力,降低差错率和运维费用,提升工作效率,为今后的智能化运维提供了参考。

摘要：传统基于规则的web攻击检测方法需要人工设计添加规则,规则较多时消耗的计算资源会增长并降低检测效率,且无法识别未知攻击;近年基于深度学习的web攻击检测相关研究大多仅对http请求的url及参数部分进行检测,会遗漏部分存在于http请求其余字段的恶意攻击。针对上述问题,该文基于bert提出了两种对http请求进行全量检测的web攻击检测方法,对bert提出改进,基于其表征输出分别在网络后增加LSTM和Transformer,用于融合特征使bert支持长文本的输入。两种检测模型均使用服务网站真实数据集作为训练集,使用网站真实数据集的测试集部分验证其检测效果,使用CSIC2010公开数据集作为测试集验证模型的泛化能力。实验结果表明两种模型均可在保证检测效率的前提下有效识别网站真实数据集中的正常流量及异常流量,且使用Transformer的检测模型在两种测试集上表现更好。