摘要：针对长文本语义匹配中词向量前后之间联系不易捕获以及主题信息可能不唯一,通常使得语义匹配效果不佳的问题,提出了一种基于BERT与密集复合网络的长文本语义匹配方法,通过BERT嵌入与复合网络的密集连接,显著提高了长语义匹配的准确率。首先,将句子对输入BERT预训练模型,通过迭代反馈得到精准的词向量表示,进而得到高质量的句子对语义信息。其次,设计了一种密集复合网络,先由双向长短期记忆网络(bi-lstm)获得句子对的全局语义信息,然后由TextCNN提取并整合局部语义信息得到每个句子的关键特征和句子对间的对应关系,并将BERT与bi-lstm的隐藏输出与TextCNN的池化输出融合。最后,汇总训练过程中网络之间的关联状态,可以有效防止网络退化和增强模型判断能力。实验结果表明,在社区问题回答(CQA)长文本数据集上,本文方法平均提升幅度达到45%。

摘要：针对智能仓储多AGV(automated guided vehicle)路径规划实时性差,障碍物识别能力弱,多AGV碰撞、死锁和拥堵等问题,提出了一种智能仓储交通信号控制与多AGV路径规划协同控制方法,将交通信号与多AGV路径规划视为一个整体,设计一种交通信号与多AGV路径规划协同控制框架,并提出LS-A3C(long short-asynchronous advantage actor-critic)算法和bi-lstm-CBAM(bi-long short-term memory-convolutional block attention module)算法作为框架的核心算法。LS-A3C算法使用长短时编码器和注意力机制分别对交通信号的长期信息和短期信息进行编码,以学习元特征表示,并使用A3C框架计算元Q值和控制策略,实现交通信号时间自适应AGV流量,解决多AGV碰撞、死锁和拥堵等问题。bi-lstm-CBAM算法通过计算本时刻和前置时刻状态特征,对输出结果进行拼接处理,可以有效解决神经网络梯度消失和爆炸的问题,提高AGV路径规划实时性;引入注意力机制模块CBAM,根据输入信息重要程度分配权重,加强AGV对障碍物识别能力。在Sumo和Gazebo联合仿真平台进行仿真实验,实验结果表明,该协同控制方法使AGV碰撞、死锁及拥堵情况明显降低,障碍物识别能力显著提高,路径规划实时性大幅增强,达到提升AGV作业效率的目的。

摘要：[Objective]Real-time monitoring of cow ruminant behavior is of paramount importance for promptly obtaining relevant information about cow health and predicting cow ***,various strategies have been proposed for monitoring cow ruminant behavior,including video surveillance,sound recognition,and sensor monitoring ***‐ever,the application of edge device gives rise to the issue of inadequate real-time *** reduce the volume of data transmission and cloud computing workload while achieving real-time monitoring of dairy cow rumination behavior,a real-time monitoring method was proposed for cow ruminant behavior based on edge computing.[Methods]Autono‐mously designed edge devices were utilized to collect and process six-axis acceleration signals from cows in *** on these six-axis data,two distinct strategies,federated edge intelligence and split edge intelligence,were investigat‐ed for the real-time recognition of cow ruminant *** on the real-time recognition method for cow ruminant behavior leveraging federated edge intelligence,the CA-MobileNet v3 network was proposed by enhancing the MobileNet v3 network with a collaborative attention ***,a federated edge intelligence model was designed uti‐lizing the CA-MobileNet v3 network and the FedAvg federated aggregation *** the study on split edge intelli‐gence,a split edge intelligence model named MobileNet-lstm was designed by integrating the MobileNet v3 network with a fusion collaborative attention mechanism and the bi-lstm network.[Results and Discussions]Through compara‐tive experiments with MobileNet v3 and MobileNet-lstm,the federated edge intelligence model based on CA-Mo‐bileNet v3 achieved an average Precision rate,Recall rate,F1-Score,Specificity,and Accuracy of 97.1%,97.9%,97.5%,98.3%,and 98.2%,respectively,yielding the best recognition performance.[Conclusions]It is provided a real-time and effective method for monitoring cow rumin

摘要：针对当前机器阅读理解模型中文本与问题的语义融合不够充分、缺乏考虑全局的语义信息的问题,提出一种基于BERT、注意力机制与自注意力机制的机器阅读理解模型BERT_Att。该模型采用BERT将文本和问题分别映射进特征空间,通过bi-lstm、注意力机制与自注意力机制将文本与问题进行充分的语义融合,通过Softmax计算答案的概率分布。在公共数据集DuReader上的实验结果表明,该模型的BLEU-4值与ROUGE-L值较现有的模型均有进一步的提升,并且分析了影响模型表现的因素,验证了该模型设计的有效性。

摘要：数据中心内部设备产热量巨大,制冷系统运行不佳会导致热量堆积产生热风险。提出了一种基于bi-lstm的深度学习网络的数据中心热风险管理方法,通过对机房计算节点的温度场数据进行预处理和热风险标识,使用历史数据对数据中心机房计算节点热风险进行预警。针对机房内复杂的热环境,使用统计学方法从时空2个维度判定热风险标签,用于网络的训练,并将所得模型与传统机器学习模型进行对比,所提方法对热风险的预测精度可达99.07%,比传统机器学习模型的预测精度提升6.6%,可实现可靠的热风险预警管理。

摘要：为解决新能源接入电网后对短期负荷难以进行预测的问题,文中提出了一种基于改进lstm的短期负荷预测模型。该模型以神经网络中的双向长短期记忆网络为主体架构,引入了注意力机制和滑动更新模块,使得模型更加注重有效特征并实时更新输入数据,进而获得更为准确的特征信息,从而提高了对新能源电网负荷预测的准确性。以新能源占比较高的某省电网数据为例进行的实验分析结果显示,所提模型预测电网负荷的平均相对误差与均方根误差分别为1.25%和15.80MW,优于传统的机器学习模型及经典lstm神经网络,表明其能够有效地对新能源电网负荷进行预测,为电力系统调度和结构优化提供技术支撑。

摘要：为了有效改善面向智能软件工程情景式英语翻译的翻译模型性能和其翻译效果,此次研究结合注意力机制和双向长短时记忆网络搭建了新型的英语翻译模型,在此基础上,结合各类软件和硬件设备设计了面向智能软件工程的情景式英语语料库。研究结果表明,所搭建的翻译模型具有较好的性能表现,最多迭代20次能够达到稳定状态,其运行误差值也保持在0.05以下,翻译准确率高达0.98。在实际应用中也能够获得更高的专家满意度。综上,此次研究所搭建的翻译模型和英语语料库能够为软件工程情景式英语翻译提供新的技术支持,促进英语翻译更加智能和更加情景化。

摘要：bi-lstm输入为时间序列,可以挖掘词序列间的隐藏信息,但易忽略文本句子间的结构信息。CNN具位移不变性的优势,可以有效抽取文本句子间的结构特征,但很难察觉词序列间的隐藏信息。因此文章提出了序列—结构的文本分类算法,该算法将bi-lstm和CNN相结合形成优势互补,从词序列和文本结构上抽取文本信息,并结合注意力机制,减少信息冗余,优化特征向量,进一步提高分类的准确性。选择单纯的神经网络和加入注意力机制的神经网络作为比较对象,证明本算法的可行性和有效性。

摘要：本文在分析现有推荐算法利弊的基础上,提出了一个基于评论有用性的推荐框架。该框架引入多个深度学习算法,通过有用性评论评分样本进行训练,实验结果表明引入评论有用性信息可以提高个性化图书推荐的准确性,提高图书推荐服务的满意度。

摘要：由于不同模态间的数据表示方式不一致,跨模态检索是多媒体领域中的一大难题。本文设计了一种基于多模态特征记忆库的视频语音检索模型,该模型主要分为三个模块,分别为特征提取模块,多模态特征映射融合模块和特征记忆库模块。在特征提取模块中,我们分别使用I3D和bi-lstm来提取视频中的操作动作特征和语音中的特征信息。在特征映射融合模块中,先将两种模态特征对齐到同一空间中,再进行融合。在第三个模块中,本文创新性地引入了两个对应视频和语音的特征记忆库,根据特定条件在训练和测试过程中不断更新。在经过我们拓展过的MPII Cooking 2数据集进行实验,结果表明我们的模型能够实现更好的视频语音检索效果。