摘要：卷积神经网络由于其有限的感受野无法高效捕捉到电力场景中避雷器、GIS进线套管等设备的上下文信息,进而影响检测效果。为解决上述问题,引入基于Transformer的体素注意力网络,提出局部注意力和空洞注意力机制来分别捕获图像体积像素中的近程和远程特征联系,在保证计算开销不增大的同时,有效扩大注意力范围。同时,设计子流形体素模块和稀疏体素模块来分别提取非空体素位置和空白体素位置上的特征信息。最后,在通用数据集Waymo和KITTI以及云南省某输变电区域的图像数据集上与主流模型进行比较,证明所提模型对于电力设备的检测具有更加优越的性能。

摘要：旅行商问题是一个经典的组合优化问题。为快速求解旅行商问题,设计了由图嵌入网络、图卷积神经网络、注意力神经网络和多层感知机组合而成的深度学习模型的学习分支规则,通过改进传统的分支定界算法提高算法性能。对15个城市的旅行商问题实例进行监督训练,并在SCIP求解器上分别测试10,15,20,25和30个城市的旅行商问题实例。发现:基于学习分支规则的分支定界算法的求解时间比基于传统分支规则的分支定界算法的求解时间分别快-0.0022 s,0.0178 s,1.7643 s,2.3074 s和2.0538 s。因此,基于图神经网络的分支变量选择对传统分支规则的改进是有效的,可以较好地泛化到训练规模更大的旅行商问题实例中。

摘要：知识图谱在推荐算法中的应用有效增强了推荐结果的可解释性,但仍缺乏对用户-物品交互信息的关注。针对目前已有的知识图谱推荐算法忽略用户端与物品端的差异而无法有效地提取用户与物品信息的问题,提出了融合双端注意力网络的知识图谱推荐算法(double end knowledge graph attention network,DEKGAN)。首先根据用户端与物品端两者不同的需求设计两种注意力网络,在用户端是将用户的浏览记录输入到知识图谱中不断扩展用户的潜在兴趣,通过基于用户的注意力网络对三元组内部信息进行计算以更准确地获取用户的嵌入表示向量;在物品端是将物品信息输入到知识图谱内中不断获取与用户喜好有关的物品信息,使用基于用户偏好的注意力网络指定更准确的传播方向,然后将两端注意力网络中获取到的邻域信息聚合生成物品的嵌入表示向量,最终获取用户对物品的喜好概率。通过在数据集MovieLens-1M和Book-Crossing中进行实验,采用AUC、F1、precision和recall指标进行评估,结果证明与其他基准算法相比推荐的准确性和可解释性有显著的提升。

摘要：采用注意力模型研究交通流量预测问题,提出并设计一种基于时间异质性结合噪声滤除的交通流量预测方法,有效预测美国加州高速公路未来1 h的交通流量。在构建预测方案过程中,分析交通流量数据特性,分别针对相对时间间隔和绝对时间进行建模,挖掘时间异质性;使用基于节点固有属性的动态噪声滤除方法,解决空间中噪声干扰问题;对预测模型的工作性能和结果进行详细分析,并结合基线模型进行对比评价。试验结果表明,挖掘时间异质性并动态滤除噪声的改进注意力机制预测模型具有一定的预测精度。

摘要：推荐系统能够在海量的信息中找到满足用户个性化需求的信息。随着深度学习的发展,深度学习也开始广泛被推荐系统所应用。CTR预估在推荐系统中起着重要作用,已被应用在个性化推荐、信息检索、在线广告等多个领域。针对推荐系统数据量大且稀疏的问题,文中将注意力网络和xDeepFM模型融合,提出了一种新的基于深度学习的CTR预估模型,即Atte-xDeepFM模型。该模型能够解决特征稀疏问题,有效学习特征之间的交互关系,且不需要手动提取特征工程中的有用信息。在Avazu数据集和Criteo数据集上进行的对比实验证明了文中提出的模型的有效性。与推荐系统CTR预估常用的算法模型对比,文中所提出的模型具有更好的推荐效果。

摘要：为解决医学图像中前景背景比例严重失衡及小目标区域难以分割的问题,该文提出了一种基于高斯图像金字塔的注意力网络。具体地,首先在特征解码阶段将空间信息与抽象信息进行特征融合;其次,设计了一个特征召回器以强制编码器减少遗漏感兴趣区域的特征;最后,引入分类精度和全局区域重叠项组成的混合损失函数来处理医学图像前景背景严重不平衡问题。所提出的方法在膝关节软骨数据集和COVOID-19胸部CT数据集中进行了验证,其分割区域分别占2.08%和10.73%。与U-Net及其主流变体相比,该方法在两个数据集上都得到了最佳的Dice系数,分别为0.884±0.032和0.831±0.072。

摘要：当今JavaScript代码混淆方法日益多样,现有检测方法在对混淆代检测时会出现漏报和误报的情况,为解决该问题,提出一种基于CB-Attention的JavaScript恶意代码检测方法。由SDPCNN模型和BiLSTM+Attention模型构成,SDPCNN对短距离间的语义特征信息进行提取,BiLSTM+Attention获取JavaScript代码中长距离间的语义信息特征。为验证所提方法的有效性,将该方法与其它方法进行对比,对比结果表明,该方法具有较好的检测效果,F1-Score可达98.78%。

摘要：为解决因子分解机在提取高阶组合特征的缺陷问题,更好地学习到更多有用的特征信息,尝试用因子分解机提取交叉特征,并结合注意力网络、深度神经网络和多头自注意力机制等方法,从低、高阶组合特征中学习关键特征信息,最后根据不同阶的组合特征的重要性加权融合得到结果,以预估广告点击率。实验主要基于广告数据集Criteo展开,并在MovieLens数据集上进行类比实验,验证所提出算法模型的有效性,实验结果显示,本文提出的算法模型相较于基准模型,在2个数据集上的AUC指标提升分别有2.32个百分点和0.4个百分点。

摘要：针对现有基于深度学习的图像超分辨率重建方法,其对细节纹理恢复过程中容易产生伪纹理,并且没有充分利用原始低分辨率图像丰富的局部特征层信息的问题,提出一种基于注意力生成对抗网络的超分辨率重建方法.该方法中生成器部分是通过注意力递归网络构成,其网络中还引入了密集残差块结构.首先,生成器利用自编码结构提取图像局部特征层信息,并提升分辨率;然后,通过判别器进行图像修正,最终将图像重建为高分辨率图像.实验结果表明,在多种面向峰值信噪比超分辨率评价方法的网络中,所设计的网络表现出了稳定的训练性能,改善了图像的视觉质量,同时具有较强的鲁棒性.

摘要：在环境认知的动态避障过程中,除了预期不确定性事件,移动机器人还可能会遇到非预期不确定性事件.如何高效、灵活地应对非预期不确定性事件是移动机器人动态避障中面临的一个重要挑战.目前关于这方面的研究相对较少,且基于这些研究的移动机器人普遍缺乏自主学习能力,难以快速、灵活地应对突变的外部环境.鉴于此,首先,设计一个新的碰撞危险度指标,该指标不仅考虑障碍物的距离,同时也考虑障碍物速度对移动机器人运动的影响.模拟人脑中乙酰胆碱和去甲肾上腺素在应对环境不确定性时的反应机理,通过碰撞危险度指标引导移动机器人的注意力网络在关注预期刺激的背侧注意力网络和关注新刺激的腹侧注意网络之间切换,使得机器人灵活应对环境中的不确定性事件;然后,设计新的神经元学习率,以增强调节发育网络隐含层神经元的学习能力,提高机器人应对突变环境的快速响应能力;接着,修改突触权值更新规则,以提高移动机器人行为决策的准确性;最后,通过在两种不同场景下的仿真实验以及物理环境中的实验,验证所提出的应对环境中非预期不确定性事件的移动机器人调节发育学习方法的可行性.