摘要：人体关键点检测是计算机视觉的热点研究领域.目前,对于体操动作关键点检测,仍存在检测精度不足及缺乏细节部位检测能力等问题.为了提升检测精度,本文设计了一种多分辨率网络,该网络在浅层具备较大感受野,同时能够利用高分辨率通道增强细节特征的提取能力.为实现对手部及脚部关键点的检测,设计了一种增量学习网络.该网络融合了多分辨率网络的浅层特征并利用自建数据集计算深层特征以提升网络对手部及脚部关键点的检测能力.最后对两个网络输出结果进行合并.计算机仿真表明,多分辨率网络在COCO2017关键点检测数据集上达到了94.4%的准确率,并且增量学习网络能够在训练数据较少的情况下实现对细节部位关键点的准确检测.

摘要：针对指挥信息系统历史状态样本有限的特点,基于支持向量机(support vector machines,SVM)设计了一种面向不平衡数据的SVM增量学习方法。针对系统正常/异常状态样本不平衡的情况,首先利用支持向量生成一部分新样本,然后通过分带的思想逐带产生分布更加均匀的新样本以调节原样本集的不平衡比。针对系统监控实时性要求高且在运行过程中会有新样本不断加入的特点,采用增量学习的方式对分类模型进行持续更新,在放松KKT(Karush-Kuhn-Tucker)更新触发条件的基础上,通过定义样本重要度并引入保留率和遗忘率的方式减少了增量学习过程中所需训练的样本数量。为了验证算法的有效性和优越性,实验部分在真实系统中获得的数据集以及UCI数据集中3类6组不平衡数据集中与现有的算法进行了对比。结果表明,所提算法能够有效实现对不平衡数据的增量学习,从而满足指挥信息系统状态监控的需求。

摘要：机械剩余使用寿命预测模型依据设备状态监测数据样本进行寿命预测,当样本模式发生变化时,基于原模式样本训练好的模型在新模式样本上的预测表现往往较差。为使模型保留对原模式样本的处理能力,同时拓展出针对新模式样本的处理能力,提出了3种增量学习方法:第一种方法使用新模式样本与原模式样本的标签值构建损失函数;第二种方法在第一种方法基础上增加了模型参数初始化步骤;第三种方法在第一种方法的损失函数中增加了表示当前模型与原模型参数分布差异的正则化项。在涡扇发动机数据集上进行了不同学习方法的对比实验,结果表明所提方法实现了增量学习的目标,其中第三种方法在模型预测准确度和模型训练时长两方面取得了最优的综合表现。

摘要：针对图像分类中类增量学习的知识灾难性遗忘现象,现有类增量学习方法着重于模型分类层的不平衡偏移修正,忽视了模型特征层的偏移,未能良好解决类增量学习所面临的新旧类别不平衡问题。为此,提出一种新的类增量学习方法,称为融合平衡权重和自监督的类增量学习方法(BWSS)。首先,BWSS利用旧类在训练中预测期望低的特点设计了自适应的平衡权重,扩大旧类的损失回传占比以修正整个模型的偏移。其次,BWSS引入自监督模块,将样例的旋转角度预测作为辅助任务,强化模型对冗余特征和共性特征的表达能力,以更好地支撑增量任务。通过与主流类增量学习算法在公开数据集CIFAR-10和CIFAR-100上的实验对比,证明BWSS不仅在类别少样例多的CIFAR-10上增量性能更优,在类别多样本少的CIFAR-100上同样具有优势。通过消融实验和特征可视化,验证了所提方法对模型的特征表示能力和增量性能是有效的。BWSS在CIFAR-10上的5阶段增量任务最终准确率达到了76.9%,相比基线方法提高了5个百分点。

摘要：针对神经网络模型在增量学习中存在灾难性遗忘问题,提出一种基于自监督与隐层蒸馏约束的正则化类增量学习方法,包括自监督伪标签预测、隐层蒸馏约束和参数正则化.首先基于贝叶斯和信息论提出一种对模型参数重要性评价的正则化策略;然后利用自监督伪标签预测增强模型的表征能力,并保留隐层特征,通过加入高斯噪声提高隐层特征的泛化能力;最后使用蒸馏约束方法与交叉熵分类损失对历史任务的隐层特征与输出层特征进行训练.在CIFAR-10和CIFAR-100数据集上的实验结果表明,所提方法取得较好的效果,其中,在CIFAR-100数据集上的平均准确率和遗忘率分别达到64.16%和15.95%;该方法能够有效地减少灾难性遗忘的影响.

摘要：针对类增量学习中的灾难性遗忘问题,提出一种基于多样性样本回放的类增量学习方法。为使类增量学习能够时序、快速地输入任务数据流,在因果卷积网络模型中引入自注意力机制;通过样本分类的不确定性和数据增强抽取多样性回放样本,提升新任务渐进式学习的效果并防止模型对旧任务的遗忘;采用一阶段生成伪特征与真实特征加权对比进行剪枝去除冗余的网络参数。实验结果表明,提出算法的精度优于经典增量学习算法,可有效缓解灾难性遗忘问题并提升增量学习性能。

摘要：针对联邦增量场景中持续学习和数据安全的问题,构建了结合元学习的去中心化联邦增量学习框架。首先,为解决增量场景中持续学习带来的灾难性遗忘问题,提出了结合最近类均值样本回放的增量元学习方法NMR-cMAML,利用元训练对不同任务流的快速适应进行元更新,得到适用于新旧样本的模型。然后,为解决联邦增量场景中的数据安全问题,设计了基于对等网络架构的去中心化联邦增量学习框架,对等架构中每个客户端采用NMR-cMAML对私有的持续任务流进行增量学习。不同于传统的基于服务器-客户端的中心化架构,该去中心化架构采用客户端间通信的策略,消除了传统中央服务器易被攻击的隐患;同时,在联邦通信过程中,通过共享元学习的模型参数实现客户端间知识的有效迁移。最后在图像数据集(Cifar100和Imagenet50)上进行了不同任务场景的实验,结果表明所提方法能在提高系统的数据安全性的同时提升客户端本地性能。

摘要：针对热轧带钢在轧制过程中出现的由于换辊或其他原因导致的精轧宽展预测模型不精准、热轧领域采集数据维度高和数据量大时训练时间长等问题,提出了一种面向工况漂移的基于增量学习树模型的带钢精轧宽度预测方法。首先,根据传统精轧机理模型得出变工况产生的原因和主要特征参数;然后,将在机理与数据层次上总结得到的有效数据特征作为预测模型的输入,采用增量学习方法建立宽展预测模型;最后,通过实验设计,在实际数据上将增量学习建立的树模型与其他机器学习模型在相同指标上进行对比。结果表明,提出的基于增量学习的树模型在宽展预测中拥有较高的预测精度和较低的运行时间。

摘要：为应对层出不穷的新型网络威胁,提出了一种基于对比增量学习的细粒度恶意流量识别方法。所提方法基于变分自编码器和极值理论,在对已知类、小样本类和未知类流量实现高性能检测的同时,还可以在不采用大量原任务样本的条件下快速实现对新增恶意类的识别,以满足增量学习场景下对存储成本和训练时间的要求。具体来说,模型将对比学习融入变分自编码器的编码阶段,并采用A-Softmax实现对已知类和小样本类的识别;将变分自编码器重构与极值理论结合,采用重构误差实现对未知类的识别;利用变分自编码器存储原有类知识,采用样本重构和知识蒸馏方法,在不采用大量原有类样本的条件下实现对所有类样本的识别。实验结果表明,所提方法不仅实现了对已知类、小样本类和未知类流量高性能检测,并且所设计的样本重构和知识蒸馏模块均可有效降低增量学习场景下对原有类知识的遗忘速度。

摘要：在许多实际应用场景中,可以从不同层次、不同角度获取相同对象的特征数据,如何有效地利用获取的多视角数据是一个值得研究的问题.和传统的单视角学习相比,多视角学习在多源数据的应用中显示了一定的优势.多角度学习(Multi-View Learning,MVL)面临的一个重要问题是在满足不同视角互补性的前提下如何保持视角之间的一致性.针对以上问题,提出一种新的多视角特权协同核化随机向量功能链接网络(KMPRVFL)来有效地解决多视角分类问题,其基本思想是将冗余视角的额外信息与平均视角上的特权信息相结合来监督当前视角的分类任务,将多视角数据用核化后加权线性组合成综合第二视角.同时,还设计了一种增量学习方法,可以有效地减少计算量.在真实数据集上的实验结果表明,和传统的多视角学习方法相比,KMPRVFL的能力更强,其平均测试精度要优于对比算法.