基于权值筛选策略的增量学习方法

作     者：莫建文 朱彦桥 欧阳宁 林乐平 MO Jian-wen;ZHU Yan-qiao;OU Yang-ning;LIN Le-ping

作者机构：桂林电子科技大学信息与通信学院认知无线电与信息处理省部共建教育部重点实验室广西桂林541004 桂林电子科技大学信息与通信学院广西桂林541004 

基　　金：国家自然科学基金项目(62001133、61661017、61967005、61362021) 广西科技基地和人才专项基金项目(桂科AD19110060) 广西自然科学基金项目(2017GXNSFBA198212) 广西无线宽带通信与信号处理重点实验室基金项目(GXKL06200114) 认知无线电教育部重点实验室基金项目(CRKL150103) 桂林电子科技大学研究生创新基金项目(2019YCXS020) 

出 版 物：《计算机工程与设计》 (Computer Engineering and Design)

年 卷 期：2022年第43卷第8期

页      码：2221-2227页

摘      要：为提高现有增量学习模型在容量固定环境下学习的持久性,提出一种基于权值选择策略的增量学习方法。根据贝叶斯神经网络携带的不确定性动态地调整权值的学习率,以此优化一个能同时记忆新旧知识的模型;为使模型的学习与记忆更有弹性,在此基础上提出一种权值选择策略,该策略可以令模型主动选择性地释放部分网络资源,在不严重损害旧任务性能的前提下促进后续任务的学习。实验结果表明,在模型容量固定的环境下,权值选择策略的引入可以更有效地发掘模型的持续学习能力。

主 题 词：灾难性遗忘 贝叶斯增量学习 不确定性 学习率 权值选择策略 

学科分类：1305[艺术学-设计学类] 13[艺术学] 08[工学] 081104[081104] 0804[工学-材料学] 081101[081101] 0811[工学-水利类] 

D　O　I：10.16208/j.issn1000-7024.2022.08.017

馆 藏 号：203113785...