基于稳定信息的小数据学习方法

作     者：马宇晴 张湛舸 刘卫 刘祥龙 MA Yuqing;ZHANG Zhange;LIU Wei;LIU Xianglong

作者机构：北京航空航天大学复杂关键软件环境全国重点实验室北京100191 中关村实验室北京100194 合肥综合性国家科学中心数据空间研究院合肥230088 

出 版 物：《智能安全》 (Artificial Intelligence Security)

年 卷 期：2023年第2卷第1期

页      码：13-26页

摘      要：爆炸式增长的数据极大地推动了人工智能的进步与发展,在公共、国防安全领域得到了广泛应用,然而在这些安全攸关领域中存在分布特殊、以小概率出现的、具有动态不确定性的非完备小数据,难以利用传统的人工智能算法实现精准预测,从而出现被诱导、误判、偏见、分歧等与人类价值显著背离的潜在风险行为,引发针对智能算法模型应用的安全事件并造成灾难性后果.因此需针对这些小数据设计新型学习范式.本文首先梳理了小数据的概念并将其按照学习难度分为信息缺失、信息偏见、信息对抗三种情况,分析了其不满足常规人工智能算法的三种强假设条件,即独立、同分布、封闭世界假设.其次,系统提出基于稳定信息的小数据学习框架,介绍了稳定信息基于模型输入、模型模块、损失函数的嵌入方式,并给出形式化表达.随后,以因果干预及数理内嵌两种稳定信息为例,介绍了相应嵌入方式的小数据学习方法,并在轨迹预测任务上验证基于稳定信息的小数据学习的有效性.最后,给出未来展望.开展基于稳定信息的小数据学习方法研究,是小数据学习的实现途径之一,可有效缓解复杂环境下传统人工智能算法强假设不成立的学习困境,引导和支持人工智能算法的高效学习和精准预测,推动人工智能技术安全、可靠、可信发展.

主 题 词：小数据学习 稳定信息 因果干预 数理内嵌 智能安全 可信赖人工智能 

学科分类：081203[081203] 08[工学] 0835[0835] 0812[工学-测绘类] 

D　O　I：10.12407/j.issn.2097-2075.2023.01.013

馆 藏 号：203124663...