基于网络结构的正则化逻辑回归

作     者：胡艳梅 杨波 多滨 HU Yan-mei;YANG Bo;DUO Bin

作者机构：成都理工大学计算机与网络安全学院成都610059 电子科技大学计算机科学与工程学院成都611731 

基　　金：国家自然科学基金(61802034,61977013) 国家重点研发项目基金(2019YFC1509602) 四川省科技计划重点研发项目基金(2021YFG0333) 

出 版 物：《计算机科学》 (Computer Science)

年 卷 期：2021年第48卷第7期

页      码：281-291页

摘      要：逻辑回归是一个应用广泛的分类模型,但由于高维数据分类任务在实际应用中变得越来越频繁,使得分类模型面临着巨大的挑战。应对该挑战的一种有效方法是对模型进行正则化。许多已有的正则化逻辑回归直接运用L1范数罚作为正则化罚项,而不考虑特征之间的复杂关联关系。也有一些研究工作基于特征的组信息设计了正则化罚项,但它们假设组信息是预先给定的。文中从网络的视角对特征数据中存在的潜在模式进行挖掘,并基于此提出了一个基于网络结构的正则化逻辑回归。首先,以网络的形式描述特征数据并构建出特征网络;其次,从网络科学的角度对特征网络进行观察和分析,并基于此设计罚函数;然后,以该罚函数为正则化罚项,提出网络结构Lasso逻辑回归;最后,结合Nesterov加速近端梯度下降法和Moreau-Yosida正则化方法,推导了模型的求解过程。在真实数据集上的实验结果显示,所提网络结构Lasso逻辑回归表现优异,这表明从网络的视角观察和分析特征数据是研究正则化模型的一个具有潜力的方向。

主 题 词：正则化罚项 逻辑回归 网络结构 特征选择 近端梯度下降法 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 081104[081104] 08[工学] 0835[0835] 0811[工学-水利类] 0812[工学-测绘类] 

D　O　I：10.11896/jsjkx.201100106

馆 藏 号：203103968...