Text-CRNN+attention架构下的多类别文本信息分类

作     者：卢健 马成贤 杨腾飞 周嫣然 Lu Jian;Ma Chengxian;Yang Tengfei;Zhou Yanran

作者机构：西安工程大学电子信息学院西安710048 

基　　金：国家自然科学基金资助项目(51607133) 陕西省教育厅专项科学研究计划项目(17JK0332) 陕西省科技厅科技发展计划项目(2011K06-01) 西安市碑林区应用技术研发项目(GX1807) 

出 版 物：《计算机应用研究》 (Application Research of Computers)

年 卷 期：2020年第37卷第6期

页      码：1693-1696,1701页

摘      要：迄今为止,传统机器学习方法依赖人工提取特征,复杂度高;深度学习网络本身特征表达能力强,但模型可解释性弱导致关键特征信息丢失。为此,以网络层次结合的方式设计了CRNN并引入attention机制,提出一种Text-CRNN+attention模型用于文本分类。首先利用CNN处理局部特征的位置不变性,提取高效局部特征信息;然后在RNN进行序列特征建模时引入attention机制对每一时刻输出序列信息进行自动加权,减少关键特征的丢失,最后完成时间和空间上的特征提取。实验结果表明,提出模型较其他模型准确率提升了2%~3%;在提取文本特征时,该模型既保证了数据的局部相关性又起到强化序列特征的有效组合能力。

主 题 词：文本分类 卷积神经网络 循环神经网络 convolutional recurrent neural network 注意力机制 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 08[工学] 081201[081201] 0812[工学-测绘类] 

D　O　I：10.19734/j.issn.1001-3695.2018.12.0858

馆 藏 号：203925343...