融合文本内容和标签引导文本编码的分类方法

作     者：王嫄 周宇博 徐涛 史艳翠 WANG Yuan;ZHOU Yubo;XU Tao;SHI Yancui

作者机构：天津科技大学人工智能学院天津300457 普迈康(天津)精准医疗科技有限公司天津300000 

基　　金：国家自然科学基金资助项目(61702367,61976156,61807024) 天津市企业科技特派员项目(20YDTPJC00560) 天津市教委科研计划项目(2018KJ105,2018KJ106) 天津市自然科学基金资助项目(19JCYBJC15300) 

出 版 物：《华中科技大学学报（自然科学版）》 (Journal of Huazhong University of Science and Technology(Natural Science Edition))

年 卷 期：2021年第49卷第8期

页      码：92-97页

摘      要：针对当前文本分类算法未能充分利用标签的语义表示导致文本表示学习与分类预测割裂的问题,提出一种融合文本内容编码和标签引导文本编码的文本分类方法.在文本内容编码部分,通过长短时记忆网络获得文本序列累计语义表示,通过自注意力机制捕获和强化文本长距离语义依赖.在标签引导文本编码部分,设计交互注意力机制,通过标签引导得到经由标签的语义表示过滤下文本的新表示.最后将两部分输出融合,得到同时具有本地内容语义信息和全局任务指导信息的文本表示,使得模型在文本表示阶段即对分类任务具有早期感知力.实验结果表明本研究方法在真实数据集上可有效提升文本分类任务性能.

主 题 词：文本分类 文本内容编码 自注意力机制 标签的语义表示 标签引导文本编码 

学科分类：08[工学] 0835[0835] 081202[081202] 0812[工学-测绘类] 

核心收录：

D　O　I：10.13245/j.hust.210818

馆 藏 号：203104642...