融合时空图卷积的多人交互行为识别

作     者：成科扬 吴金霞 王文杉 荣兰 詹永照 Cheng Keyang;Wu Jinxia;Wang Wenshan;Rong Lan;Zhan Yongzhao

作者机构：江苏大学计算机科学与通信工程学院镇江212013 江苏省大数据泛在感知与智能农业应用工程研究中心镇江212013 江苏大学网络空间安全研究院镇江212013 中国电子科学研究院社会安全风险感知与防控大数据应用国家工程实验室北京100041 

基　　金：国家自然科学基金项目(61972183) 社会安全风险感知与防控大数据应用国家工程实验室主任基金项目 

出 版 物：《中国图象图形学报》 (Journal of Image and Graphics)

年 卷 期：2021年第26卷第7期

页      码：1681-1691页

摘      要：目的多人交互行为的识别在现实生活中有着广泛应用。现有的关于人类活动分析的研究主要集中在对单人简单行为的视频片段进行分类,而对于理解具有多人之间关系的复杂人类活动的问题还没有得到充分的解决。方法针对多人交互动作中两人肢体行为的特点,本文提出基于骨架的时空建模方法,将时空建模特征输入到广义图卷积中进行特征学习,通过谱图卷积的高阶快速切比雪夫多项式进行逼近。同时对骨架之间的交互信息进行设计,通过捕获这种额外的交互信息增加动作识别的准确性。为增强时域信息的提取,创新性地将切片循环神经网络(recurrent neural network,RNN)应用于视频动作识别,以捕获整个动作序列依赖性信息。结果本文在UT-Interaction数据集和SBU数据集上对本文算法进行评估,在UT-Interaction数据集中,与H-LSTCM(hierarchical long short-term concurrent memory)等算法进行了比较,相较于次好算法提高了0.7%,在SBU数据集中,相较于GCNConv(semi-supervised classification with graph convolutional networks)、RotClips+MTCNN(rotating cliips+multi-task convolutional neural netowrk)、SGC(simplifying graph convolutional)等算法分别提升了5.2%、1.03%、1.2%。同时也在SBU数据集中进行了融合实验,分别验证了不同连接与切片RNN的有效性。结论本文提出的融合时空图卷积的交互识别方法,对于交互类动作的识别具有较高的准确率,普遍适用于对象之间产生互动的行为识别。

主 题 词：动作识别 交互信息 时空建模 图卷积 切片循环神经网络(RNN) 

学科分类：1305[艺术学-设计学类] 13[艺术学] 08[工学] 081104[081104] 0804[工学-材料学] 0835[0835] 081101[081101] 0811[工学-水利类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11834/jig.200510

馆 藏 号：203104270...