摘要：针对现有基于深度学习(deep learning,DL)的信道状态信息(channel state information,CSI)反馈方案只能以固定压缩率(compression rate,CR)进行压缩反馈的问题,提出了一种基于模型结构化剪枝动态调整CR的CSI反馈方案。首先设计了残差信道特性注意(residual channel characteristic attention,RCCA)机制,并搭建了CSI反馈网络RCCA-Net,充分利用复信道矩阵实部虚部间的幅度相位依赖关系,进一步提高CSI反馈-重建质量。其次设计了RCCA-Prune方案,并以2范数评估各神经元对最终结果的贡献度,通过模型结构化剪枝技术删除贡献度较小的神经元以实现CR的动态调整。仿真结果表明,所提的动态调整CR方案在不同CR下均有较佳的反馈性能,且在不同的测试环境中具有良好的泛化性。

摘要：对破碎料图像进行准确、快速识别是实现有色金属破碎料实时分选的基础,文中基于YOLOv3模型,以BN层缩放因子为衡量指标对模型进行剪枝,剪切对运算结果没有影响的冗余通道,减少了卷积神经网络的参数量及计算量,实现了模型压缩。试验在生产现场采集的金属破碎料图像上进行,采用F1-Score、平均精度均值、浮点运算数、网络参数量和FPS作为评价指标,定量研究了模型压缩率对模型性能的影响。最终优化后,模型平均精度均值上升至97.1%,F1-Score为96.8%,参数量实现了70.4%的压缩率,浮点运算数降为原模型的44.5%,FPS上升40.4%,减少了模型运行计算量消耗和内存占用,加快了计算速度,能更好地满足工业生产中有色金属破碎料分选的需求。

摘要：基于现有深度神经网络模型无法根据使用权限进行分级授权的问题,设计提出了一种新型的DNN模型分级授权方法,其可以根据模型权限不同分发不同模型精度。该方法依据模型剪枝技术实现了模型性能的分级,利用特定的剪枝速率或剪枝阈值对模型进行剪枝和微调,通过在剪枝和微调阶段对模型进行调整从而使模型输出不同等级的准确率,最后将不同的用户权限与对应等级的准确率相匹配。在多个数据集和DNN模型上进行了实验,并利用CIFAR-10和CIFAR-100数据集进行验证。实验结果表明,该方法能够有效地将模型的性能分级,在多个DNN模型上都有良好的效果。

摘要：联邦学习系统中,在资源受限的边缘端进行本地模型训练存在一定的挑战.计算、存储、能耗等方面的限制时刻影响着模型规模及效果.传统的联邦剪枝方法在联邦训练过程中对模型进行剪裁,但仍存在无法根据模型所处环境自适应修剪以及移除一些重要参数导致模型性能下降的情况.本文提出基于联邦强化学习的分布式模型剪枝方法以解决此问题.首先,将模型剪枝过程抽象化,建立马尔可夫决策过程,使用DQN算法构建通用强化剪枝模型,动态调整剪枝率,提高模型的泛化性能.其次设计针对稀疏模型的聚合方法,辅助强化泛化剪枝方法,更好地优化模型结构,降低模型的复杂度.最后,在多个公开数据集上将本方法与不同基线方法进行比较.实验结果表明,本文所提出的方法在保持模型效果的同时减少模型复杂度.

摘要：为实现快速实时的柑橘视觉检测,提出了一种基于模型剪枝的多维度特征Slim-FOCS逐像素目标检测算法,可实现自然环境下成熟柑橘高效快速检测。使用FCOS模型架构,选用Darknet 19作为模型主干网络,设计FPN多尺度特征提取网络融合柑橘图像不同尺度的特征,加强主干网络中的视觉特征提取。初训练完成后进行模型剪枝,将每一层的权重以通道(channel)为基准计算特征的L2 normalization,将小于30%的通道删除后进行模型微调。对柑橘图像进行检测并分析模型,检测结果表明,对柑橘检测的准确率(mAP)达到96.01%,模型所需的计算力(Flops)为0.88 G,参数占用内存为29.79 MB,相比于剪枝前分别减少了1.878 G、24.86 MB。对单张图片在CPU的检测速度达到22.9 ms·张-1。

摘要：【目的】高功率半导体激光器的光学灾变损伤是限制其可靠性和寿命的主要因素,因此,有效的缺陷检测对于优化激光器芯片的制造工艺和结构设计至关重要。提出了一种基于改进YOLOv7-Tiny的轻量化激光器芯片缺陷检测算法,旨在解决深度学习应用于缺陷检测时面临的高计算量和参数量问题。【方法】利用轻量化卷积神经网络替换特征提取主干有效减少对计算资源消耗,有效提取电致发光图像中缺陷特征。为从上下文特征获取更丰富的信息,引入多分支重参数化卷积块重构聚合模块,通过多路径分支丰富特征表示,训练与推理的解耦保证检测效率。此外,结合坐标注意力,提升定位精度。进行了剪枝实验和模型部署,验证算法的初步应用。【结果】在电致发光缺陷数据集上的实验结果显示,本文方法能在较低的参数和计算量下准确地检测出芯片缺陷,展现出良好的性能。

摘要：内河无人船在资源探索调查,水质监测等方面发挥着重要作用,提出了一种基于船载摄像头的实时图像水域分割方法,用于辅助内河无人船的自主运动控制。提出一种改进的基准图像分割模型UNet++,并引入可微分二值化方法,有效提高了水域分割精度;在此基础上,提出一种基于特征分辨率的通道剪枝策略,实现模型的内存占用率低、识别速度快的效果,进一步提高了模型的推理效率。在市内河道的实验验证了方案的可行性,模型分割结果的平均交并比达0.966,推理速度达57FPS,均优于基准模型。表明所提方法能有效完成实时视觉感知和环境分割任务,为自主化运动和决策提供有力支撑。

摘要：近年来,神经网络模型凭借着较强的特征提取能力在各行各业的应用越来越广泛,并取得了不错的效果。然而,随着数据量的不断增大以及人们对高准确率的不断追求,神经网络模型的参数规模急剧增大,网络复杂度不断提高,导致计算、存储等资源开销不断扩大,使其在资源受限场景下的部署面临极大挑战。因此,如何在不影响模型性能的前提下实现模型轻量化,进而降低模型训练和部署的成本成为当前的研究热点之一。为此,文中从复杂模型压缩以及轻量化模型设计两方面入手,对当前典型的模型轻量化方法进行总结和分析,以期厘清模型压缩技术的发展脉络。其中,复杂模型压缩技术从模型剪枝、模型量化、低秩分解、知识蒸馏及混合方式5方面进行归纳,而轻量化模型设计则从空间卷积设计、移位卷积设计和NAS架构搜索3方面进行梳理。

摘要：零件表面缺陷是产品质量的重要组成部分,零件在线检测可以解决产品批量质量问题,已成为质量控制的未来发展趋势。人工检测方法存在检测精度低、漏检率高等问题,而通过机器视觉和深度学习相结合的在线检测成为研究热点。但是目前多数深度学习模型存在模型结构复杂、预测耗时长的缺点,不满足实时检测的需求。为了提高产品表面缺陷检测的效率和准确率,设计了一种轻量化深度学习VGG16网络模型,通过对VGG16Net进行结构优化与剪枝操作搭建轻量化识别模型,并构建表面缺陷数据集进行训练与预测。在标准表面缺陷数据集上,准确率达到0.949;搭建实验测试平台,对比原始VGG16网络,改进后的网络在剪枝率为50%时,准确率达到0.907,单张图片预测耗时为0.067s,模型压缩率为59.79%。轻量化表面缺陷检测方法具有高效自动、智能化等优点。

摘要：红外成像技术通过捕捉目标热辐射特征进行成像,能实现复杂道路场景下的目标监测和道路冗杂信息滤除。针对红外行人和车辆目标检测模型参数量大、依赖高性能GPU资源和检测速度慢等问题,提出了一种注意力引导的多尺度红外行人车辆实时检测模型。首先,为精确匹配校准红外行人和车辆目标尺度与锚框尺寸,利用K-Means++算法对红外行人和车辆目标尺度进行先验框预置参数重聚类生成,并设计128×128精细尺度检测层;其次,设计注意力引导广域特征提取模块增强模型特征提取能力和空间及通道信息聚焦能力;随后,构建跨空间感知模块引入空间信息感知,强化不同尺度空间下的目标的特征表达能力;最后,针对资源受限设备,通过4倍通道剪枝方法降低模型参数量,增强移动端算法部署适应性。实验结果表明:所提IRDet算法与基准方法相比,模型平均检测精度提升4.3%,达到87.4%,模型权重值压缩60.4%,降至5.7 MB。