摘要：为了提升深度学习模型的泛化能力和准确率,提出基于高斯能量分布控制的dropout和特征梯度融合改进策略。在多个公共图像数据集和自制文本数据集上设计多组对比实验,实验结果表明,提出的改进方法能够有效地提升深度学习模型的泛化能力和准确率。

摘要：设计卷积升级网络结构,引入PSO算法减小了误差的反向传播,避免了滞后误差与图像的过拟合,提高了收敛速度。将该方法应用到数据集HCL2000和MNIST上,并进行了与WCNN、MLP-CNN、SVM-ELM的实验对比,证明了改进算法的正确性。

摘要：Convolutional neural networks(CNNs)have shown tremendous progress and performance in recent *** emergence,CNNs have exhibited excellent performance in most of classification and segmentation ***,the CNN family includes various architectures that dominate major vision-based recognition ***,building a neural network(NN)by simply stacking convolution blocks inevitably limits its optimization ability and introduces overfitting and vanishing gradient *** of the key reasons for the aforementioned issues is network singularities,which have lately caused degenerating manifolds in the loss *** situation leads to a slow learning process and lower *** this scenario,the skip connections turned out to be an essential unit of the CNN design to mitigate network *** proposed idea of this research is to introduce skip connections in NN architecture to augment the information flow,mitigate singularities and improve *** research experimented with different levels of skip connections and proposed the placement strategy of these links for any *** prove the proposed hypothesis,we designed an experimental CNN architecture,named as Shallow Wide ResNet or SRNet,as it uses wide residual network as a base network *** have performed numerous experiments to assess the validity of the proposed ***-10 and CIFAR-100,two well-known datasets are used for training and testing *** final empirical results have shown a great many of promising outcomes in terms of performance,efficiency and reduction in network singularities issues.

摘要：为了研究自动驾驶汽车交通协调性的主客观映射评价模型,以高速公路匝道汇入为研究场景,首先基于自然驾驶数据的交互样本数据,以自车平均行驶速度、并线时刻侧向速度、并线时刻车头TTC、并线时刻两车相对侧向速度和对手车减速程度等客观指标数据和交通协调性主观评价结果作为模型输入和输出,构建映射评价模型;然后设计2×2交叉对比实验,并分析数据预处理方法及神经网络类型对评价模型效果的影响。研究结果显示,基于线性函数归一化处理的BP神经网络模型和dropout神经网络模型总精度分别为95.71%和80.00%,基于阶梯函数归一化处理的BP神经网络模型和dropout神经网络模型总精度分别为94.60%和73.25%。由此可见,模型评价效果较好,所建立的客观表征指标集能够较好地表达专家对车辆交通协调性表现的评价。在建模方法方面,基于BP神经网络的映射评价模型的表现优于dropout神经网络模型,能够根据客观数据更准确地得到符合专家评判标准的评价结果。在样本数据预处理方法方面,线性函数归一化处理方法能够在消除数据间数量级差异的同时保留客观表征指标集数据在不同样本之间的差异,能提高映射评价模型的评价精度。因此,在小样本数据量下,基于线性函数归一化和BP神经网络的映射评价模型构建方案的评价效果更优。

摘要：针对dropout的流动性和随机性可能引起欠拟合或过拟合的问题,提出跨信道计算注意力权重并掩盖注意力权重最大区域的正则化方法(MARDrop)。设计跨信道注意力权重提取机制,提取所有特征图的注意力权重,并筛选出注意力权重较大的部分作为特征判别单元;根据特征判别单元周围区域的注意力权重变化确定出注意力权重最大区域,并将其掩盖即对应区域置为0,其余区域均置为1;将取值为1的注意力权重区域还原为特征图,完成正则化处理。实验表明:MARDrop具有较强的灵活性,结合不同优化方法用于Model2模型后,在CIFAR-10上的分类精度比基础模型提高了19.55%;MARDrop具有较强的泛化能力,能灵活用于不同模型,用于VGG16和ResNet18模型后,在CIFAR-10上的分类错误率比基础模型分别降低了10.05%和9.96%,用于MoblieNetV3S和MoblieNetV3L后,在ImageNet-C9上的分类错误率比基础模型分别降低了14.67%和96.90%。MARDrop利用一维卷积跨信道交互计算注意力权重,能有效降低提取的复杂度;MARDrop通过准确掩盖造成过拟合的特征区域,降低了模型对少数特征的依赖性,进而增加了图像分类的准确率。

摘要：This paper deals with the problem of switching between an open-loop estimator and a close-loop estimator for compensating transmission error and packet dropout of networked control systems. Switching impulse is considered in order to reduce the error between theory and application, a sufficient condition for exponential stabilization of networked control systems under a given switching rule is presented by multiple Lyapunov-like functions. These results are presented for both continuous-time and discrete-time domains. Controllers are designed by means of linear matrix inequalities. Sim- ulation results show the feasibility and efficiency of the proposed method.

摘要：针对高斯混合模型在蒙古语语音识别声学建模中不能充分描述蒙古语声学特征之间相关性和独立性假设的问题,开展了使用深度神经网络模型进行蒙古语声学模型建模的研究。以深度神经网络为基础,将分类与语音特征内在结构的学习紧密结合进行蒙古语声学特征的提取,构建了DNN-HMM蒙古语声学模型,结合无监督预训练与监督训练调优过程设计了训练算法,在DNN-HMM蒙古语声学模型训练中加入dropout技术避免过拟合现象。最后,在小规模语料库和Kaldi实验平台下,对GMM-HMM和DNN-HMM蒙古语声学模型进行了对比实验。实验结果表明,DNN-HMM蒙古语声学模型的词识别错误率降低了7.5%,句识别错误率降低了13.63%;同时,训练时加入dropout技术可以有效避免DNN-HMM蒙古语声学模型的过拟合现象。

摘要：针对制造车间数控刀具在连续作业过程中易出现过度使用或提前置换的现状,对刀具磨损感知数据获取方法和磨损预测模型构建进行研究。为避免传感器噪声影响,采用OPC技术直接与机床协同完成数控通信,并设计一套双镜头垂直分布的感知数据获取系统;为增强预测模型泛化能力,采用dropout优化后深度信念网络(DBN)作为预测模型,先在特征提取阶段重构出优化权值,再引入标签量训练特征匹配阶段。结果显示,改进的DBN算法平均预测准确度约96.0%,在预测精度和稳定性方面较传统模型显著改善。

摘要：目的合成孔径雷达图像目标识别可以有效提高合成孔径雷达数据的利用效率。针对合成孔径雷达图像目标识别滤波处理耗时长、识别精度不高的问题,本文提出一种卷积神经网络模型应用于合成孔径雷达图像目标识别。方法首先,针对合成孔径雷达图像特点设计特征提取部分的网络结构;其次,代价函数中引入L2范数提高模型的抗噪性能和泛化性;再次,全连接层使用dropout减小网络的运算量并提高泛化性;最后研究了滤波对于网络模型的收敛速度和准确率的影响。结果实验使用美国运动和静止目标获取与识别数据库,10类目标识别的实验结果表明改进后的卷积神经网络整体识别率(包含变体)由93. 76%提升至98. 10%。通过设置4组对比实验说明网络结构的改进和优化的有效性。卷积神经网络噪声抑制实验验证了卷积神经网络的特征提取过程对于SAR图像相干斑噪声有抑制作用,可以省去耗时的滤波处理。结论本文提出的卷积神经网络模型提高了网络的准确率、泛化性,无需耗时的滤波处理,是一种合成孔径雷达图像目标识别的有效方法。

摘要：针对红富士与红元帅价格口感不同而外形相似的现象,提出一种基于LeNet-5改进的神经网络模型对其进行机器自动分类识别。以64×64像素的彩色图像作为模型输入,在全连接层之前加入Flatten层压缩三维彩色图像维度;改变全连接层激活函数为LeakyReLU,加入dropout策略减少过拟合;通过对比实验找出该模型中最佳的训练优化器、卷积核大小、滤波器数量、学习步长、全连接层神经元个数等影响卷积神经网络性能的重要参数。与其它两种SVM方法进行对比,实验结果表明,在经过多次参数寻优后,该模型在对红富士和红元帅两种苹果的分类识别中的测试时间与测试精度优于SVM方法。