Softmax分类器深度学习图像分类方法应用综述

基于深度学习的人工智能图像分类方法研究是当前计算机视觉领域的研究热点。面向深度学习中的Softmax图像分类方法,首先回顾了图像分类技术的发展历程,接着介绍了图像识别技术中的分类器,并解释了Softmax回归函数的分类实现原理。基于Softmax回归分类器的应用,详细阐述了多种图像分类技术,具体包括浅层神经网络、深度置信网络、深度自编码器和卷积神经网络。同时,对比介绍了各种级联模型的具体结构、训练方法、实际应用、分类效果以及优缺点。最后,从Softmax回归分类器、深度学习网络模型和高维数据分类三个方面对基于Softmax回归分类器的深度学习模型在图像分类方面的发展与应用前景进行了展望。     

卷积神经网络和峭度在轴承故障诊断中的应用

针对传统智能诊断方法依靠专家知识和人工提取数据特征工作量大的问题,结合深度学习方法在特征提取和处理大数据方面的优势,研究了一种基于卷积神经网络和振动信号峭度指标的滚动轴承故障诊断方法。该方法将深度学习应用于轴承故障诊断,提取滚动轴承正常状态、内圈故障、外圈故障和滚动体故障4种状态的振动信号,将振动信号分段处理得到峭度指标,使用数据到图像的转换方法将峭度指标转换为灰度图,送入卷积神经网络模型完成故障分类。在进行滚动轴承故障诊断的实验时,所提的模型诊断准确率达到99.5%,高于传统支持向量机(SVM)算法的95.8%。      

基于无监督深度学习的红外与可见光图像融合

目前已知的多数基于卷积神经网络的红外与可见光图像融合模型没有充分利用来自可见光源图像的层次特征,因此导致融合图像细节纹理不足。受残差网络和密集网络的启发,提出了一种基于无监督深度学习的图像融合算法来解决融合图像细节纹理信息不足的问题。使用的残差密集块有连续存储机制,最大程度地保留每层的特征信息,局部残差融合和全局残差融合的设计有利于学习图像中的结构纹理。此外,为了更好地保留可见光图像中的细节纹理,引入了生成对抗网络对数据集进行无监督学习。主客观实验表明,该算法不仅获得了良好的视觉融合效果,融合图像具有更多的边缘纹理信息,在客观评价指标上对比现有优秀的算法也较大的提升。     

基于自适应深度网络的无人机目标跟踪算法

针对无人机（UAV）视频中目标易受到遮挡、形变、复杂背景干扰等问题，提出一种基于自适应深度网络的无人机目标跟踪算法。首先，基于主成分分析（PCA）和卷积神经网络（CNN）算法，设计3阶的自适应深度网络进行目标特征提取，该网络对图像的H、S、I通道分别进行主成分分析学习，将得到的特征向量输入网络进行分层卷积，优化了网络结构，提高了网络的收敛速度和精度。其次，将目标深度特征输入核相关滤波算法进行目标跟踪，通过分析相邻2帧图像的变化率，采用分段自适应调整学习率的算法进行目标模板更新，有效地改善目标遮挡问题。仿真实验结果表明，该算法有效地避免了复杂因素干扰导致的跟踪精度下降，具有较好的鲁棒性，相较于全卷积跟踪（FCNT）算法平均跟踪精度提高了9.62%，平均跟踪成功率提高了11.9%。     

基于深度神经网络的粒子图像测速算法

粒子图像测速(PIV)作为一种流体力学实验技术,能够从流体图像中获取全局、定量的速度场信息。随着人工智能技术的发展,设计用于粒子图像测速的深度学习技术具有广泛的应用前景和研究价值。借鉴在计算机视觉领域用于运动估计的光流神经网络,采用人工合成的粒子图像数据集进行监督学习训练,从而获得适用于流体运动估计的深度神经网络模型,并且能够高效地提供单像素级别分辨率的速度场。文中采用人工合成的湍流流场粒子图像进行初步实验评估,并讨论PIV神经网络的隐藏层输出和内在原理,同时将训练而成的深度神经网络模型与传统的相关分析法、光流法对比;随后进行射流流场测速实验,验证深度神经网络PIV的实用性。实验结果表明,文中提出的基于深度神经网络的粒子图像测速在精度、分辨率、计算效率上具有优势。     

月面巡视器基于深度学习的即时定位与建图

针对载人登月对月面大范围行走探测以及月面巡视器导航定位的要求,提出了一种基于深度学习的视觉即时定位与建图(SLAM)方法。该方法设计了一个全监督的卷积神经网络对单目SLAM建模,减少了传统方法中人工设计特征和根据场景设置各种参数阈值的局限性;同时,利用深度学习模型良好的迁移学习能力,从大量地面数据训练并在少量仿月表面数据微调中得到网络的参数,从图像序列中直接估计平移量和旋转量;此外,引入了三维点云构成的稀疏深度图作为监督,采用光度误差构造的损失函数将深度信息和位姿信息结合,得到位姿估计的精度比肩传统SLAM算法,同时增加了算法对环境的适应性和鲁棒性。实验证明该算法在城市道路环境和仿月表面环境均有较优的性能。     

基于深度学习的无人机航拍目标检测研究综述

目标检测是提高无人机（UAV）感知能力的关键技术之一,其研究对于无人机的应用有着重要意义。与基于手工特征的传统方法相比,基于卷积神经网络的深度学习方法具有强大的特征学习和表达能力,成为目前目标检测任务的主流算法。近年来,目标检测技术已经在自然场景图像上取得了一系列突破性进展,在无人机领域的研究也逐渐成为热点。首先系统阐述了基于深度学习的目标检测算法的研究进展,并总结了相关算法的优缺点。对常见的航空影像数据集进行了梳理并介绍了迁移学习的方法;从无人机影像背景复杂、目标较小、视场大、目标具有旋转性的特点出发,对无人机目标检测在近期的研究进行了归纳和分析。最后讨论了存在的问题和未来可能的发展方向。     

基于混合神经网络模型的磨粒电荷检测方法研究

由于传统的滑油磨粒在线监测方法无法获取电荷分布位置信息,难以准确测量荷电颗粒数目及其携带的电荷量。为此,本文提出一种基于静电层析成像（Electrostatic tomography,EST）技术和深度学习算法的荷电颗粒检测方法。对EST传感器测量数据采用BP神经网络算法重建出测量截面上电荷的分布图像,采用卷积神经网络（Convolutional neural networks,CNN）算法分析重建图像以识别荷电颗粒数目,将识别的颗粒数目和传感器测量数据组合成输入向量,通过1个多层前馈网络确定带电颗粒数目、感应电荷值与颗粒电荷量值之间的映射关系,得到准确的各颗粒的电荷量值。实验结果表明：混合神经网络模型对数据样本的测量误差为9%,可满足滑油监测对于准确性的要求。     

基于深度学习的超分辨率重构方法在CAARC标模绕流流场重构中的应用

基于深度学习的超分辨率重构方法是近年来发展的一种有效的流场精细化方法。本文超分辨率重构模型以卷积神经网络为基础，结合了混合下采样跳跃连接多尺度模型，并应用于CAARC标准建筑模型表面风压场和建筑绕流速度场的重构。通过对比分析对不同欠分辨率流场的高分辨重构能力，结果表明该深度学习模型重构高分辨率流场具有良好的精度，重构效果优于原始的卷积神经网络模型和传统的双三次插值方法。该方法具有一定的普适性，可推广应用到具有复杂湍流流动的任意建筑结构风场的超分辨率重构。     

机器学习方法在气动特性建模中的应用

气动数据建模是飞行性能仿真评估的基础。气动特性建模主要有机理建模方法和“黑箱”建模方法。本文对“黑箱”建模的三类机器学习方法——分类与回归树方法、浅层学习方法和深度学习方法,进行了算法说明与分析应用。将分类与回归树方法、浅层学习方法中的Kriging建模方法、RBF神经网络方法及SVM支持向量机方法分别应用于火箭气动特性建模、三角翼大迎角非定常气动特性建模、气动热试验数据融合,对这几类建模方法的优势和不足进行了比较分析。同时,将流动条件参数组成向量,再映射为图像,与翼型图像构成“合成图像”,建立了基于翼型几何图像、来流马赫数、迎角的翼型气动特性深度神经网络模型,得到了比较好的预测效果,拓展了气动特性深度学习建模方法的使用范围。     

基于卷积神经网络的疲劳驾驶识别

机组人员疲劳驾驶是引发航空事故的原因之一。现有的研究缺少将脸部信息融合的疲劳表情识别,对疲劳表情识别可有效提高疲劳驾驶识别准确率。根据卷积神经网络的基本结构,将卷积核大小为1×1的卷积层加在输入层之后,让网络深度增加、提高特征学习能力、增加输入数据的非线性表示,同时对计算量基本无负面影响,采用线性修正函数ReLU作为激励函数解决模型在训练中梯度消失问题,提出了一种改进的卷积神经网络模型。基于LFW数据集筛选出正常、说话、疲劳3种状态表情,对其进行预处理建立疲劳表情数据集。训练完成的CNN模型对自建疲劳表情数据集实验识别准确率为88.3%,平均识别时间为20ms,与传统疲劳驾驶识别方法相比具有准确率高和实时高效的优点。与未改进的卷积神经网络相比,识别准确率提高了5.02%。     

使用深度残差网络的乘波体气动性能预测

本文探究深度学习人工智能技术在飞行器气动外形预测中的应用。以激波装配法乘波体设计为背景,建立气动数据快速生成工具,使用拉丁超立方采样得到海量样本数据。使用深度残差神经网络构建气动外形参数到气动性能数据的代理模型,并与随机森林和双隐层神经网络等普通机器学习模型对比;同时将数据转换为图片,研究基于图片识别的深度学习模型搭建,省略飞行器外形的参数化表达。测试结果说明,深度残差网络作为数据代理模型的精度是随机森林和双隐层神经网络的3倍以上,而基于图片识别的代理模型精度提高有限。研究表明,深度残差网络在乘波体等易于生成大量数据的气动外形的性能预测中效果明显,为深度学习技术在气动外形设计中的应用奠定了基础。     

基于卷积神经网络的深度学习流场特征识别及应用进展

深度学习架构的出色性能使得机器学习在流体力学中的应用得到新的发展,可以应对流体力学中诸多问题和需求。卷积神经网络（CNN）强大的非线性映射能力以及分层提取信息特征的功能,使其成为当下流场特征研究不容忽视的工具。围绕这一研究前沿与热点问题,概述和归纳了这一研究领域的进展与成果。首先,对深度学习在流体力学中的发展以及卷积神经网络进行了简单的回顾。然后,从卷积神经网络能够识别特征出发,先后介绍了基于卷积的深度学习特征识别在流场预测、流动外形优化、流场可视化精度提升和生成对抗等应用方面的研究进展。最后,对深度学习在流场识别领域的应用进行了展望,为后续的研究提供参考。     

基于多特征图像增强深度卷积神经网络的航天用电子元器件分类算法

为了实现航天用电子元器件的全自动及非接触识别,并减少由照明系统造成的图像亮度不均、偏色等问题对检测结果的影响,通过结合局部、区域和总体三个层次特征提升物体检测精度,提出了一种基于多特征图像增强深度卷积神经网络(MFIE-DCNN)的航天用电子元器件分类算法。MFIE-DCNN算法包含多特征学习和深度学习,其学习过程类似于人类视觉系统,能够对形状、方向和颜色特征进行深度挖掘,突出元器件边界信息,抑制背景杂波干扰。实验结果表明,该算法能够区分电路板板载元器件的种类,检测准确度优于传统算法。对比基于稀疏自动编码器的深度神经网络,检测结果提高了近20%。     

二值卷积神经网络综述

二值卷积神经网络（BNN）占用存储空间小、计算效率高,然而由于网络前向的二值量化与反向梯度的不匹配问题,使其与同结构的全精度深度卷积神经网络（CNN）之间存在较大的性能差距,影响了其在资源受限平台上的部署。至今,研究者已提出了一系列网络设计与训练方法来降低卷积神经网络在二值化过程中的性能损失,以推动二值卷积神经网络在嵌入式便携设备发展中的应用。因此,本文对二值卷积神经网络进行综述,主要从提高网络表达能力与充分挖掘网络训练潜力两大方面,给出了当前二值卷积神经网络的发展脉络与研究现状。具体而言,提高网络表达能力分为二值化量化方法设计、结构设计两方面,充分挖掘网络训练潜力分为损失函数设计与训练策略两方面。最后,对二值卷积神经网络在不同任务与硬件平台的实验情况进行了总结和技术分析,并展望了未来研究中可能面临的挑战。     

基于迁移学习的无人机对地面目标识别研究

无人机对地面目标的识别精度受到数据集少和目标小的影响。传统深度学习需要大量有标注的数据集,限制了在具有小样本下的无人机对地面目标识别领域的应用。将迁移学习的方法用于卷积神经网络VGG16,并修改VGG16网络最后的3个连接层;同时利用单样本数据增强法将UC Merced数据集扩大到原来的8倍,对其进行验证和对比分析。实验结果表明,基于迁移学习的VGG16网络对地面目标识别的准确度可达97.62%,相较于未使用迁移学习的VGG16网络模型,整体提高了23.53%。并且在相同训练参数的设置下,模型比SqueezeNet、AlexNet、Inceptionv3、MobileNet-v2以及EfficientNetb0模型验证精度提高了3.63%～17.38%,收敛速度最快,可基本满足对地面目标的识别。     

物理启发的深度学习模型及其在热端部件散热中的应用

热端部件散热是众多空天设备的关键技术。表面温度分布是散热设计中用到的重要信息,常规的解析建模手段和机器学习方法均无法有效地表达此类高维信息。近年来兴起的图像深度学习算法是解决表面温度信息预测的有效手段。然而,现有的基于大数据的深度学习方法往往对于物理数据和小样本数据不适用,体现为泛化精度差、数据兼容性差、可解释性差。因此,有必要结合传热的先验知识发展物理启发的新型深度学习算法,以增强高自由度、高复杂度散热对象上的设计能力。本文基于卷积算子和有限差分求解方式的类比关系,提出了一种物理启发式的循环卷积神经网络。以横向出流的冲击冷却为例,开展了变计算域大小、变工况、变尺寸的批量数值模拟,获取了冲击冷却关键特征的小样本图像数据。进一步通过神经网络的训练,构建了多参数、大范围内有较好拟合能力的温度、传热系数、压力代理模型。研究结果表明,本文提出的物理启发神经网络模型,对于计算域大小没有限制,可以统一表达不同空间范围内获取的物理数据的共性规律。模型的各类超参设定均具有明确的物理意义,且与经典的微分方程求解理论有一定的类比关系,增强了神经网络调参的方向性。通过传热物理规律与黑箱模型的融合,本文实现了小样本多参数物理数据的共性建模。该方法可以迅速重构热端部件的高维分布信息,可服务于热端部件的快速分析设计以及优化。     

拟VGG16网络的航空传感器故障检测分类

参考计算机视觉等领域的研究与应用进展，提出了拟图智能化故障诊断概念；拟照VGG16图像分类网络，提出了一种航空传感器故障检测与分类方法。首先，基于仿真、实飞等手段建立了航空传感器故障飞行数据库；该数据库包含4型大型客机、通航飞机在5种飞行状态的飞行数据，并可有效模拟气动数据、惯性测量单元等传感器的故障。其次，提出将航空器气动数据、惯性测量单元等传感器的测量数据堆叠成灰度图像数据格式；该图像保留了传感器测量数据的时间、空间耦合特征，将传感器故障检测与分类转换成为图像上的异常区域检测与分类问题。再次，提出了一种数据增强方法，将堆叠形成的传感器测量数据图像的维度增强为VGG16图像分类网络输入维度，并基于预训练的VGG16图像分类网络，采用微调优化网络模型，最终得到了拟图智能化航空传感器故障检测与分类深度神经网络。在多个航空器数据集上的实验结果表明，网络的平均测试准确度可以达到97.6%。最后，参考计算机视觉领域的深度神经网络可解释性分析方法，基于类激活映射图（CAM）对本文发展的传感器故障检测与分类网络进行了分析，初步阐明了网络内部各层卷积核节点特征提取运算的机理，提升了该网络故障检测与分...     

基于深度学习的地空导弹发射区拟合算法

目前地空导弹发射区的拟合算法主要是多项式拟合法和BP神经网络拟合法。多项式拟合法存在函数形式难以确定、函数范围不易分段等问题,且拟合精度较低;传统神经网络方法要想达到较高精度,需要大量的隐层节点,且在隐层节点数增加到一定程度后,训练变得十分困难且精度很难继续提高。同时,传统神经网络需要大量的标签数据,进一步增大了实际应用的难度。为此,基于深度学习理论,设计了一种基于堆栈稀疏自编码器（SSAE）的深度拟合网络（DFN）,并给出了相应的训练策略。仿真实验表明其相比传统算法具有更小的拟合误差优势。所设计的深度稀疏自编码器网络可以克服多项式拟合和传统神经网络的不足,不仅可以在大量无标签数据和少量标签数据条件下进行学习训练,而且可以进一步提升地空导弹发射区的拟合精度。     

自适应融合 RGB图像特征的稀疏深度修复

深度修复的目的是从稀疏深度图像中恢复出稠密的深度图像。现有方法通常是以稀疏深度图像及其对应的 RGB图像为输入,通过 1个卷积神经网络恢复出密集深度图像。然而,普通的卷积层在处理稀疏且不规则的深度信息时有较大的局限性,同时,RGB图像特征和深度图像特征属于不同的模态。针对这些问题,文章提出了自适应稀疏不变模块,根据输入像素的有效性来处理稀疏深度,并提出了结合注意力机制的多尺度特征融合模块,在关注有效特征的同时,抑制不必要的特征,进一步提高深度修复性能。文章在 NYUv2数据集上进行了一系列实验,实验结果表明了所提出算法和模块的有效性。