基于深度卷积的残差三生网络研究与应用

针对图像多分类任务,提出基于深度卷积的残差三生网络,旨在通过残差学习和距离比较来训练神经网络得到有效的特征表示。首先,设计了一个21层的深度卷积神经网络作为三生网络的嵌入网络,其中该卷积网络共连接6个块（block）。利用残差学习的方式,每个block的输出层由卷积层的输出和该block的输入共同组成,降低网络学习难度,避免网络出现退化问题。然后,每个block中采用相同拓扑结构分路的卷积层,拓宽网络的宽度。最后,在全连接层拼接了来自前面卷积层和block的输出,加强特征信息的传递。训练前,针对正负样本采用交叉组合的采样方法来增加有效训练样本量;训练期间,用样本中心点更换原点样本作为输入,能平均降低0.5%错误率。在与其他三生网络的对比实验中,在MNIST、CIFAR10和SVHN数据库上达到最好的效果,在所有分类网络中,本文网络在MNIST上达到最好的效果,在CIFAR10和SVHN上表现优异。      

基于半监督迁移学习的轴承故障诊断方法

针对航空发动机轴承故障诊断过程中预测精度不足以及过拟合的问题,提出基于迁移学习的半监督集成学习器（SSIT）用以发动机轴承故障预测。首先,训练改进的基于迁移学习的极限学习机（TELM）以及基于迁移学习的支持向量机（TSVM）,分别迁移不同目标空间的高相似度样本加入到源样本空间进行训练。然后,与对应的基学习器集成同簇学习器来识别未标记样本,构成半监督学习器不断调整初始基学习器权重,并继续集成半监督基学习器的识别结果到SSIT中。通过此学习机识别提取特征后的,用以故障识别。实验结果清楚地表明:此种方法可以有效降低迁移学习中的负迁移效果,提升迁移精度10%左右,降低机器学习中的过拟合效果,提高半监督学习稳定性,与现有的预测方法相比可以提高精度9%以上。      

小样本下基于孪生神经网络的柱塞泵故障诊断

针对目前基于深度神经网络的柱塞泵故障诊断方法在小样本条件下精度低、模型欠拟合问题,提出一种小样本条件下基于孪生神经网络的柱塞泵故障诊断方法。搭建了柱塞泵故障实验台,采集柱塞泵在不同健康状态下的壳体振动信号;使用由卷积层和池化层组成孪生子网络自适应地从原始振动信号中提取低维特征,使用欧式距离判定输入样本对的特征相似度;通过相似度对比的方法扩大训练样本数量并训练孪生神经网络模型;最后,对测试样本进行健康状态识别。实验结果表明：与传统深度神经相比,所提方法在小样本情况下具有更高的准确率。同时,多通道数据融合实验表明：所提方法能够从不同通道的信号中学习到有关故障信息,多通道数据融合可以进一步提高诊断准确率。     

基于深度学习的航天器组合体惯性参数在轨智能辨识

针对在轨服务过程形成新组合体的动力学参数未知的问题,借助深度学习在多参数寻优上的优势,提出了一种基于卷积神经网络的智能参数辨识算法,实现在外力作用下,线动量和角动量不守恒条件下的航天器组合体多参数辨识。利用卷积神经网络权值共享的特点,设计4层卷积神经网络,通过短时间内对大量特定存储形式的状态数据的训练,实现航天器组合体多参数快速高精度辨识。利用数学仿真试验对算法的可行性进行验证,结果表明：在24s内,质量与质心位置收敛;1190s内,惯量参数收敛,辨识精度在3%以内。说明所提方法在外界随机干扰力和力矩影响下能准确快速辨识出航天器组合体质量、质心位置和惯量矩阵。     

一种动态环境下空间机器人的快速路径规划方法

针对动态环境下空间机器人采用深度强化学习进行路径规划时存在的收敛速度慢问题,采用迁移学习算法设计了一种适应动态环境的快速路径规划器.首先,综合考虑空间机器人运动过程中存在的避障、时间和扰动约束,在静态环境下对深度神经网络进行预训练.其次,将上述训练后的权值作为动态环境下深度神经网络的初始权值,再经过动态环境下的训练进行参数微调.最后,以平面五自由度空间机器人为例对所设计的方法进行了验证,并与直接训练方法进行了比较.实验结果表明,该方法能够将训练收敛时间从1033回合缩短到450回合,在保证规划路径准确率的前提下,提高训练的收敛速度.     

基于MobileFaceNet网络改进的人脸识别方法

为了解决训练过程中卷积模型参数较多、收敛速度较慢的问题，提出了一种基于MobileFaceNet网络改进的人脸识别方法。首先，使用MobileFaceNet网络提取人脸特征，在提取特征的过程中，通过引入可分离卷积减少模型中卷积层参数的数量；其次，通过在MobileFaceNet网络中引入风格注意力机制来增强特征的表达，同时使用AdaCos人脸损失函数来训练模型，利用AdaCos损失函数中的自适应缩放系数，来动态地调整超参数，避免了人为设置超参数对模型的影响；最后，分别在LFW、AgeDB和CFP-FF测试数据集上对训练模型进行评估。实验结果显示:改进后的模型在LFW、AgeDB和CFP-FF测试数据集上的识别精度分别提升了0.25%、0.16%和0.3%，表明改进后的模型相较于改进前的模型在精度和鲁棒性上有所提高。      

基于残缺图像样本的生成对抗网络图像修复方法

针对大面积图像修复缺失严重时，需要完整且高质量训练样本的问题，提出了一种将残缺或含噪图像样本作为训练集的双生成器深度卷积生成对抗网络（DGDCGAN）模型。构建两个生成器和一个鉴别器以解决单一生成器收敛慢的问题，用残缺图像样本作为训练集，通过交叉计算、搜索损失区域类似的图像信息作为训练生成模型的样本，收敛速度更快。鉴别器损失函数改进为输出的Wasserstein距离，使用自适应估计算法优化生成器损失函数和鉴别器损失函数的模型参数，最小化两两图像之间的总距离差，使用鉴别模型和修复图像总距离变化均方差最小化两个指标优化修复结果。在4个公开数据集上进行主客观实验，结果表明:所提方法能使用残缺图像样本作为训练集，有效实现大面积失真图像的修复，且收敛速度和修复效果优于现有图像修复方法。      

基于卷积神经网络的遥感图像舰船目标检测

针对遥感图像背景复杂、受环境因素影响大的问题,提出一种将卷积神经网络(CNN)与支持向量机(SVM)相结合的舰船目标检测方法,利用卷积神经网络可自主提取图像特征并进行学习的优点,避免了复杂的特征选择和提取过程,在复杂海况背景图像的处理中体现出较优的性能;同时,由于军舰样本获取难度大,应用迁移学习的概念,利用大量民船样本辅助军舰目标的检测,取得较好的效果。通过参数调整与实验验证,此方法在自行建立的测试集上检测率达到90.59%,对光照、环境等外界因素具有一定程度的鲁棒性。     

基于迁移学习的暴恐图像自动识别

利用人工智能和深度学习技术自动化地分析互联网海量图片，快速、准确地识别有害的暴恐图像并及时处置是反恐工作的重要手段之一。研究了利用深度学习和迁移学习技术对暴恐图像进行分类识别。首先，定义了暴恐图像的主要概念特征，并针对性地构建数据集；其次，针对暴恐图像正样本较少的问题，设计深度神经网络模型和迁移学习方式；最后，基于构建的训练数据集进行模型训练和测试。结果显示:所提方法可以快速、准确地对互联网图片进行分类识别，平均分类准确率达到96.7%，从而有效降低人工检测的劳动强度，为反恐预警工作提供决策支持。      

卷积神经网络求解有限元单元刚度矩阵

随着深度学习在众多领域的成功应用与快速发展，将深度学习与传统的结构分析相融合已经成为了新的研究方向。在求解有限元单元刚度矩阵的具体问题上，研究了卷积神经网络在结构分析上的应用。以四边形平面应力单元为例，基于卷积神经网络，提出了一个求解有限元总体刚度矩阵的神经网络模型；同时分析了网络的学习效果与网络卷积核数目、训练样本数目之间的关系。计算实例表明，在一定范围内，网络的学习能力随着卷积核数目、训练样本数目的增加而不断提升。在现实应用时，可以根据具体的精度要求而设定相应的卷积神经网络。卷积神经网络训练完成后，单元刚度矩阵的计算具有实时性，且精度满足工程要求。      

嵌入注意力机制的多尺度深度可分离表情识别

针对面部表情识别中，传统机器学习方法特征提取较为复杂，浅层卷积神经网络识别率不高，以及深度卷积神经网络易带来梯度爆炸或弥散的问题，构建了残差网络嵌入注意力机制的多尺度深度可分离表情识别网络。通过多层多尺度深度可分离残差单元的叠加进行不同尺度的表情特征提取，使用CBAM注意力机制进行表情特征的筛选，提升有效表情特征权重的表达，削弱训练数据的噪声影响。所提网络模型在Fer-2103和CK+表情数据集分别取得了73.89%和97.47%的准确度，表明所提网络具有较强的泛化性。      

基于深度迁移学习的航天器故障诊断

随着航天科技的发展,智能故障诊断技术是确保航天器控制系统安全、自主运行的关键技术之一.由于在轨航天器遥测数据样本少、噪声高、未标记,因此缺乏自适应能力、学习能力的传统故障诊断方法难以准确诊断在轨航天器故障.本文针对上述问题提出一种基于深度迁移学习的航天器故障诊断方法,为在轨航天器实时故障诊断提供了可行方法.首先,对航天器运行数据进行预处理,将多维时域信号转换为二维图像信号;其次,搭建基于残差网络的故障诊断深度学习框架,并利用地面测试数据与其他航天器在轨运行数据对网络进行预训练;进而,为了实现当前在轨航天器实时故障诊断,本文采用迁移学习自适应方法,设计网络联合分布自适应代价函数,对故障诊断模型进行参数重调,使模型适应当前在轨航天器故障诊断任务.仿真结果表明,所提出的基于深度迁移学习的故障诊断方法可以快速准确的诊断出航天器故障.     

基于Faster R-CNN的精密零部件的识别方法

在航空航天领域中，惯性陀螺等精密器件装配精度要求较高，目前大多采用人工装配的方法，装配效率低、装配过程受人主观影响大。针对上述存在的问题，采用基于Faster R-CNN模型的目标识别算法，通过VGG16特征提取网络提取特征信息，在模型训练过程中利用COCO数据集的深度网络模型进行迁移训练，防止模型过拟合并加速参数的训练过程。同时，该方法还与其他深度学习模型以及传统的目标识别算法进行了对比，在自建的数据模型测试集上进行试验。结果表明，基于VGG16的Faster R-CNN目标识别模型在复杂环境及物体发生遮挡的情况下对于惯性陀螺的识别具有明显的优势，准确率可达到87.80%，召回率80.30%，识别速度可达到15FPS，能够满足实时性要求。     

基于局部语义特征不变性的跨域行人重识别

行人重识别是刑侦案件中重要的侦查手段，而跨域是行人重识别的主要挑战之一，也是制约其实际应用的瓶颈问题。在带标签的源域和无标签的目标域学习跨域行人局部语义不变性特征模型。首先，在源域上通过只含有行人标识无部件标签的监督学习方式学习行人的各部件特征，并在源域和目标域上采用无监督学习方式对齐行人部件。然后，基于对齐后的行人全局与局部特征，引入特征模板池存储对齐后的目标域全局和局部特征，并设计了跨域不变性损失函数进行特征不变性约束，提高行人重识别的跨域适应能力。最后，在Market-1501、DukeMTMC-reID和MSMT17数据集之间开展了跨域行人重识别验证实验，实验结果表明，所提方法在跨域行人重识别上取得了显著的性能提升。      

基于学习的中段反导拦截时间和拦截点预测方法

弹道导弹实时、准确地预测拦截弹的拦截点与拦截时间，是实现中段突防的有效手段。针对弹道导弹中段突防中的拦截点坐标及拦截时间的预测问题，提出了一种基于监督学习的在线预测方法。以拦截弹的主动段关机参数和关机时刻为输入量，建立拦截时间和拦截点预测模型。在多层感知机神经网络的基础上构建有监督学习算法，通过攻防仿真获取拦截弹的参数制作训练数据集，在线下完成网络训练。仿真结果表明:神经网络能够有效在线预测拦截时间和拦截点坐标，预测结果的相对误差分别为0.124 3%和0.128 5%，拦截时间预测结果误差的平均值为0.224 0 s，拦截点预测结果距离误差平均值为2 016.48 m，均满足精度要求。      

嵌入式隐Markov模型的分段训练方法

针对嵌入式隐Markov模型再学习问题,提出了分段训练方法用于人脸识别:把当前的训练样本看作整体训练样本的一部分,训练结束后存储训练后的模型参数和中间变量;增加新样本后,以当前模型参数作为初始模型参数,用新增样本训练模型,得到新的中间变量,最后将已存储的中间变量和用新样本计算得到的中间变量合成,得到最终的模型.人脸识别实验结果表明了该方法的可行性.      

应用于智能芯片的可视化反馈系统研究

当前，市场上普遍使用的负责推理的终端人工智能（AI）芯片使用训练好的参数对数据进行快速高效运算。但在通常训练过程中使用的数据集和真实数据的分布不一致，由此获得的参数会导致终端AI芯片识别准确度降低。为此，提出了一种基于终端AI芯片的可视化反馈系统架构方法。使用反卷积特征可视化方法，在具有高效计算性能的终端AI芯片上，对卷积核参数进行迭代优化，达到可识别该图像目的。相比于CPU/GPU和FPGA，所提架构在卷积神经网络模型里，更具有高效处理能力和灵活可塑性。实验表明，该研究有效提高了终端AI芯片的普适性、识别准确度和处理效率。      

基于EfficientDet的无预训练SAR图像船舶检测器

针对多尺度、多场景的合成孔径雷达(SAR)图像船舶检测问题,提出了一种基于EfficientDet的无预训练目标检测器。现有的基于卷积神经网络的SAR图像船舶检测器并没有表现出其应有的出色性能。重要原因之一是依赖分类任务的预训练模型,没有有效的方法来解决SAR图像与自然场景图像之间存在的差异性;另一个重要原因是没有充分利用卷积神经网络各层的信息,特征融合能力不够强,难以处理包括海上和近海在内的多场景船舶检测,尤其是无法排除近海复杂背景的干扰。SED就这2个方面改进方法,在公开SAR船舶检测数据集上进行实验,检测精度指标平均准确率(AP)达到94.2%,与经典的深度学习检测器对比,超过最优的RetineNet模型1.3%,在模型大小、算力消耗和检测速度之间达到平衡,验证了所提模型在多场景条件下多尺度SAR图像船舶检测具有优异的性能。      

基于深度残差收缩网络的滚动轴承故障诊断

滚动轴承的准确故障诊断是确保机械设备安全可靠运行的必要手段。针对多故障、长时间序列的滚动轴承振动信号,提出了一种基于深度残差收缩网络(DRSN)模型的故障诊断方法。首先,根据采集到的滚动轴承数据构造故障样本,针对多种故障类型下的长时间序列的振动信号,按照一定尺寸将长时间序列矩阵化,构成多故障类型的灰度图故障样本。从正常到故障的滚动轴承性能退化过程,通过多个采样点的随机采样,构造全寿命周期的故障样本用于故障诊断。其次,在多层深度学习模型基础上,将残差收缩网络模块加入到卷积神经网络(CNN)中构建深度残差收缩网络模型用于故障诊断,其中通过将残差项加入到网络中训练解决了多层网络模型的模型退化问题,利用软阈值化实现了样本降噪。最后,为了验证所提方法的有效性,采集了滚动轴承的多故障时间序列样本和全寿命周期故障样本用于故障诊断。实例验证的结果表明:所提深度残差收缩网络模型在处理含噪声样本时仍具有良好的鲁棒性,多层网络模型下没有明显的网络退化,能够保持较高的故障诊断正确率。在处理2种轴承故障数据集时,与其他模型相比,所提方法训练误差更低,平均故障诊断正确率提高1%~6%。