基于注意力机制与特征相关性的人脸表情识别

针对自然条件下人脸表情识别面临遮挡、光照、姿势变化等挑战，存在识别准确率低的问题, 提出了一种新的深度学习网络模型用于人脸表情识别。以ResNet为基础网络，融合了瓶颈注意力机制及全局二阶池化层，其中瓶颈注意力机制专注于表情重要特征的提取，全局二阶池化层度量表情特征之间的相关性，在此基础上通过联合正则化策略，平衡和改善特征数据分布情况，提高表情识别准确率。所提方法在2个公开数据集FER2013和CK+ 进行了测试及验证，最高准确率分别达到了74.227%和95.8%，性能优于诸多现存的主流方法，表明所提模型具有较好的准确性和鲁棒性。      

基于多尺度残差卷积网络的HEVC视频隐写分析

图片、语音、视频等多媒体形式的信息交流在网络通信中占有重要地位，同时也有很多非法信息的传播隐匿于此。隐写分析是甄别隐秘信息是否存在的有效手段，提出了一种通用的基于多尺度残差卷积网络的HEVC视频隐写分析算法。网络主体由残差计算、特征提取和二分类3部分构成，其中在特征提取部分针对性地提出了残差卷积层、多尺度残差卷积模块及隐写分析残差块。实验结果表明:所提算法基于视频像素域分析网络的检测率高达99.75%，比传统的手工提取特征方法具有更大的优势。      

基于Transformer和动态3D卷积的多源遥感图像分类

多源遥感数据具有互补性和协同性,近年来,基于深度学习的方法已经在多源遥感图像分类中取得了一定进展,但当前方法仍面临关键难题,如多源遥感图像特征表达不一致,融合困难,基于静态推理范式的神经网络缺乏对不同类别地物的适应性。为解决上述问题,提出了基于跨模态Transformer和多尺度动态3D卷积的多源遥感图像分类模型。为提高多源特征表达的一致性,设计了基于Transformer的融合模块,借助其强大的注意力建模能力挖掘高光谱和LiDAR数据特征之间的相互作用;为提高特征提取方法对不同地物类别的适应性,设计了多尺度动态3D卷积模块,将输入特征的多尺度信息融入卷积核的调制,提高卷积操作对不同地物的适应性。采用多源遥感数据集Houston和Trento对所提方法进行验证,实验结果表明：所提方法在Houston和Trento数据集上总体准确率分别达到94.60%和98.21%,相比MGA-MFN等主流方法,总体准确率分别至少提升0.97%和0.25%,验证了所提方法可有效提升多源遥感图像分类的准确率。     

多尺度特征和注意力融合的生成对抗壁画修复

针对现有深度学习图像修复算法修复壁画时，存在特征提取不足及细节重构丢失等问题，提出了一种多尺度特征和注意力融合的生成对抗壁画修复深度学习模型。设计多尺度特征金字塔网络提取壁画中不同尺度的特征信息，增强特征关联性；采用自注意力机制及特征融合模块构建多尺度特征生成器，以获取丰富的上下文信息，提升网络的修复能力；引入最小化对抗损失与均方误差促进判别器的残差反馈，从而结合不同尺度的特征信息完成壁画修复。通过对真实敦煌壁画数字化修复的实验结果表明，所提算法能够有效保护壁画图像的边缘和纹理等重要特征信息，并且主观视觉效果及客观评价指标均优于比较算法。     

基于EM自注意力残差的图像超分辨率重建网络

基于深度学习的图像超分辨率(SR)重建方法主要通过增加模型的深度来提升图像重建的质量,但同时增加了模型的计算代价,很多网络利用注意力机制来提高特征提取能力,但难以充分学习到不同区域的特征。为此,提出一种基于期望最大化(EM)自注意力残差的图像超分辨率重建网络。该网络通过改进基础残差块,构建特征增强残差块,以更好地复用残差块中所提取的特征。为增加特征信息在空间上的相关性,引入EM自注意力机制,构建EM自注意力残差模块来增强模型中每个模块的特征提取能力,并通过级联EM自注意力残差模块来构建整个模型的特征提取结构。所获得的特征图通过上采样的图像重建模块获得重建的高分辨率图像。将所提方法与主流方法进行实验对比,结果表明：所提方法在5个流行的SR测试集上能够取得较好的主观视觉效果和更优的性能指标。     

基于空间注意力机制的行人再识别方法

行人再识别是图像检索领域的一个重要部分，但是由于行人姿态各异、背景复杂等因素，导致提取到的行人特征鲁棒性和代表性不强，进而影响行人再识别的精度。在AlignedReID++算法基础上，提出了基于空间注意力机制的行人特征提取方法，应用在行人再识别中取得了很好的效果。首先，在特征提取部分，引入空间注意力机制来增强特征表达，同时抑制可能的噪声；其次，通过在卷积层中引入实例正则化层（IN）来辅助批正则化层（BN）对特征进行归一化处理，解决单一BN层对特征色调变化以及光照变化的不敏感性，提高特征提取对亮度、色调变化的鲁棒性；最后，在Market1501、DukeMTMC和CUHK03 3个行人再识别通用数据集上对所提改进模型进行测试评价。实验结果显示:改进后的模型在3个数据集上识别精度分别提升了2%、2.9%和5.1%，表明改进后的模型相较于改进前的模型，在精度以及鲁棒性上都有显著提高。      

基于深度残差收缩网络的滚动轴承故障诊断

滚动轴承的准确故障诊断是确保机械设备安全可靠运行的必要手段。针对多故障、长时间序列的滚动轴承振动信号，提出了一种基于深度残差收缩网络(DRSN)模型的故障诊断方法。首先，根据采集到的滚动轴承数据构造故障样本，针对多种故障类型下的长时间序列的振动信号，按照一定尺寸将长时间序列矩阵化，构成多故障类型的灰度图故障样本。从正常到故障的滚动轴承性能退化过程，通过多个采样点的随机采样，构造全寿命周期的故障样本用于故障诊断。其次，在多层深度学习模型基础上，将残差收缩网络模块加入到卷积神经网络(CNN)中构建深度残差收缩网络模型用于故障诊断，其中通过将残差项加入到网络中训练解决了多层网络模型的模型退化问题，利用软阈值化实现了样本降噪。最后，为了验证所提方法的有效性，采集了滚动轴承的多故障时间序列样本和全寿命周期故障样本用于故障诊断。实例验证的结果表明:所提深度残差收缩网络模型在处理含噪声样本时仍具有良好的鲁棒性，多层网络模型下没有明显的网络退化，能够保持较高的故障诊断正确率。在处理2种轴承故障数据集时，与其他模型相比，所提方法训练误差更低，平均故障诊断正确率提高1%~6%。      

基于注意机制的轻量化稠密连接网络单幅图像去雨

图像中附着的雨条纹对背景造成的破坏严重影响了对图像信息的分析和后续研究。为了恢复被雨条纹破坏的背景纹理特征, 提出一种基于注意机制的轻量化稠密连接网络针对单幅图像进行去雨。注意机制有利于网络准确定位降雨区域, 稠密连接网络的使用增强了特征的复用, 缓解了梯度消失和模型退化问题。利用多尺度通道混洗深度可分离卷积实现网络轻量化设计, 降低了网络参数规模, 提升了网络运行效率。在合成数据集和真实数据集上的去雨结果表明, 所提算法在定量指标和定性分析上都优于现有算法。      

基于改进空间通道信息的全局烟雾注意网络

针对烟雾因半透明、形状不规则和边界模糊造成分割困难的问题，提出了基于注意力机制的长距离信息建模方法，以提取长距离像素间的依赖和连续性关系。通过注意力机制作用原理，解决孤立小块区域误分类问题，减少非连续区域的烟雾误判。为避免注意力网络大尺寸矩阵运算造成的内存和计算负担，对空间和通道2种注意力方式进行改进，分别设计了双向定位空间注意力(BDA)模块和多尺度通道注意力(MSCA)融合模块，弥补现有注意力全局池化操作导致的大量空间信息丢失。将所提注意力模块和残差深度网络合并，构建面向图像烟雾分割的全局烟雾注意网络，在尽可能不丢失全局信息相关性的同时减少内存消耗。实验结果表明:所提网络在DS01、DS02、DS03合成烟雾测试集上，取得的平均交并比分别为73.13%、73.81%、74.25%，总体上优于对比算法。      

基于联合正则化策略的人脸表情识别方法

针对目前人脸表情识别大多采用基于深度学习的端到端特征提取及分类方法的现象，提出了一种新的深度模型优化方法。基于ResNet18残差网络架构和正则化思想，提出了联合正则化策略，即将过滤器响应正则化和批量正则化、实例正则化和组正则化、组正则化和批量正则化分别嵌入网络之中，平衡和改善特征数据分布，弥补单一正则化的缺点，提升模型性能。在2个公开数据集FER2013和CK+进行了验证和测试，最高准确率分别达到了73.558%和94.9%，实验结果表明，联合正则化策略提高了基础网络的性能，其表现优于诸多当前较新的人脸表情识别方法。      

基于MobileFaceNet网络改进的人脸识别方法

为了解决训练过程中卷积模型参数较多、收敛速度较慢的问题，提出了一种基于MobileFaceNet网络改进的人脸识别方法。首先，使用MobileFaceNet网络提取人脸特征，在提取特征的过程中，通过引入可分离卷积减少模型中卷积层参数的数量；其次，通过在MobileFaceNet网络中引入风格注意力机制来增强特征的表达，同时使用AdaCos人脸损失函数来训练模型，利用AdaCos损失函数中的自适应缩放系数，来动态地调整超参数，避免了人为设置超参数对模型的影响；最后，分别在LFW、AgeDB和CFP-FF测试数据集上对训练模型进行评估。实验结果显示:改进后的模型在LFW、AgeDB和CFP-FF测试数据集上的识别精度分别提升了0.25%、0.16%和0.3%，表明改进后的模型相较于改进前的模型在精度和鲁棒性上有所提高。      

卷积神经网络卫星信号自动调制识别算法

自动调制识别是空间认知通信系统的关键技术，有助于实现自适应信号解调。深度神经网络虽然具有特征提取能力强的优势，但也存在参数众多、计算量大的问题，难以实现空间在轨应用。针对以上问题，提出了一种轻量化、高性能的卷积神经网络结构。网络先提取信号的同相正交相关特征，再提取时域特征，最后提取各通道特征均值进行分类。对11种调制方式分类的实验结果表明:当信噪比高于0 dB时，平均识别准确率能达到86.94%，较传统的高阶累积量的方法提高了31.54%;与目前高识别准确率的深度神经网络模型相比，仅使用不到10%的模型参数，在树莓派4B上计算速度平均提高了20倍。      

基于倒置残差注意力的无人机航拍图像小目标检测

针对无人机航拍图像背景复杂、小尺寸目标较多等问题,提出了一种基于倒置残差注意力的无人机航拍图像小目标检测算法。在主干网络部分嵌入倒置残差模块与倒置残差注意力模块,利用低维向高维的特征信息映射,获得丰富的小目标空间信息和深层语义信息,提升小目标的检测精度;在特征融合部分设计多尺度特征融合模块,融合浅层空间信息和深层语义信息,并生成4个不同感受野的检测头,提升模型对小尺寸目标的识别能力,减少小目标的漏检;设计马赛克混合数据增强方法,建立数据之间的线性关系,增加图像背景复杂度,提升算法的鲁棒性。在VisDrone数据集上的实验结果表明：所提模型的平均精度均值比DSHNet模型提升了1.2%,有效改善了无人机航拍图像小目标漏检、误检的问题。     

基于多尺度梯度及深度神经网络的汉字识别

介绍了一种基于多尺度滑动窗的方法提取文字的梯度直方图特征,并结合深度神经网络对印刷体汉字进行识别.针对梯度直方图的空间关系,使用可伸缩的滑动窗对图像进行分割,在不同尺度上获取文字的特征信息,有效融合汉字的全局特征和局部分块特征.实验采用5层的深度神经网络模型对国标一级3755个印刷体汉字进行分类,并应用Dropout技术防止训练过拟合,提高神经网络的泛化能力.实验准确率达到98.292%,有较好的识别性能,验证了本文多尺度梯度特征及深度神经网络模型在文字识别上的有效性.      

基于Pos-FCN的红外图像背景抑制方法

红外图像背景抑制可以为红外目标检测识别任务提供支撑。在实际的应用场景中,红外图像中的目标多为弱小目标,其特征不明显,一般背景抑制算法难以将其从背景中分离,而达不到背景抑制的最佳效果。针对上述问题,提出使用Pos-FCN网络实现红外图像背景抑制的方法,该方法使用特征卷积结构,依靠高分辨网络结构获取弱小目标的特征信息,通过大尺寸卷积特征图的前向传播方式实现了高维度特征中弱小目标信息的保留,使用卷积降采样特征提取和上采样图像恢复方式实现了端到端的处理,并在前置训练阶段引入了位置信息强化网络骨干特征提取效果。结果表明,该方法处理后的红外图像中信杂比提高至3.877,对比度提高至0.297,检测率达到了93.6%,因此,该方法可以实现良好的背景抑制效果。     

基于深度卷积的残差三生网络研究与应用

针对图像多分类任务,提出基于深度卷积的残差三生网络,旨在通过残差学习和距离比较来训练神经网络得到有效的特征表示。首先,设计了一个21层的深度卷积神经网络作为三生网络的嵌入网络,其中该卷积网络共连接6个块（block）。利用残差学习的方式,每个block的输出层由卷积层的输出和该block的输入共同组成,降低网络学习难度,避免网络出现退化问题。然后,每个block中采用相同拓扑结构分路的卷积层,拓宽网络的宽度。最后,在全连接层拼接了来自前面卷积层和block的输出,加强特征信息的传递。训练前,针对正负样本采用交叉组合的采样方法来增加有效训练样本量;训练期间,用样本中心点更换原点样本作为输入,能平均降低0.5%错误率。在与其他三生网络的对比实验中,在MNIST、CIFAR10和SVHN数据库上达到最好的效果,在所有分类网络中,本文网络在MNIST上达到最好的效果,在CIFAR10和SVHN上表现优异。