基于注意力机制的跨分辨率行人重识别

行人图像分辨率的变化对现有的行人重识别方法带来了很大的挑战。针对这一问题，提出了一种新的跨分辨率行人重识别方法。该方法从两方面解决分辨率变化带来的识别困难:一方面通过通道注意力机制和空间注意力机制捕捉人物特征获取局部区域；另一方面通过核动态上采样模块恢复任意分辨率图像的局部区域信息。为了验证所提方法的有效性，在Market1501、CUHK03和CAVIAR三个公开数据集上开展了对比实验，实验结果表明:所提方法取得了最佳性能。      

基于级联注意力机制的孪生网络视觉跟踪算法

针对全卷积孪生网络（SiamFC）在相似物体干扰及目标发生大尺度外观变化时容易跟踪失败的问题，提出了一种基于级联注意力机制的孪生网络视觉跟踪算法。首先，在网络的最后一层加入非局部注意力模块，从空间维度得到关于目标区域的自注意特征图，并与最后一层特征进行相加运算。其次，考虑到不同通道特征对不同目标和各类场景的响应差异，引入通道注意力模块实现对特征通道的重要性选择。为了进一步提高跟踪的鲁棒性，将其与SiamFC算法进行加权融合，得到最终的响应图。最后，将提出的孪生网络模型在GOT10k和VID数据集上进行联合训练，进一步提升模型的表达力与判别力。实验结果表明:所提算法相比于SiamFC，在跟踪精度上提高了9.3%，在成功率上提高了5.4%。      

基于双注意力混洗的无人机航拍目标跟踪算法

针对无人机（UAV）跟踪过程中目标经常出现尺寸小、尺度变化大和相似物干扰等问题,提出了一种基于双注意力混洗的多尺度无人机实时跟踪算法。考虑到无人机视角下目标像素点少,构建了双采样融合的深层网络,既提供了语义信息丰富的深度特征,又保留了目标的细节信息;设计了双注意力混洗模块,通道注意力和空间注意力同时分组筛选提取到的特征信息,混洗不同通道间的信息,加强信息交流,提高了算法辨别能力;为利用不同层的特征信息,加入多个区域建议网络完成目标的分类和回归,并针对无人机的目标特点,将结果进行加权融合。实验结果表明：所提算法在数据集上的成功率和准确率分别为60.3%和79.3%,速度为37.5帧/s。所提算法的辨别能力和多尺度适应能力明显增强,能有效应对无人机跟踪中常见的挑战。     

基于EM自注意力残差的图像超分辨率重建网络

基于深度学习的图像超分辨率(SR)重建方法主要通过增加模型的深度来提升图像重建的质量,但同时增加了模型的计算代价,很多网络利用注意力机制来提高特征提取能力,但难以充分学习到不同区域的特征。为此,提出一种基于期望最大化(EM)自注意力残差的图像超分辨率重建网络。该网络通过改进基础残差块,构建特征增强残差块,以更好地复用残差块中所提取的特征。为增加特征信息在空间上的相关性,引入EM自注意力机制,构建EM自注意力残差模块来增强模型中每个模块的特征提取能力,并通过级联EM自注意力残差模块来构建整个模型的特征提取结构。所获得的特征图通过上采样的图像重建模块获得重建的高分辨率图像。将所提方法与主流方法进行实验对比,结果表明：所提方法在5个流行的SR测试集上能够取得较好的主观视觉效果和更优的性能指标。     

基于渐进式注意力和分块遮挡的跨域行人重识别

针对跨域行人重识别中遮挡造成特征匹配缺失及细粒度辨识性特征被忽略的问题，提出了基于渐进式注意力和分块遮挡的跨域行人重识别方法。该方法通过学习行人未遮挡区域的多粒度辨别性特征，实现空间不对齐下的特征匹配。渐进式注意力模块将特征逐步分割为多个局部块，依次学习每块的辨别性特征，由粗到细地感知前景信息，从而解决目前网络不能提取多层次辨识性特征的问题，增强了特征的匹配能力；渐进式分块遮挡模块很好地适应模型逐步变强的学习能力特性，通过由易到难地生成遮挡数据，有效提取了未遮挡区域的辨识性特征，进而解决模型错误识别遮挡样本的问题，使得所提模型在遮挡情况下的鲁棒性得到有效提高。实验结果表明：所提方法在首位命中率和平均精确度2个指标上与当前主流方法相比具有显著的优越性；与2020年CVPR会议中QAConv行人重识别方法相比，在DukeMTMC-reID数据集(MSMT17→DukeMTMCreID)上的2个指标分别高出2.3%和6.2%，能够更加有效地实现跨域行人重识别，在OccludedDuke数据集(DukeMTMC-reID→Occluded-Duke)上的2个指标分别达到49.5%和39.0%，...     

基于注意力机制与特征相关性的人脸表情识别

针对自然条件下人脸表情识别面临遮挡、光照、姿势变化等挑战，存在识别准确率低的问题, 提出了一种新的深度学习网络模型用于人脸表情识别。以ResNet为基础网络，融合了瓶颈注意力机制及全局二阶池化层，其中瓶颈注意力机制专注于表情重要特征的提取，全局二阶池化层度量表情特征之间的相关性，在此基础上通过联合正则化策略，平衡和改善特征数据分布情况，提高表情识别准确率。所提方法在2个公开数据集FER2013和CK+ 进行了测试及验证，最高准确率分别达到了74.227%和95.8%，性能优于诸多现存的主流方法，表明所提模型具有较好的准确性和鲁棒性。      

多尺度特征和注意力融合的生成对抗壁画修复

针对现有深度学习图像修复算法修复壁画时，存在特征提取不足及细节重构丢失等问题，提出了一种多尺度特征和注意力融合的生成对抗壁画修复深度学习模型。设计多尺度特征金字塔网络提取壁画中不同尺度的特征信息，增强特征关联性；采用自注意力机制及特征融合模块构建多尺度特征生成器，以获取丰富的上下文信息，提升网络的修复能力；引入最小化对抗损失与均方误差促进判别器的残差反馈，从而结合不同尺度的特征信息完成壁画修复。通过对真实敦煌壁画数字化修复的实验结果表明，所提算法能够有效保护壁画图像的边缘和纹理等重要特征信息，并且主观视觉效果及客观评价指标均优于比较算法。     

基于通道注意力机制的行人重识别方法

针对行人特征表达不充分的问题，提出了一种基于通道注意力机制的行人重识别方法。将通道注意力机制SE模块嵌入到骨干网络ResNet50中，对关键特征信息进行加权强化；采用动态激活函数，根据输入特征动态调整ReLU的参数，增强网络模型的非线性表达能力；将梯度中心化算法引入Adam优化器，提升网络模型的训练速度和泛化能力。在Market1501、DukeMTMC-ReID和CUHK03主流数据集上对改进后的模型进行测试评价，Rank-1分别提升2.17%、2.38%和3.50%，mAP分别提升3.07%、3.39%和4.14%。结果表明:改进后的模型能够提取更强鲁棒性的行人表达特征，达到更高的识别精度。      

基于注意力机制的光伏组件热斑检测算法

热斑现象是造成光伏组件发电能力下降的重要原因之一，热斑检测是光伏电站运维必不可少的工作。然而分布式光伏电站的规模普遍较小、选址分散、环境复杂多样，使用传统的热斑检测算法需要投入大量的人力资源。基于此，提出了一种基于注意力机制的热斑检测算法HSNet。通过图像分割消除反光影响，结合通道注意力机制，学习通道间的特征信息，增强目标区域的重要性，采用自定义锚点的方法提高检测速度，使用焦点损失激活函数和基于物体先验概率的类别预测方式改善训练目标样本不均衡导致的分类准确性低的问题，通过回归方法获取准确的目标位置。实验表明:设计的目标检测算法在窗体回归精度和分类准确性方面均有明显的优势，边界框平均精度和准确率分别提升了3.18%和2.42%。      

自注意力相似度迁移跨模态哈希网络

为进一步提升跨模态检索性能,提出自注意力相似度迁移跨模态哈希网络模型。设计了一种通道空间混合自注意力机制强化关注图像的关键信息,并使用共同注意力方法加强模态信息交互,提高特征学习质量;为在哈希空间重构相似关系,采用迁移学习的方法利用实值空间相似度引导哈希码的生成。在3个常用的数据集MIRFLICKR-25K、IAPR TC-12和MSCOCO上与深度跨模态哈希（DCMH）、成对关系引导的深度哈希（PRDH）、跨模态汉明哈希（CMHH）等优秀方法进行对比实验,结果显示哈希码长度为64 bit的条件下,所提模型在3个数据集图像检索文本任务的平均精确度均值（MAP）达到72.3%,文本检索图像任务的MAP达到70%,高于对比方法。     

结合多层特征及空间信息蒸馏的医学影像分割

U-Net在医学影像分割领域是目前应用最广泛的分割模型，其“编码-解码”结构也成为了构建医学影像分割模型最常用的结构。尽管U-Net在许多领域实现了非常高的分割准确度，但是存在着计算复杂度高、推理速度慢、运行消耗内存大等问题，导致其难以在移动应用平台部署。为解决这一问题，提出了一种结合多层特征及空间信息蒸馏的医学影像分割方法TinyUnet。该方法使用轻量化的U-Net作为学生网络。考虑到小模型没有足够的学习能力，通过选择合适的蒸馏位置，对多层教师特征图进行蒸馏; 同时加强教师网络深层特征图的边缘，并构建边缘关键点图结构，采用图卷积网络对学生网络进行空间信息蒸馏，从而补充重要的边缘信息和空间信息。实验表明:在3个医学影像数据集上，TinyUnet能够达到U-Net 98.3%~99.7%的分割准确度，但是将U-Net的参数量平均降低了99.6%，运算速度提高了约110倍; 同时，与其他轻量化医学影像分割模型相比，TinyUnet不仅具有较高的分割准确度，而且占用内存更少，运行速度更快。      

基于时空注意力机制的新冠肺炎疫情预测模型

新冠肺炎疫情持续蔓延给人类社会带来深远影响，准确预测各地区的病毒传播趋势对防控疫情而言至关重要。现有研究主要基于传统的时序预测模型和传染病模型，鲜有考虑疫情地区关联复杂和时序依赖性强的特点，限制了其疫情预测的性能。为此，针对新冠肺炎疫情的预测任务，提出了一种时空注意力驱动的自编码器框架。通过引入空间注意力机制捕捉病毒感染序列间的动态空间关联性，利用时间注意力机制挖掘病毒感染序列中复杂的时序依赖性，以此实现对不同地区的新冠肺炎病毒传播趋势的准确预测。在模型的编码器端，融合空间注意力机制的长短期记忆(LSTM)网络，关联目标地区与其他地区的病毒感染序列，提取该区域近期新冠肺炎疫情的时序特征。在模型的解码器端，将时间注意力机制引入基于LSTM网络的解码器中，通过捕捉病毒感染序列的时序依赖性推测未来的新冠肺炎疫情趋势变化。在多个公开的新冠肺炎疫情数据集上对所提模型进行验证，实验结果表明:所提模型的预测性能超越了LSTM等模型；在公开的欧洲部分国家新冠肺炎疫情数据集上，预测误差指标RMSE和MAE分别降低了22.3%和25.0%，在中国部分省级单位新冠肺炎疫情数据集上，RMSE和MAE分别降低了10.1%和10.4%。      

基于高置信局部特征的车辆重识别优化算法

根据车辆重识别中区域置信度不同，提出了基于高置信局部特征的车辆重识别优化算法。首先，利用车辆关键点检测获得对应的多个关键点坐标信息，分割出车标扩散区域和其他重要的局部区域。根据车标扩散区域的高区分度特性，提升局部区域的置信度。使用多层卷积神经网络对输入图片进行处理，根据局部区域分割信息，对卷积得到的特征张量进行空间维度上的切割，获得代表全局信息和关键局部信息的特征张量。然后，通过全连接层特征张量转化为表示车辆个体的一维向量，计算损失函数。最后，在测试阶段使用全局特征，并利用训练好的车标扩散区域提取分支获得高置信局部特征，缩短局部识别一致的车辆目标距离。在典型车辆重识别数据集VehicleID上进行测试，验证了所提算法的有效性。      

基于倒置残差注意力的无人机航拍图像小目标检测

针对无人机航拍图像背景复杂、小尺寸目标较多等问题,提出了一种基于倒置残差注意力的无人机航拍图像小目标检测算法。在主干网络部分嵌入倒置残差模块与倒置残差注意力模块,利用低维向高维的特征信息映射,获得丰富的小目标空间信息和深层语义信息,提升小目标的检测精度;在特征融合部分设计多尺度特征融合模块,融合浅层空间信息和深层语义信息,并生成4个不同感受野的检测头,提升模型对小尺寸目标的识别能力,减少小目标的漏检;设计马赛克混合数据增强方法,建立数据之间的线性关系,增加图像背景复杂度,提升算法的鲁棒性。在VisDrone数据集上的实验结果表明：所提模型的平均精度均值比DSHNet模型提升了1.2%,有效改善了无人机航拍图像小目标漏检、误检的问题。     

基于图卷积网络的卷积神经网络耗时预测算法

通过可学习的预测算法获取卷积神经网络(CNN)在硬件上的推理耗时越来越受到研究者的关注。现有耗时预测算法主要面临2个问题:卷积神经网络设计空间采样复杂度高，数据采集成本高；无法准确预测硬件编译器的算子融合技术对推理耗时的影响。为了解决上述问题，提出了一种基于图卷积网络(GCN)的耗时预测算法, 将整体网络耗时看作多节点耗时补偿的累加，并利用图卷积对结构算子融合产生的耗时影响进行建模。同时，提出一种新型差分训练方案，减少采样空间规模，提高算法的泛化能力。在HISI3559硬件平台上对MB-C连续空间采样模型的耗时预测实验表明:所提算法可将耗时估计的平均相对误差从传统算法的302%降低到5.3%。另外，通过将传统耗时预测算法替换成所提算法进行耗时评估，可以使网络结构搜索算法搜索到耗时更加接近目标的高精度网络。      

基于MEDLL的分级搜索抗多径算法

以多径估计延迟锁定环路(MEDLL)为代表的参量式基带抗多径算法以其能够同时估计直达信号和多径信号各参数而受到广泛关注,然而该类算法估计精度的提高是以计算复杂度的增加为代价的。为了在保证估计精度的同时降低资源消耗并加快搜索速度,提出了一种MEDLL最大似然(ML)估计搜索方法,将粗搜索后得到的参数估计值作为下一级搜索的先验信息,缩小搜索范围后减小搜索步进,完成逐级精细的参数估计。推导了原始MEDLL及树状分级结构的MEDLL(T-MEDLL)算法计算复杂度表达式;其中在存在一路多径信号的情况下,对于0.01 chip的多径延迟分辨率,复杂度可以降低为传统盲搜索的30%~50%。进一步基于自研的数字中频(IF)GPS信号模拟器和软件GPS接收机平台对不同多径情况下盲搜索法与分级搜索算法的参数估计精度及码伪距多径误差等性能进行了对比,验证了更低计算复杂度的T-MEDLL可以达到与传统MEDLL算法同样的跟踪精度。      

一种基于层次聚类的空间非合作目标重构方法

由于激光传感器内在的缺陷，获得的非合作目标原始点云数据往往处于一个分布不均匀的状态，这就对后续的高质量非合作目标表面重构带来了很大的挑战.提出了一种基于全局约束的局部层次聚类方法来提升非合作目标点云分布的连续性.该方法主要可分为两步：1.基于全局约束的自适应八叉树三维空间分解，2.基于全局约束的层次聚类.第一步的主要目的是为了降低算法的复杂度，第二步则将分布不均匀的点集转化为均匀分布的状态.本文在三个非合作目标模型上进行了实验.实验的可视化结果与定量计算结果均验证了该方法的有效性.     

一种基于HMM的多用户检测算法

针对以概率统计为基础信道估计收敛速度慢、状态估计存在非合理性的问题进行研究,提出了一种新的多用户检测方法.该算法以隐马尔可夫模型为基础,为了避免由于相邻状态序列后向概率相差很大而造成的信道估计发散,采用固定延迟的方法,利用锯齿延时的办法计算后向序列概率以减少计算复杂度.根据前后序列之间的相关性和最陡下降法,提出了解相关最小均方(DLMS)多用户上行复合信道的盲估计. 考虑到由于发射序列状态之间可能存在时序非继承性,而搜索与前向序列对应的具有最大转移概率的后续序列,给出了最大后验(MAP)多用户检测方法.计算机仿真实验表明,该算法提高了信道响应估计速度,具有全局收敛性和系统的稳定性.