基于变分自编码器的多维退化数据生成方法

数据驱动的剩余使用寿命（RUL）预测方法不依赖于复杂的物理模型，可以直接利用设备历史运行数据与当前监测数据对设备RUL进行预测，对制定合理的维修策略，降低设备的维护成本具有重要意义。但是数据驱动的RUL预测方法依赖于大量历史数据，在数据不足时，尤其是多维退化数据，模型难以取得良好的预测效果。针对这一问题，提出一种多维退化数据生成方法，所提方法构建了一种全局优化模型，以条件变分自编码器作为生成模型，提取多维退化数据特征并生成相似数据扩充RUL预测模型训练集，利用长短时记忆网络作为RUL预测模型，所提方法能够通过RUL预测模型更新生成模型的参数提高模型的效果，同时利用更新后的生成模型提高剩余寿命预测模型在退化数据不足情况下的效果。使用航空发动机退化数据进行了案例验证，通过对比未加入生成数据训练得到的RUL预测模型与加入生成数据训练得到的RUL预测模型的表现，验证了所提方法在解决RUL预测模型训练数据不足方面的优越性。     

考虑随机效应的多源信息融合剩余寿命预测

为了合理利用同类设备的先验信息，提高参数估计和剩余使用寿命（RUL）预测精度，提出一种基于多源信息融合并考虑随机效应的RUL预测方法。利用考虑随机效应的线性Wiener过程对设备的退化过程进行建模；利用期望最大化（EM）算法，融合先验退化信息和先验失效寿命数据信息，计算模型中的未知参数；根据Wiener过程参数估计的性质，提出一种基于多源信息融合并考虑随机效应的非线性Wiener过程参数估计方法；利用激光器数据和疲劳裂纹数据进行实验验证。实验结果表明：与基于历史退化数据或失效寿命数据的方法相比，所提方法能有效提高参数估计和RUL预测的精度。     

基于相关分析和组合神经网络的退化预测

产品剩余寿命预测是加速退化试验和故障预测与健康管理两大热点领域中的关键技术之一.为了解决复杂退化的预测问题,提出了一种新型预测方法,对退化轨迹能够实现较长距离的预测.此方法首先对复杂退化数据进行小波变换,通过Durbin-Watson方法和偏相关图分析各级分解序列的自相关性,最后根据序列的特点,组合BP(Back Propagation)和小波神经网络对退化轨迹进行预测.为了验证所提组合神经网络方法的有效性,采用小波神经网络的预测结果进行对比分析.实际退化数据的预测结果表明,所提方法比单独采用小波神经网络,具有更小的均方差(MSE,Mean Square Error),对剩余寿命(RUL,Remaining Useful Life)也具有更高的预测精度.     

基于超统计的多阶段航空发动机剩余寿命预测

针对传统航空发动机剩余寿命（RUL）预测模型无法客观描述多阶段性能衰退过程及对于RUL预测精度不高的问题, 提出了一个新的多阶段航空发动机RUL预测模型, 包括超统计理论、突变点检测、无迹卡尔曼滤波（UKF）与非线性预测4部分内容。提出了基于超统计理论的多阶段分割滤波（BS-MSF）算法。首先, 该算法采用超统计理论进行突变点检测, 将航空发动机的健康数据划分为多个退化阶段；其次, 应用UKF对融合的时变参数进行滤波处理；最后, 通过非线性拟合对发动机RUL进行预测, 实验采用美国NASA发布的航空发动机数据进行数据分析和验证。结果表明:所提算法在发动机性能退化中的预测具有更好的适应性和更小的拟合误差, 能更准确地预测发动机的RUL, 预测精度比单阶段方法提高5.5%。      

基于深度残差收缩网络的滚动轴承故障诊断

滚动轴承的准确故障诊断是确保机械设备安全可靠运行的必要手段。针对多故障、长时间序列的滚动轴承振动信号，提出了一种基于深度残差收缩网络(DRSN)模型的故障诊断方法。首先，根据采集到的滚动轴承数据构造故障样本，针对多种故障类型下的长时间序列的振动信号，按照一定尺寸将长时间序列矩阵化，构成多故障类型的灰度图故障样本。从正常到故障的滚动轴承性能退化过程，通过多个采样点的随机采样，构造全寿命周期的故障样本用于故障诊断。其次，在多层深度学习模型基础上，将残差收缩网络模块加入到卷积神经网络(CNN)中构建深度残差收缩网络模型用于故障诊断，其中通过将残差项加入到网络中训练解决了多层网络模型的模型退化问题，利用软阈值化实现了样本降噪。最后，为了验证所提方法的有效性，采集了滚动轴承的多故障时间序列样本和全寿命周期故障样本用于故障诊断。实例验证的结果表明:所提深度残差收缩网络模型在处理含噪声样本时仍具有良好的鲁棒性，多层网络模型下没有明显的网络退化，能够保持较高的故障诊断正确率。在处理2种轴承故障数据集时，与其他模型相比，所提方法训练误差更低，平均故障诊断正确率提高1%~6%。      

外观动作自适应目标跟踪方法

为降低目标运动时产生的外观形变对目标跟踪的影响，在DaSiamese-RPN基础上进行改进，提出了一种外观动作自适应的目标跟踪方法。在孪生网络的子网络中引入外观动作自适应更新模块，融合目标的时空信息和动作特征；利用2种欧氏距离分别度量真实图和预测图之间的全局和局部差异，并对二者加权融合构建损失函数，加强预测目标特征图与真实目标特征图之间全局和局部信息的关联性。在VOT2016、VOT2018、VOT2019和OTB100数据集上进行测试，实验结果表明:在VOT2016和VOT2018数据集上，预测平均重叠率分别提高4.5%和6.1%；在VOT2019数据集上，准确度提高0.4%，预测平均重叠率降低1%；在OTB100数据集上，跟踪成功率提高0.3%，精确度提高0.2%。      

变工况条件下基于相似性的剩余使用寿命预测方法

剩余使用寿命(RUL)预测是预测与健康管理(PHM)中的核心环节。提出一种变工况条件下基于相似性的RUL预测方法。结合相似性预测方法无需进行复杂的退化过程建模而能提供合理预测的优势,引入工况即设备工作时所处的环境或操作载荷等因素的影响来提升设备RUL预测准确性。对参考样本建立多工况的设备退化模型提升模型精度,在服役样本相似性度量预测中进行工况的匹配以实现在变工况下的RUL预测。方法能够更准确地描述实际工程中设备的退化过程和个体差异。依据相同准确度标准完成多组基本相似性方法和本文方法的对比实验结果表明,本文方法能够有效提高RUL预测准确度。      

基于随机遮挡和多粒度特征融合的行人重识别

针对行人重识别中存在遮挡及行人判别特征层次单调的问题，在IBN-Net50-a网络的基础上，提出了一种结合随机遮挡和多粒度特征融合的网络模型。通过对输入图像进行随机遮挡处理，模拟行人被遮挡的真实情景，以增强应对遮挡的鲁棒性；将网络分为全局分支、局部粗粒度互融分支和局部细粒度互融分支，提取全局显著性特征，同时补充局部多粒度深层特征，丰富行人判别特征的层次性；进一步挖掘局部多粒度特征间的相关性进行深度融合；联合标签平滑交叉熵损失和三元组损失训练网络。在3个标准公共数据集和1个遮挡数据集上，将所提方法与先进的行人重识别方法进行比较，实验结果表明：在Market1501、DukeMTMC-reID、CUHK03标准公共数据集上，所提方法的Rank-1分别达到了95.2%、89.2%、80.1%，在遮挡数据集Occluded-Duke上，所提方法的Rank-1和mAP分别达到了60.6%和51.6%，均优于对比方法，证实了方法的有效性。     

语言引导的多粒度特征融合目标分割方法

语言引导的目标分割旨在将文本描述的目标与其所指代的实体进行匹配,从而实现对文本、实体之间关系的理解与指代目标的定位。该任务在信息抽取、文本分类、机器翻译等应用场景中具有重要的应用价值。基于Refvos模型提出一种语言引导的多粒度特征融合目标分割方法,能够对特定目标精准定位。利用Swin Transformer和Bert网络,分别提取多粒度的视觉特征和文本特征,提高对整体与细节的表征能力;将文本特征分别与不同粒度视觉特征进行融合,通过语言引导增强特定目标表达;通过卷积长短期记忆网络对多粒度融合特征进行优化,在不同粒度特征间进行信息交流,得到更精细化的分割结果。在UNC、UNC+、G-Ref、ReferIt数据集上进行训练并测试所提方法。实验结果表明：相比Refvos,所提方法在UNC数据集的val、testB子集中IoU结果分别提升0.92%、4.1%,在UNC+数据集的val、testA、testB子集中IoU结果分别提升1.83%、0.63%、1.75%。所提方法在G-Ref、ReferIt数据集的IoU结果分别为40.16%和64.37%,达到前沿水平,证明所提方法的有效性与先进性...     

基于Transformer和动态3D卷积的多源遥感图像分类

多源遥感数据具有互补性和协同性,近年来,基于深度学习的方法已经在多源遥感图像分类中取得了一定进展,但当前方法仍面临关键难题,如多源遥感图像特征表达不一致,融合困难,基于静态推理范式的神经网络缺乏对不同类别地物的适应性。为解决上述问题,提出了基于跨模态Transformer和多尺度动态3D卷积的多源遥感图像分类模型。为提高多源特征表达的一致性,设计了基于Transformer的融合模块,借助其强大的注意力建模能力挖掘高光谱和LiDAR数据特征之间的相互作用;为提高特征提取方法对不同地物类别的适应性,设计了多尺度动态3D卷积模块,将输入特征的多尺度信息融入卷积核的调制,提高卷积操作对不同地物的适应性。采用多源遥感数据集Houston和Trento对所提方法进行验证,实验结果表明：所提方法在Houston和Trento数据集上总体准确率分别达到94.60%和98.21%,相比MGA-MFN等主流方法,总体准确率分别至少提升0.97%和0.25%,验证了所提方法可有效提升多源遥感图像分类的准确率。     

基于时空图卷积网络的无人机网络入侵检测方法

无人机网络相比地面网络具有节点快速移动、拓扑结构变换频繁和通信链路不可靠的特点，传统的针对地面网络的入侵检测方法难以适用。针对无人机网络的时空动态特性进行建模，提出了一种无人机网络的入侵检测方法——基于注意力机制的时空图卷积网络（ATGCN）。将图卷积网络和门控递归单元组合为时空图卷积网络，从复杂多变的数据中提取网络的时空演变特征，通过注意力机制提取和入侵检测最相关的特征，输入支持向量机进行分类预测。多个数据集的实验分析表明:所提方法能够适应无人机网络的动态性和不稳定性，相比传统检测方法准确率高且误报率低，具有良好的鲁棒性和适应性。      

基于渐进式注意力和分块遮挡的跨域行人重识别

针对跨域行人重识别中遮挡造成特征匹配缺失及细粒度辨识性特征被忽略的问题，提出了基于渐进式注意力和分块遮挡的跨域行人重识别方法。该方法通过学习行人未遮挡区域的多粒度辨别性特征，实现空间不对齐下的特征匹配。渐进式注意力模块将特征逐步分割为多个局部块，依次学习每块的辨别性特征，由粗到细地感知前景信息，从而解决目前网络不能提取多层次辨识性特征的问题，增强了特征的匹配能力；渐进式分块遮挡模块很好地适应模型逐步变强的学习能力特性，通过由易到难地生成遮挡数据，有效提取了未遮挡区域的辨识性特征，进而解决模型错误识别遮挡样本的问题，使得所提模型在遮挡情况下的鲁棒性得到有效提高。实验结果表明：所提方法在首位命中率和平均精确度2个指标上与当前主流方法相比具有显著的优越性；与2020年CVPR会议中QAConv行人重识别方法相比，在DukeMTMC-reID数据集(MSMT17→DukeMTMCreID)上的2个指标分别高出2.3%和6.2%，能够更加有效地实现跨域行人重识别，在OccludedDuke数据集(DukeMTMC-reID→Occluded-Duke)上的2个指标分别达到49.5%和39.0%，...     

改进深度卷积生成式对抗网络的文本生成图像

针对深度卷积生成式对抗网络(DCGAN)模型高维文本输入表示的稀疏性导致以文本为条件生成的图像结构缺失和图像不真实的问题，提出了一种改进深度卷积生成式对抗网络模型CA-DCGAN。采用深度卷积网络和循环文本编码器对输入的文本进行编码，得到文本的特征向量表示。引入条件增强（CA）模型，通过文本特征向量的均值和协方差矩阵产生附加的条件变量，代替原来的高维文本特征向量。将条件变量与随机噪声结合作为生成器的输入，并在生成器的损失中额外加入KL损失正则化项，避免模型训练过拟合，使模型可以更好的收敛，在判别器中使用谱约束（SN）层，防止其梯度下降太快造成生成器与判别器不平衡训练而发生模式崩溃的问题。实验验证结果表明：所提模型在Oxford-102-flowers和CUB-200数据集上生成的图像质量较alignDRAW、GAN-CLS、GAN-INT-CLS、StackGAN(64×64)、StackGAN-v1(64×64)模型更好且接近于真实样本，初始得分值最低分别提高了10.9%和5.6%，最高分别提高了41.4%和37.5%,FID值最低分别降低了11.4%和8.4%，最高分别降低了43....     

结合颅骨形态特征与神经网络的民族判别

针对颅骨民族判别问题，提出结合颅骨形态特征与神经网络的判别方法，可以推进法医人类学的发展，加快探索民族发展历程。首先，根据颅骨形态学相关研究，提取36个维吾尔族和汉族颅骨数据的几何特征；其次，采用反向传播神经网络（BPNN）对特征向量进行民族判别，并通过Adam算法对网络进行优化，避免陷入局部最优值，添加正则化项保证算法稳定性；最后，分别采用2种网络结构进行对比实验，输入层、隐藏层和输出层的神经元个数分别为36、6、2和36、12、2，并设置不同初始学习率进行对比实验。结果表明:隐藏层神经元个数为12、学习率为0.000 1时，分类精度最高，测试阶段平均准确率最高为97.5%。为了验证所提方法的普适性，生成116例国外颅骨数据进行实验，测试阶段平均准确率为90.96%。相比较于支持向量机（SVM）、决策树、KNN、Fisher等机器学习方法，所提方法学习能力更强且分类精度有明显提升。      

面向装备RUL预测的平行仿真技术

装备平行仿真是系统建模与仿真领域的新兴仿真技术,已经成为研究热点。在装备维修保障领域中,分析了装备剩余寿命（RUL）预测存在的突出问题,即模型参数固定、不具备自适应演化能力,成为阻碍实现装备剩余寿命自适应预测的首要因素。结合装备平行仿真理论,在建模分析的基础上提出了面向装备剩余寿命预测的平行仿真框架,该框架以Wiener状态空间模型为基础仿真模型,在动态注入的装备退化观测数据驱动下,利用期望最大化（EM）算法在线更新模型参数,并利用卡尔曼滤波（KF）算法实现仿真输出数据与观测数据的同化（DA）,从而实现仿真模型动态演化,使得仿真输出不断逼近装备真实退化状态,为准确预测剩余寿命提供高逼真度仿真模型和数据输出。以某轴承性能退化数据为数据驱动源,对该框架进行了验证,仿真结果表明平行仿真方法能准确仿真装备性能退化过程,在提高预测精度的基础上实现了装备剩余寿命的自适应预测,有力证明了平行仿真方法的可行性和有效性。      

Android恶意软件检测低冗余特征选择方法

针对Android恶意软件检测特征选择中,对类间具有相同频率分布的特征过度关注而导致特征冗余问题,提出了一种Android恶意软件检测低冗余特征选择方法。利用Mann-Whitney检验方法选择出存在频率分布偏差的特征;通过外观比率间隔算法量化偏差程度和特征出现频率剔除低偏差和整体软件中低频使用的特征;结合粒子群优化算法和分类器检测效果得到最优特征子集。使用公开数据集DREBIN和AMD进行实验,实验结果显示,在AMD数据集上选择出了294维特征,进行特征选择后6种分类器的检测准确率提高了1%~5%,在DREBIN数据集上选择出了295维特征,少于4种对比方法,且进行特征选择后6种分类器的检测准确率提高了1.7%~5%。实验结果表明,所提方法能够降低Android恶意软件检测中特征的冗余性,提升恶意软件的检测准确率。      

基于时空注意力机制的新冠肺炎疫情预测模型

新冠肺炎疫情持续蔓延给人类社会带来深远影响，准确预测各地区的病毒传播趋势对防控疫情而言至关重要。现有研究主要基于传统的时序预测模型和传染病模型，鲜有考虑疫情地区关联复杂和时序依赖性强的特点，限制了其疫情预测的性能。为此，针对新冠肺炎疫情的预测任务，提出了一种时空注意力驱动的自编码器框架。通过引入空间注意力机制捕捉病毒感染序列间的动态空间关联性，利用时间注意力机制挖掘病毒感染序列中复杂的时序依赖性，以此实现对不同地区的新冠肺炎病毒传播趋势的准确预测。在模型的编码器端，融合空间注意力机制的长短期记忆(LSTM)网络，关联目标地区与其他地区的病毒感染序列，提取该区域近期新冠肺炎疫情的时序特征。在模型的解码器端，将时间注意力机制引入基于LSTM网络的解码器中，通过捕捉病毒感染序列的时序依赖性推测未来的新冠肺炎疫情趋势变化。在多个公开的新冠肺炎疫情数据集上对所提模型进行验证，实验结果表明:所提模型的预测性能超越了LSTM等模型；在公开的欧洲部分国家新冠肺炎疫情数据集上，预测误差指标RMSE和MAE分别降低了22.3%和25.0%，在中国部分省级单位新冠肺炎疫情数据集上，RMSE和MAE分别降低了10.1%和10.4%。      

基于跨尺度特征聚合网络的多尺度行人检测

行人的空间尺度差异是影响行人检测性能的主要瓶颈之一。针对这一问题，提出了跨尺度特征聚合网络（TS-FAN）有效检测多尺度行人。首先，鉴于不同尺度空间呈现出的特征差异性，引入一种基于多路径区域建议网络（RPN）的尺度补偿策略，其在多尺度卷积特征层上自适应地生成一系列与其感受野大小相对应的候选目标尺度集。其次，考虑到不同层次卷积特征在视觉语义上的互补性，提出了跨尺度特征聚合网络模块，其通过横向连接、自上而下路径和由底向上路径，有效地聚合具有语义鲁棒性的高层特征和具有精确定位信息的低层特征，实现对卷积层特征的增强表示。最后，联合多路径RPN尺度补偿策略和跨尺度特征聚合网络模块，构建了一种尺度自适应感知的多尺度行人检测网络。实验结果表明，所提方法与当前一流的行人检测方法TLL-TFA相比，在整个Caltech公开测试数据集上（All:行人高度大于20像素）的行人漏检率降低到26.21%（提高了11.94%），尤其对于Caltech小尺寸行人子数据集上（Far:行人高度在20~30像素之间）的行人漏检率降低到47.30%（提高了12.79%），同时在尺度变化剧烈的ETH数据集上的效果也取得显著提升。      

基于随机森林的物联网设备流量分类算法

物联网（IoT）设备流量分类对网络资产管理有重要意义，基于流量统计的分类技术是当前研究热点。已有算法主要基于流信息建立特征向量，而对数据包信息利用较少。改进了基于随机森林的物联网设备流量分类算法，基于流信息和流数据包信息共同建立特征向量。实验结果表明:所提算法与其他算法相比，所提算法的平均分类准确率由56%提高到82%，平均召回率由47%提高到67%，平均F₁得分由0.43提高到0.74，混淆矩阵对比也有明显提升，因此具备更好的分类效果。      

基于图对比注意力网络的知识图谱补全

知识图谱(KG)补全旨在通过知识库中已知三元组来预测缺失的链接。由于大多数方法都是独立地处理三元组，而忽略了知识图谱所具有的异质结构和相邻节点中固有的丰富的信息，导致不能充分挖掘三元组的特征。考虑基于端到端的知识图谱补全任务，提出了一种图对比注意力网络(GCAT)，通过注意力机制同时捕获局部邻域内实体和关系的特征，并封装实体邻域上下文信息。为了有效封装三元组特征，引入一个子图级别的对比训练对象用于增强生成的实体嵌入的质量。为了验证GCAT的有效性，在链接预测任务上评估了所提方法，实验结果表明，在数据集FB15k-237中，MRR比InteractE提高0.005，比A2N模型提高0.042;在数据集WN18RR中，MRR比InteractE提高0.019，比A2N模型提高0.032。实验证明提出的GCAT模型能够有效预测知识图谱中缺失的链接。