基于图对比的上下位关系检测

上下位关系是自然语言处理(NLP)下游任务的基础，因此上下位关系检测是自然语言处理领域备受关注的问题。针对现有词嵌入方法采用随机初始化词向量，不能很好地捕获上下位关系不对称和可传递的特性，且现有模型没有充分利用预测向量与真实投影之间关系的局限性，提出了一种基于图对比学习的上下位关系检测(HyperCL)方法。引入图对比学习进行数据增强，基于最大化局部和全局表示的互信息，学习具有鲁棒性的词特征表示。所提方法学习了将下位词的词向量投影到上位词和非上位词，同时能够更好地区分嵌入空间中的上位词和非上位词，从而提高了检测精度。在2个基准数据集上的实验结果表明，所提模型比现有方法在准确率上提升了0.03以上。      

基于图对比注意力网络的知识图谱补全

知识图谱(KG)补全旨在通过知识库中已知三元组来预测缺失的链接。由于大多数方法都是独立地处理三元组，而忽略了知识图谱所具有的异质结构和相邻节点中固有的丰富的信息，导致不能充分挖掘三元组的特征。考虑基于端到端的知识图谱补全任务，提出了一种图对比注意力网络(GCAT)，通过注意力机制同时捕获局部邻域内实体和关系的特征，并封装实体邻域上下文信息。为了有效封装三元组特征，引入一个子图级别的对比训练对象用于增强生成的实体嵌入的质量。为了验证GCAT的有效性，在链接预测任务上评估了所提方法，实验结果表明，在数据集FB15k-237中，MRR比InteractE提高0.005，比A2N模型提高0.042;在数据集WN18RR中，MRR比InteractE提高0.019，比A2N模型提高0.032。实验证明提出的GCAT模型能够有效预测知识图谱中缺失的链接。      

基于学习行为的MOOC用户持续学习预测框架

大型开放式网络课程（MOOC）的出现虽然极大地改变了人们的学习方式，但用户在MOOC平台开展学习的学习情况及完成率预测仍是目前一个重要的技术挑战。针对预测的需求，从用户的学习行为中对用户和课程进行分析，采用长短时记忆机对学习者的学习活动进行建模，采用多头注意力机制对用户和课程之间的交互活动情况进行分析，提出一个基于门控单元的特征融合框架，用于学习情况预测。在公开数据集上的结果表明：所提框架能够提升预测精度，使得MOOC平台能够尽可能早地对用户活动进行干预，从而提升整体的MOOC平台使用体验。     

基于变分推理的网络舆情传播模式分类

随着网络社交媒体的快速发展，对舆情信息的传播模式进行分析成为研究热点。针对网络舆情传播模式分类任务中，小样本数据多路径生成分类正确率低的问题，提出了舆情传播领域知识图谱结构定义，建立了基于微博数据的舆情传播知识图谱与舆情传播分析任务数据集，使用GraphDIVA模型进行舆情传播模式分类，并在自建数据集中进行了舆情传播模式分类25样本测试实验。结果表明:模型在经过20轮训练后，分类正确率从76%提升到89.4%，说明GraphDIVA模型在减少训练次数、提升分类正确率方面具有更优的效果。      

一种全局的无关线性图嵌入故障特征提取算法

针对故障特征数据维数高、非线性且系统难以建立物理模型的故障诊断问题,提出了一种全局的无关线性图嵌入故障特征提取算法.通过监督学习建立原始特征的关系图,以线性图嵌入为框架进行特征降维.特征的降维过程既保留了同类数据的局部结构,又考虑了异类数据之间的全局分布,同时最大程度地消除了特征之间的统计相关性.在标准故障数据集上的实验结果表明:与已有的经典算法相比,能更有效地提取出故障的典型特征,因而更有利于故障诊断系统训练网络的快速收敛,实现快速、准确的故障诊断.     

基于PINN模型的导弹气动特性快速预测技术

随着内嵌物理机理神经网络（PINN）模型的兴起，PINN模型开始应用于许多学科领域。为了实现导弹气动特性的快速预测，借助工程算法，构建了导弹气动数据集，以此训练导弹气动特性预测模型，包含基于多任务学习的神经网络（MTLNN）模型及在MTLNN模型基础上内嵌物理知识的PINN模型。数值模拟通过选取测试集，对比了MTLNN模型和PINN模型的预测效果，结果表明：PINN模型的预测精度较高，且基本控制在1%以内。探究PINN模型的泛化能力，测试集选取导弹气动数据集包络范围之外的数据，PINN模型预测精度仍然高于MTLNN模型。由于PINN模型引入了气动特性参数之间的物理机理，模型对训练样本数量的依赖程度降低，可以进一步节约数据获取成本，为导弹优化设计提供有力工具。     

基于变分自编码器的多维退化数据生成方法

数据驱动的剩余使用寿命（RUL）预测方法不依赖于复杂的物理模型，可以直接利用设备历史运行数据与当前监测数据对设备RUL进行预测，对制定合理的维修策略，降低设备的维护成本具有重要意义。但是数据驱动的RUL预测方法依赖于大量历史数据，在数据不足时，尤其是多维退化数据，模型难以取得良好的预测效果。针对这一问题，提出一种多维退化数据生成方法，所提方法构建了一种全局优化模型，以条件变分自编码器作为生成模型，提取多维退化数据特征并生成相似数据扩充RUL预测模型训练集，利用长短时记忆网络作为RUL预测模型，所提方法能够通过RUL预测模型更新生成模型的参数提高模型的效果，同时利用更新后的生成模型提高剩余寿命预测模型在退化数据不足情况下的效果。使用航空发动机退化数据进行了案例验证，通过对比未加入生成数据训练得到的RUL预测模型与加入生成数据训练得到的RUL预测模型的表现，验证了所提方法在解决RUL预测模型训练数据不足方面的优越性。     

基于异构网络表示学习的评分预测模型

深入分析电商行业的用户个性化数据并提供推荐服务近年来已成为业界的热点。推荐服务的基础是对用户的潜在兴趣进行挖掘，并对商品的感兴趣程度进行预测。因此，以此为背景，研究用户对商品的评分预测。对电商业的关系型数据在推荐系统中的应用进行了研究，提出了通过使用网络表示学习进行评分预测的方法。首先，将关系型数据构建成异构网络，用户和商品为网络中的节点。然后，设计了兼顾网络结构信息和节点之间相似性的个性化异构网络采样方法，并对节点进行表示学习。最后，将学习到的用户、商品表示向量输入到神经网络中进行训练，利用优化后的神经网络模型进行评分预测。实验结果表明:所提方法在YELP 13、Movielens 100k、Movielens 1m数据集上都有较高的准确率，对比常用方法，准确率提升6.5%以上。      

基于学习的中段反导拦截时间和拦截点预测方法

弹道导弹实时、准确地预测拦截弹的拦截点与拦截时间，是实现中段突防的有效手段。针对弹道导弹中段突防中的拦截点坐标及拦截时间的预测问题，提出了一种基于监督学习的在线预测方法。以拦截弹的主动段关机参数和关机时刻为输入量，建立拦截时间和拦截点预测模型。在多层感知机神经网络的基础上构建有监督学习算法，通过攻防仿真获取拦截弹的参数制作训练数据集，在线下完成网络训练。仿真结果表明:神经网络能够有效在线预测拦截时间和拦截点坐标，预测结果的相对误差分别为0.124 3%和0.128 5%，拦截时间预测结果误差的平均值为0.224 0 s，拦截点预测结果距离误差平均值为2 016.48 m，均满足精度要求。      

基于对抗和迁移学习的灾害天气卫星云图分类

针对卫星云图中的灾害天气数据存在严重不平衡问题，提出一个结合生成对抗学习（GAN）和迁移学习（TL）的卷积神经网络（CNN）框架以解决上述问题进而提高基于卫星云图的灾害天气分类精度。该框架主要包含基于GAN的数据均衡化模块和基于迁移学习的CNN分类模块。上述2个模块分别从数据和算法层面解决数据的类间不平衡问题，分别得到一个相对均衡的数据集和一个可在不同类别数据上提取相对均衡特征的分类模型，最终实现对卫星云图的分类，提高其中灾害天气的卫星云图类别分类准确率。与此同时所提方法在自建的大规模卫星云图数据上进行了测试，消融性和综合实验结果证明了所提数据均衡方法和迁移学习方法是有效的，且所提框架模型对各个灾害天气类别的分类精度都有显著提升。      

自注意力相似度迁移跨模态哈希网络

为进一步提升跨模态检索性能,提出自注意力相似度迁移跨模态哈希网络模型。设计了一种通道空间混合自注意力机制强化关注图像的关键信息,并使用共同注意力方法加强模态信息交互,提高特征学习质量;为在哈希空间重构相似关系,采用迁移学习的方法利用实值空间相似度引导哈希码的生成。在3个常用的数据集MIRFLICKR-25K、IAPR TC-12和MSCOCO上与深度跨模态哈希（DCMH）、成对关系引导的深度哈希（PRDH）、跨模态汉明哈希（CMHH）等优秀方法进行对比实验,结果显示哈希码长度为64 bit的条件下,所提模型在3个数据集图像检索文本任务的平均精确度均值（MAP）达到72.3%,文本检索图像任务的MAP达到70%,高于对比方法。     

基于BP神经网络的飞行绩效评价模型

为实现飞行绩效的客观评价,利用眼动数据,建立了拓扑结构为6-14-3型的BP(Back Propagation)神经网络模型.已有的实验数据和随机插值法得到的数据作为建模的数据来源,数据分为训练集和测试集并归一化.基于Matlab的神经网络工具箱,利用经验公式和实验比较法确定了BP网络模型的隐含层节点数;对BP算法的各种改进算法进行了优化选择;将训练集数据和测试集数据先后输入网络模型进行学习训练和仿真测试;对3个技术水平的飞行员的飞行绩效进行了预测和评价.研究表明,眼动数据的BP神经网络模型可以较为准确地评价飞行绩效,评价方法可以为飞行训练提供参考.     

自适应短文本关键词生成模型

关键词抽取对文本处理影响较大，其识别的准确度及流畅程度是任务的关键。为有效缓解短文本关键词提取过程中词划分不准确、关键词与文本主题不匹配、多语言混合等难题，提出了一种基于图到序列学习模型的自适应短文本关键词生成模型ADGCN。模型采用图神经网络与注意力机制相结合的方式作为对文本信息特征提取的编码框架，针对词的位置特征和语境特征编码，解决了短文本结构不规律和词之间存在关联复杂信息的问题。同时采用了一种线性解码方案，生成了可解释的关键词。在解决问题的过程中，从某社交平台收集并公布了一个标签数据集，其包括社交平台发文文本和话题标签。实验中，从用户需求角度出发对模型结果的相关性、信息量、连贯性进行评估和分析，所提模型不仅可以生成符合短文本主题的关键词，还可以有效缓解数据扰动对模型的影响。所提模型在公开数据集KP20k上仍表现良好，具有较好的可移植性      

文本信息辅助图像差异描述生成

图像描述生成任务要求机器自动生成自然语言文本来描述图像所呈现的语义内容，从而将视觉信息转化为文本描述，便于对图像进行管理、检索、分类等工作。图像差异描述生成是图像描述生成任务的延伸，其难点在于如何确定2张图像之间的视觉语义差别，并将视觉差异信息转换成对应的文本描述。基于此，提出了一种引入文本信息辅助训练的模型框架TA-IDC。采取多任务学习的方法，在传统的编码器-解码器结构上增加文本编码器，在训练阶段通过文本辅助解码和混合解码2种方法引入文本信息，建模视觉和文本2个模态间的语义关联，以获得高质量的图像差别描述。实验证明，TA-IDC模型在3个图像差异描述数据集上的主要指标分别超越已有模型最佳结果12%、2%和3%。      

基于时空注意力机制的新冠肺炎疫情预测模型

新冠肺炎疫情持续蔓延给人类社会带来深远影响，准确预测各地区的病毒传播趋势对防控疫情而言至关重要。现有研究主要基于传统的时序预测模型和传染病模型，鲜有考虑疫情地区关联复杂和时序依赖性强的特点，限制了其疫情预测的性能。为此，针对新冠肺炎疫情的预测任务，提出了一种时空注意力驱动的自编码器框架。通过引入空间注意力机制捕捉病毒感染序列间的动态空间关联性，利用时间注意力机制挖掘病毒感染序列中复杂的时序依赖性，以此实现对不同地区的新冠肺炎病毒传播趋势的准确预测。在模型的编码器端，融合空间注意力机制的长短期记忆(LSTM)网络，关联目标地区与其他地区的病毒感染序列，提取该区域近期新冠肺炎疫情的时序特征。在模型的解码器端，将时间注意力机制引入基于LSTM网络的解码器中，通过捕捉病毒感染序列的时序依赖性推测未来的新冠肺炎疫情趋势变化。在多个公开的新冠肺炎疫情数据集上对所提模型进行验证，实验结果表明:所提模型的预测性能超越了LSTM等模型；在公开的欧洲部分国家新冠肺炎疫情数据集上，预测误差指标RMSE和MAE分别降低了22.3%和25.0%，在中国部分省级单位新冠肺炎疫情数据集上，RMSE和MAE分别降低了10.1%和10.4%。      

基于动态语义记忆网络的长尾图像描述生成

图像描述生成任务旨在基于输入图像生成对应的自然语言描述。现有任务数据集中大部分图像的描述语句通常包含少量常见词和大量罕见词，呈现出长尾分布。已有研究专注于提升模型在整个数据集上的描述语句准确性，忽视了对大量罕见词的准确描述，限制了在实际场景中的应用。针对这一问题，提出了基于动态语义记忆网络(DSMN)的长尾图像描述生成模型，旨在保证模型对常见名词准确描述的同时，提升模型对罕见名词的描述效果。DSMN模型能够动态挖掘罕见词与常见词的全局语义关系，实现从常见词到罕见词的语义知识迁移，通过协同考虑全局单词语义关系信息及当前输入图像和已生成单词的局部语义信息提升罕见词的语义特征表示能力和预测性能。为了有效评价长尾图像描述生成方法，基于MS COCO Captioning数据集定义了长尾图像描述生成任务专用测试集Few-COCO。在MS COCO Captioning和Few-COCO数据集上的多个量化实验表明，DSMN模型在Few-COCO数据集上的罕见词描述准确率为0.602 8%，召回率为0.323 4%，F-1值为0.356 7%，相较于基准方法提升明显。      

用于遥感图像变化检测的全尺度特征聚合网络

变化检测(CD)是遥感的一项重要任务，通常面临许多伪变化和较大的尺度变化。目前的方法主要侧重于对差异特征的建模，忽略了从原始图像中提取足够的信息，影响了特征的识别能力，难以稳定地区分出变化区域。针对以上问题，提出了一种全尺度特征聚合网络(FFANet)来更充分地利用原始图像特征，促使生成的特征表示在语义上更丰富、在空间上更准确，从而提高了网络对小目标和目标边缘的检测性能。同时，拓展了深监督来结合多尺度的预测图，以促使不同对象在更合适的尺度上进行检测，从而提升了网络对对象尺度变化的鲁棒性。在CDD数据集上，相比于基线网络，所提方法仅增加了1.01×106的参数量，就将F₁分数提升了0.034。      

基于深度迁移学习的航天器故障诊断

随着航天科技的发展，智能故障诊断技术是确保航天器控制系统安全、自主运行的关键技术之一.由于在轨航天器遥测数据样本少、噪声高、未标记，因此缺乏自适应能力、学习能力的传统故障诊断方法难以准确诊断在轨航天器故障.本文针对上述问题提出一种基于深度迁移学习的航天器故障诊断方法，为在轨航天器实时故障诊断提供了可行方法.首先，对航天器运行数据进行预处理，将多维时域信号转换为二维图像信号；其次，搭建基于残差网络的故障诊断深度学习框架，并利用地面测试数据与其他航天器在轨运行数据对网络进行预训练；进而，为了实现当前在轨航天器实时故障诊断，本文采用迁移学习自适应方法，设计网络联合分布自适应代价函数，对故障诊断模型进行参数重调，使模型适应当前在轨航天器故障诊断任务.仿真结果表明，所提出的基于深度迁移学习的故障诊断方法可以快速准确的诊断出航天器故障.     

基于倒置残差注意力的无人机航拍图像小目标检测

针对无人机航拍图像背景复杂、小尺寸目标较多等问题,提出了一种基于倒置残差注意力的无人机航拍图像小目标检测算法。在主干网络部分嵌入倒置残差模块与倒置残差注意力模块,利用低维向高维的特征信息映射,获得丰富的小目标空间信息和深层语义信息,提升小目标的检测精度;在特征融合部分设计多尺度特征融合模块,融合浅层空间信息和深层语义信息,并生成4个不同感受野的检测头,提升模型对小尺寸目标的识别能力,减少小目标的漏检;设计马赛克混合数据增强方法,建立数据之间的线性关系,增加图像背景复杂度,提升算法的鲁棒性。在VisDrone数据集上的实验结果表明：所提模型的平均精度均值比DSHNet模型提升了1.2%,有效改善了无人机航拍图像小目标漏检、误检的问题。     

基于稀疏表示和字典学习的地磁基准图构建方法

地磁匹配导航在导航制导领域具有重要作用，地磁基准图的构建精度决定了地磁匹配导航的有效性。针对现有地磁基准图构建精度难以满足实际应用需求的问题，提出了基于稀疏表示和字典学习的高精度地磁基准图构建方法。首先，利用矩谐分析(RHA)进行稀疏字典的初始化；其次，利用K-SVD算法对稀疏字典进行训练；最后，利用低分辨率和高分辨率基准图具有相同稀疏系数的特点重建高分辨率地磁基准图。实验结果表明:所提方法对地磁基准图具有更高的构建精度，对训练所需的数据集有更低的需求，同时对噪声有更好的鲁棒性。与PSO-Kriging插值法相比，在4倍放大倍数下峰值信噪比(PSNR)由26.31 dB提高至26.73 dB，结构相似度(SSIM)由0.498提高至0.524，均方根误差(RMSE)由14.96 nT减小至13.78 nT。