基于融合神经网络的航空发动机剩余寿命预测

航空发动机的性能退化是影响飞机飞行安全的重要因素。准确预测发动机的退化过程,对于飞机安全飞行具有重要意义。针对航空发动机剩余寿命预测问题,本文提出了一种将卷积神经网络和长短期记忆网络相融合的数据驱动模型。与常规使用单一的神经网络不同,所提出的融合模型结合了两种神经网络的优点,利用卷积神经网络提取数据中的空间特征并采用长短期记忆网络提取时间特征。实验结果证实,在寿命预测中,所提出的数据驱动模型与已有的方法相比,评分和均方根误差分别下降了32%和6.4%,因此,所提出的数据驱动模型可对数据中所包含的信息进行充分挖掘,其对航空发动机寿命预测精度较高,并具有良好的稳定性。     

一种基于神经网络的航空发动机剩余寿命预估方法

针对航空发动机剩余寿命预估中模型建立困难且计算精度低等问题,提出了一种基于卷积神经网络和长短期记忆神经 网络进行航空发动机剩余寿命预估的方法。利用卷积神经网络中的卷积层与池化层提取传感器数据中的特征,并依据卷积层提 取出的特征,利用长短期记忆神经网络进行时间序列预测,并使用全连接层输出航空发动机剩余寿命。在NASA的C-MAPSS提 供的涡扇发动机退化仿真数据集上对该方法进行了验证。结果表明：基于卷积神经网络和长短期记忆神经网络的航空发动机剩 余寿命预估方法,可以在保证预测精度的前提下,对航空发动机剩余寿命进行较为保守的预估,在保证资源不被浪费的情况下,尽 可能提前发出故障预警信号,从而提高飞行的安全性,进而为航空发动机健康管理系统提供有用信息。该预测方法在对称指标和 非对称指标上均优于此前提出的方法。     

多特征注意力的航空发动机剩余寿命预测模型

航空发动机性能退化趋势复杂,适时地对其进行剩余寿命预测和检修维护十分重要。提出一种基于多特征注意力的膨胀卷积网络模型来预测航空发动机剩余使用寿命,利用膨胀卷积增强提取序列数据时序信息的能力,同时建立残差连接以改善传统卷积网络中的梯度消失问题。首先采用定长滑动时间窗沿时间维度截取数据,对数据进行重构;再对每个特征对应的时间序列单独应用膨胀卷积提取时序信息;引入特征注意力机制计算各特征之间的相对重要性;在公开的航空发动机数据集上进行验证,并对比现有的主流预测方法。结果表明：该模型在时间序列数据预测方面有着更高的精度。     

基于残差NLSTM网络和注意力机制的航空发动机剩余使用寿命预测

针对长短期记忆（LSTM）网络对于多维数据特征识别和提取上存在不足的问题，在其改进模型嵌套式长短期记忆（NLSTM）网络的基础上，提出了一种基于注意力机制和残差NLSTM网络的剩余使用寿命预测方法。该方法将双层NLSTM网络代替残差块中的主网络，保留捷径连接中的卷积神经网络结构，既能充分提取时序特征又能保证有用数据在网络层中的跳层传递，并融入注意力机制构建多层残差网络，注意力机制的使用能够选择出对预测结果有重要影响的信息，有效提高预测的准确率。在航空发动机退化实验数据集上进行实验分析，结果表明：所述方法能有效建立监测数据与发动机健康状态之间的关系，剩余使用寿命预测误差较未改进残差结构方法平均降低10.8%，比未融入注意力机制方法平均降低18.9%，有效提高了预测精度。     

基于SAE-SA-1D-CNN-BGRU的涡扇发动机剩余寿命预测

为解决涡扇发动机监测数据维度高和寿命预测准确度低的问题,提出一种基于深度学习的寿命预测方法,开展了利用 神经网络获取涡扇发动机剩余寿命的研究。利用堆叠自编码（SAE）网络从高维传感器数据中提取健康因子（HI）,采用1维卷积神 经网络-双向门控循环单元（1D-CNN-BGRU）方法捕捉HI序列中的空间和时间特征,并引入自注意（SA）机制对捕捉的特征分配 权重,使用全连接层输出涡扇发动机剩余使用寿命（RUL）,以此构建复合神经网络进行面向涡扇发动机高维数据的寿命预测。结 果表明：利用NASA官方网站提供的涡扇发动机寿命试验公开数据集C-MAPSS对该方法进行验证,取得了均方根误差16.22和评 分函数225的结果。证明了基于SAE-SA-1D-CNN-BGRU的寿命预测方法可实现涡扇发动机寿命的有效预测,能为涡扇发动机 维修保障及健康管理提供有效决策支撑。     

基于工况聚类和残差自注意力的发动机剩余使用寿命预测

针对多工况的航空发动机剩余使用寿命（RUL）预测精度较低的问题，本文提出了一种基于工况聚类分析和残差自注意力的发动机剩余使用寿命预测方法。首先，通过聚类将不同的工况进行划分，并构建线性回归分析模型筛选出符合发动机性能变化的退化参数；其次，通过卷积神经网络，获取数据中隐含的发动机性能退化特征；再次，利用双向长短期记忆神经网络挖掘时序退化特性并对其进行记忆；最后，结合残差自注意力机制对退化特征分配不同的权重来实现发动机剩余使用寿命预测。在美国国家航空航天局（NASA）的C-MAPSS多工况数据集上进行了消融试验，验证了该方法的有效性。结果表明，该方法评分和均方根误差均最优，可为发动机剩余使用寿命预测提供一定的参考。     

基于MHSA和C- BiGRU的航班延误预测研究

针对普通神经网络预测人为因素造成的航班延误能力不足的问题,提出了一种基于多头自注意力机制和卷积双向门控循环单元的预测模型(MHSA-C-BiGRU)对航班延误问题进行研究。模型采用卷积双向门控循环单元(C-BiGRU)提取局部信息和上下游数据的时序信息,利用多头自注意力机制(MHSA)的并行能力从不同位置提取数据内部之间的特征,强化重要信息的权值,使模型聚焦到对当前任务更重要的信息,从而增强模型分析人为因素造成的航班延误的能力。研究使用2018年上海浦东机场的航班数据和气象数据。结果表明,预测模型相对于基础模型的预测准确率提高了4.4%,各项宏平均值有8%的提高,各项权重平均值有5%的提高。     

基于TSFFCNN-PSO-SVM的飞机起落架液压系统故障诊断

针对飞机起落架液压系统故障诊断精度低，深层故障特征提取困难的问题，提出了一种基于双路特征融合卷积神经网络（TSFFCNN）与粒子群优化支持向量机（PSO-SVM）结合的起落架液压系统故障诊断模型。该诊断模型以起落架多节点压力信号作为输入，采用一维卷积神经网络（1DCNN）与二维卷积神经网络（2DCNN）并行多通道网络结构自适应提取深层特征信息，并在融合层将深层特征信息融合，通过优化后的SVM分类器对融合特征进行故障分类。为验证所提诊断模型的故障分类效果，基于AMESim搭建了典型飞机起落架液压系统仿真模型，构建了几种典型故障类型数据集。基于仿真数据的诊断结果表明，所提故障诊断算法精度能达到99.37%，能够有效实现起落架液压系统故障诊断；与其他智能算法对比，基于TSFFCNNPSO-SVM故障诊断模型具有更好的平稳性与可靠性，诊断精度更高。     

基于CNN 与BiLSTM 的退化设备剩余使用寿命预测

针对DC-DC 变换器难以建立物理退化模型的问题,提出了一种基于卷积神经网络和双向长短期记忆 神经网络的剩余寿命预测算法。首先,通过对DC-DC 变换器中关键器件进行失效模式分析,得到DC-DC 变换 器的失效特征参数;然后,采用卷积神经网络对多传感器信号进行融合和特征提取,获得百分比指数退化指标; 其次,将获得的健康指标输入到融合注意力机制的双向记忆神经网络中,利用注意力机制对输出结果进行加权 融合,利用不同的权重值优化预测模型,最后,利用蒙特卡洛丢弃法获得剩余寿命的区间估计,并通过仿真数 据验证了所提出方法的有效性。     

基于KPCA-BLSTM的航空发动机多信息融合剩余寿命预测

复杂航空发动机在运行过程中易出现多退化信息而导致寿命预测不精确的问题,为此提出基于核主成分分分析（KPCA）和双向长短时记忆（BLSTM）神经网络的多信息融合寿命预测模型。首先采用KPCA 对多维退化数据集进行降维处理和信息融合,得到能够表征设备退化的低维特征数据集;然后利用BLSTM 神经网络模型对带有多维退化信息的航空发动机剩余寿命进行预测,得到监测数据与剩余寿命的映射关系;最后采用C-MAPSS 航空发动机退化数据集对提出的多信息融合寿命预测模型进行仿真验证,并与其他三种模型结果进行对比。结果表明：KPCA-BLSTM 能够对多维退化信息下的剩余寿命进行精准预测,本文提出的预测模型的误差与得分优于其他三种模型,而且预测精度更高。     

基于CNN-LSTM-attention模型航迹预测研究

以航迹预测方法作为切入点,重庆-广州航路航空器记录的ADS-B数据作为研究内容,提出了一种融合注意力机制的长时序航迹预测方法(CNN-LSTM-attention)。研究运用一维卷积神经网络对航迹数据多维特征进行提取,并将经纬度、高度、速度、航向等的多维特征向量构造成时序形式作为LSTM网络输入,通过赋予LSTM网络隐含层的权重占比并区别不同时序点隐藏层信息对未来航迹预测的影响程度来达到优化预测模型的作用。构建好的CNN-LSTM-attention模型采用Adam优化算法进行训练,LSTM和CNN-LSTM作为实验对比模型,将决定系数R²作为模型评价标准来衡量航迹预测模型的准确性。实验结果表明加入注意力机制的神经网络预测模型CNN+LSTM+attention(卷积神经网络-长短期记忆网络-注意力机制)的方法相较于其他两种,其预测精确性更高。     

基于全航段QAR数据和卷积神经网络的航空发动机状态辨识

为了充分挖掘全航段飞行数据中蕴含的丰富信息以提高发动机状态辨识的准确率,提出一种基于全航段快速存取记录器（QAR）数据和卷积神经网络的发动机状态辨识方法。该方法将每次飞行循环的全航段QAR数据变换为一个红绿蓝（RGB）多通道样本实现全航段数据图像化处理,根据发动机维修记录中的水洗时间,将发动机划分为不同的衰退状态,采用卷积神经网络对不同衰退状态进行分类和辨识。该方法经某航空公司飞机QAR数据验证,结果表明：基于全航段QAR数据的衰退状态辨识算法的精确度相比于仅使用巡航段数据的精确度提升超过13%,辨识准确率达到98%。     

基于ABC-RBF神经网络的飞机燃油流量监测与故障诊断

为了检测飞机发动机的性能及故障,利用神经网络建立了燃油流量的预测模型,将人工蜂群（ABC）算法结合预测需求 在3维进行拓展,分别优化基于径向基函数（RBF）的神经网络泛化值和中心值,与经典RBF神经网络、K均值聚类算法等相比,3维拓展后的ABC算法对RBF神经网络进行的“反馈式更新”拥有更好的预测效果,其计算平均差值及预测误差更小,所需时间更短。随机选取短航程、中航程、长航程航班数据分别进行验证,结果表明：选择油门杆角度、飞行高度、马赫数、大气总温、发动机转速等参数能够反映发动机运行工况,预测效果理想;采用ABC算法对RBF神经网络进行优化后模型的更新能力较强,能够获得更高的预测精度,降低计算平均差值;通过航班故障数据验证了利用神经网络进行故障诊断的方法具有较大的实际应用价值。     

基于深度学习的辅助动力装置性能参数预测方法研究

针对传统机器学习的辅助动力装置(Auxiliary Power Unit, APU)性能参数预测方法不能充分利用参数数据间的时序性和非线性问题,提出了一种基于卷积神经网络(Convolutional Neural Network, CNN)-长短期记忆(Long Short-Term Memory, LSTM)-注意力(Attention)的APU性能参数预测方法。首先,引入一维CNN,通过预处理的参数数据得到不同属性的抽象特征。然后,使用LSTM神经网络对这些特征进行记忆,并结合可以对特征状态赋予不同权重的Attention机制来实现参数预测。使用某型APU的参数数据预测未来不同步长的排气温度(Exhaust Gas Temperature, EGT)。实验结果表明,对于单步EGT的预测,CNN-LSTM-Attention模型在平均绝对百分比误差(Mean Absolute Percentage Error, MAPE)指标上比CNN-LSTM、LSTM和简单循环神经网络(Simple Recurrent Neural Network, Simple RNN)模型分别降低了15.2%、32.5%、60.3%,在均方根误差(Root Mean Square Error, RMSE)指标上分别降低了7.3%、11.6%、32.9%。同时它在多步EGT的预测中具有较高的预测精度,证明了该方法的有效性,为短期APU性能变化趋势预测提供一定的参考。     

多传感器监测飞机部件非线性退化评估

飞机部件一般采用多传感器进行状态监控,针对退化过程具有非线性特征的民机典型部件剩余寿命（RUL）预测及评估问题,首先建立了部件性能参数的一般非线性Wiener退化过程,推导出基于多传感器监测数据的剩余寿命预测框架和概率密度函数,随后利用状态空间模型进行隐退化状态估计并同时利用最大期望算法（EM）实现参数递推估计,最后形成了飞机部件多传感器监测下的剩余寿命非线性退化评估方法。通过数值仿真案例和民航发动机剩余寿命预测案例,对比线性退化模型和基于单一传感器监测数据的非线性退化模型,验证了所提方法在提高剩余寿命预测精度的有效性,可为飞机及其部件的剩余使用寿命预测和视情维护决策提供技术支撑。     

基于双隐层过程神经网络的飞机发动机故障检测

利用双隐层过程神经网络模型可以直接处理时变信号的特点，提出了一种用双隐层过程神经网络模型对飞机发动机进行故障检测的方法。由过程神经元隐层完成对输入信息过程模式特征的提取和对时间的聚合运算，非时变一般神经元隐层用于提高网络对系统输入输出之间复杂关系的映射能力。分别利用递归神经网络和双隐层过程神经网络对发动机排气温度裕度进行仿真预测。结果表明，双隐层过程神经网络收敛速度快、精度高，优于递归神经网络的预测结果。为飞机发动机状态监测问题提供了一种有效的方法。     

基于差分隐私的航空发动机喘振故障检测

为保护航空发动机数据集包含的众多敏感数据,将差分隐私技术融入卷积神经网络中,提出一种具有差分隐私的卷积神经网络故障检测模型(DP-CNN模型)。阐述了卷积神经网络和差分隐私技术的基本理论和计算步骤,采用差分隐私随机梯度算法更新神经网络参数以建立DP-CNN模型。运用DP-CNN模型对航空发动机喘振故障进行检测,并与其他故障检测模型(支持向量机,长短时记忆网络,多层感知器)的检测结果进行对比。结果表明,DP-CNN模型在准确率、召回率以及f1-sc ore上都更高,分别达到了95.3%、94.6%和96.5%。     

卷积和离散过程神经网络及其在航空发动机排气温度预测中的应用

 针对航空发动机排气温度的变化过程受复杂非线性时变因素的影响而难以用精确数学模型描述的问题,提出了卷积和离散过程神经网络(CSDPNN)模型,并将其应用于航空发动机排气温度(EGT)预测。该模型以离散样本作为直接输入,采用卷积和算法实现对时间累积效应的处理。相较于以连续函数作为输入的过程神经网络(PNN),不需要拟合离散样本得到连续函数后进行正交基展开,减少了精度损失,具有更高的预测精度。给出了卷积和离散过程神经网络模型的学习算法,并通过对Mackey-Glass混沌时间序列的预测对提出的方法进行应用说明和验证。通过航空发动机EGT预测实例,并与卷积和离散过程神经网络模型的连续函数输入过程神经网格以及传统人工神经网络(ANN)的预测结果进行了对比。结果表明,相较于连续函数输入过程神经网络以及传统人工神经网络,卷积和离散过程神经网络具有更高的预测精度,且对于EGT的预测具有较好的适应性,因而为航空发动机EGT预测提供了一种有效的方法。     

基于卷积神经网络的结冰翼型气动特性建模

提出了基于卷积神经网络（CNN）的结冰翼型气动特性预测方法，设计了输入层结冰翼型图像规范，克服了复杂冰形在翼面同一位置法线方向存在多值，单值函数难以描述的问题。预测模型可同时预测多个迎角对应的升阻力系数，实现了直接从冰形图像到气动特性的快速预测，对升力系数和阻力系数预测结果的平均相对误差均可控制在8%以内。重点研究了不同卷积层数量、卷积核数量、卷积核尺寸对模型性能的影响规律：CNN的不同层次特征对应不同滤波频率，卷积层数增加会捕获更多高频特征量；增加卷积核数量可提取更多冰形特征，提升模型性能，但数量过多会增加冗余特征，降低模型泛化性能；阻力系数预测模型对卷积核数量的最低要求大于升力系数，其原因在于，相较升力系数，阻力系数不仅受翼面压差影响，还受摩阻特性影响，其建模所需的关键特征数量多于升力系数；增大卷积核尺寸，可扩大卷积操作“视野”，增强对冰形整体特征信息的提取，有利于提升模型泛化性能。相关结论为飞机结冰气动特性实时动态预测与监测提供了新的思路和方法支撑。     

二值卷积神经网络综述

二值卷积神经网络（BNN）占用存储空间小、计算效率高,然而由于网络前向的二值量化与反向梯度的不匹配问题,使其与同结构的全精度深度卷积神经网络（CNN）之间存在较大的性能差距,影响了其在资源受限平台上的部署。至今,研究者已提出了一系列网络设计与训练方法来降低卷积神经网络在二值化过程中的性能损失,以推动二值卷积神经网络在嵌入式便携设备发展中的应用。因此,本文对二值卷积神经网络进行综述,主要从提高网络表达能力与充分挖掘网络训练潜力两大方面,给出了当前二值卷积神经网络的发展脉络与研究现状。具体而言,提高网络表达能力分为二值化量化方法设计、结构设计两方面,充分挖掘网络训练潜力分为损失函数设计与训练策略两方面。最后,对二值卷积神经网络在不同任务与硬件平台的实验情况进行了总结和技术分析,并展望了未来研究中可能面临的挑战。