基于粒子群优化LSTM的股票预测模型

为了提高股票时间序列预测精度,增强预测模型结构参数可解释性,提出一种基于自适应粒子群优化（PSO）的长短期记忆（LSTM）股票价格预测模型（PSO-LSTM）,该模型在LSTM模型的基础上进行改进和优化,因此擅长处理具有长期依赖关系的、复杂的非线性问题。通过自适应学习策略的PSO算法对LSTM模型的关键参数进行寻优,使股票数据特征与网络拓扑结构相匹配,提高股票价格预测精度。实验分别以沪市、深市、港股股票数据构建了PSO-LSTM模型,并对该模型的预测结果与其他预测模型进行比较分析。结果表明,基于自适应PSO的LSTM股票价格预测模型不但提高了预测准确度,而且具有普遍适用性。      

奇异谱分析在故障时间序列分析中的应用

由于日益增长的飞行安全和飞机维护质量需求,飞机使用可靠性已经成为一个重要的研究领域。从某航空公司波音737飞机使用过程中现场所记录的18年的故障数据出发,应用奇异谱分析（SSA）方法,对故障时间序列进行了建模和预测,进一步以预测结果的均方根误差（RMSE）最小为优化目标对SSA模型参数进行了优选。在此基础上,提出了一种更为广泛的模型组合方法和实现算法,这种方法采用不同的时间序列模型来构造SSA分解出的趋势、周期和残差等成分。通过与三次指数平滑（Holt-Winters）、自回归移动平均（ARIMA）2种时间序列模型的实验结果对比,SSA及其参数优选和模型组合方法在故障时间序列分析中具有更好的拟合和预测精度。      

一种基于STL-Prophet-Informer模型的太阳电池阵多变量趋势预测方法

为了提高太阳电池阵多变量预测的精度,解决阳电池阵遥测参数存在周期波动与增长性互相耦合的问题,提出一种基于STL-Prophet-Informer模型的太阳电池阵多变量预测算法.该算法首先应用局部加权周期趋势分解算法(seasonal and trend decomposition procedure based on loess, STL)对太阳电池阵的多个参数分解为趋势分量、周期分量和残差分量,然后采用对趋势性数据预测效果较好的Prophet预测趋势分量,Informer模型预测周期分量和残差分量,最后将各分量预测结果相加后得到总的太阳电池阵参数预测值.以某卫星太阳电池阵实际遥测数据做算例分析,提出算法的各项误差评价指标和单一的Informer模型、LSTM模型等相比有明显减小,将该组合预测模型用于太阳电池阵多变量参数预测中,可以提高参数预测精度,提升卫星自主运行性能.     

航空液压泵磨损状况预测

磨损是航空液压泵典型的渐进性故障之一,因磨损量难以测量,对磨损状况进行准确的预测比较困难.针对上述问题,提出了基于多尺度数据的支持向量机预测方法,该方法将支持向量机用于时间序列预测的基本理论和数据多尺度分解、相空间重构方法结合,能更有效地挖掘时间序列的内在联系及变化规律.采用回油流量作为反映航空液压泵磨损状况的敏感信号,将其分解为趋势项和随机项,采用多尺度支持向量机作等维信息一步预测和多步预测,利用网格方法对预测模型参数寻优.对比传统支持向量机算法分析其预测精度,结果表明:多尺度支持向量机模型预测精度更高,适于中长期预测.      

基于无监督聚类与LSTM网络的航天器健康状态预测方法

健康状态预测是从系统层面保证航天器在轨安全稳定运行的关键技术.针对机电类关键部件存在性能退化过程的特点,提出一种基于无监督聚类与长短时记忆(LSTM)网络的航天器健康状态预测方法.该方法首先提取航天器单部件多维参数的高维时域特征,通过PCA方法将高维特征融合为反映部件运行状态的健康因子,再结合无监督聚类算法识别出故障的不同演化阶段,最后采用LSTM网络分别对各退化阶段构建其健康状态演化预测模型,实现对航天器部件健康状态预测.本文以控制系统关键部件控制力矩陀螺(CMG)为例对上述算法进行试验验证,验证了方法的有效性.     

基于SMO—SVR的飞机舵面损伤故障趋势预测

飞机舵面出现损伤时,为了更准确的预测状态参量变化情况,提出了一种改进的序贯最小优化支持向量回归(SMO-SVR, Sequential Minimal Optimization Support Vector Regression)预测方法.采用改进C-C平均方法对多元时间序列进行相空间重构,以确定最优嵌入维数m和延迟时间τ_d.根据所求m和τ_d建立加权SVR预测模型,并调整了SMO算法的停机准则.利用区间自适应粒子群算法(IAPSO, Interval Adaptive Particle Swarm Optimization)优化SVR参数,以提高参数优化速度.为了验证改进算法的有效性,针对飞机方向舵损伤故障趋势进行了预测和分析,并与径向基函数神经网络(RBFNN, Radial Basis Function Neural Network)方法进行了对比,仿真结果表明SMO-SVR预测模型具有很好的预测能力.     

基于贝叶斯准则的支持向量机预测模型

对实际统计数据中存在的相关性、不确定性和非线性问题,提出贝叶斯支持向量机预测模型方法.构建基于高斯分布的权值分布模型描述信息的不确定性,基于先验概率分布和贝叶斯关系获得后验分布模型,利用极大似然方法和递推迭代算法求解后验分布的最佳参数,从而得到关联向量机.建立起基于参数分布多维时间序列预测模型,将每一步迭代过程中的支持向量机输入作为随机变量,考虑数据不确定性的传递,递推得到贝叶斯支持向量机预测输出.由于贝叶斯支持向量机可以有效反映随机影响及其传递,可以克服数据不确定性和相关性的影响,因此基于贝叶斯支持向量机预测效果更加符合实际.实例表明利用贝叶斯支持向量机预测高科技企业发展趋势与实际发展趋势接近,可以克服数据相关性、不确定性和非线性对信息模型的影响,具有较高的预测精度和预测鲁棒性.     

基于时空注意力机制的新冠肺炎疫情预测模型

新冠肺炎疫情持续蔓延给人类社会带来深远影响，准确预测各地区的病毒传播趋势对防控疫情而言至关重要。现有研究主要基于传统的时序预测模型和传染病模型，鲜有考虑疫情地区关联复杂和时序依赖性强的特点，限制了其疫情预测的性能。为此，针对新冠肺炎疫情的预测任务，提出了一种时空注意力驱动的自编码器框架。通过引入空间注意力机制捕捉病毒感染序列间的动态空间关联性，利用时间注意力机制挖掘病毒感染序列中复杂的时序依赖性，以此实现对不同地区的新冠肺炎病毒传播趋势的准确预测。在模型的编码器端，融合空间注意力机制的长短期记忆(LSTM)网络，关联目标地区与其他地区的病毒感染序列，提取该区域近期新冠肺炎疫情的时序特征。在模型的解码器端，将时间注意力机制引入基于LSTM网络的解码器中，通过捕捉病毒感染序列的时序依赖性推测未来的新冠肺炎疫情趋势变化。在多个公开的新冠肺炎疫情数据集上对所提模型进行验证，实验结果表明:所提模型的预测性能超越了LSTM等模型；在公开的欧洲部分国家新冠肺炎疫情数据集上，预测误差指标RMSE和MAE分别降低了22.3%和25.0%，在中国部分省级单位新冠肺炎疫情数据集上，RMSE和MAE分别降低了10.1%和10.4%。      

一种电离层TEC格点预测模型

基于分析时间序列数据的门限控制单元（GRU）神经网络模型,利用电离层TEC网格点历史数据、太阳活动指数、地磁活动指数作为预测因子,提出一种高精度电离层TEC格点预测模型.对全球60个网格点的数据进行了模型预测和对比实验,得到北半球平均相对精度的均值为83.96%,高于南半球的73.60%,表明预测模型在北半球的适应性更好,且中低纬地区的适应性优于高纬地区;预测模型在磁扰动期的平均相对精度的均值比磁平静期平均相对精度的均值高,约1.95%;与基于递归神经网络（RNN）、长短时记忆网络（LSTM）和双向长短时记忆网络（Bi-LSTM）的电离层TEC单站预测模型相比,本文预测模型的均方根误差（RMSE）平均为原来的80.8%.      

基于PCC-LSTM模型的短期负荷预测方法

短期负荷预测是电网合理调度和平稳运行的基础。为提高短期负荷预测精度,提出了一种基于Pearson相关系数(PCC)和长短期记忆(LSTM)神经网络的短期负荷预测方法。该方法运用Pearson相关性分析对原始多维输入变量组成的时间序列进行相关性分析,选取与电力负荷数据相关性较大的影响因素作为输入量,实现原始数据的降维和选优;再通过LSTM神经网络结合Adam优化算法,对与电力负荷相关性较大的影响因素和负荷实际输出序列之间的非线性关系建立网络模型。以嘉捷BOX和重庆丽苑维景国际大酒店的负荷数据作为实际算例,并与Prophet、LSTNet、门控循环(GRU)神经网络模型方法进行对比。结果表明:所提PCC-LSTM模型预测精度均在91%以上,最高可达95.44%,有效提高了负荷预测的精度。      

基于LSTM的TTE网络速率约束流量预测

时间触发以太网（TTE）中的速率约束（RC）流量为事件触发流量，在RC流量动态调度的应用场景下，若能预测未来短时间内数条RC流量到达交换节点的序列，使交换节点提前进行调度决策，以减小RC流量时延，提高网络吞吐量。对RC流量到达序列预测问题进行了研究，建立了RC流量的到达序列模型，提出了基于长短期记忆网络（LSTM）算法的RC流量预测算法。利用OMNET++工具进行TTE网络仿真，得到多组混合关键性配置下RC流量的传输数据；以此作为输入样本对预测算法进行训练和测试。实验结果显示，LSTM算法在RC流量预测问题的准确率达到了70%以上。通过对比实验说明所提算法适用于RC流量预测场景。      

无人机自主引导跟踪与避障的近端策略优化

针对无人机地面动态目标跟踪问题，建立了远距离自主引导与近距离伴飞避障2个阶段的马尔可夫决策过程模型。在此基础上，提出了一种改进的近端策略优化（PPO）算法。考虑到无人机接收到的数据具有时序性且环境状态存在上下文关联，所提算法采用长短期记忆（LSTM）网络，通过无人机与目标的实时位置关系等状态信息来计算奖励值，更新网络参数，并进行自适应优化迭代。通过基于ROS系统的仿真测试平台进行试验，结果表明：所提算法安全有效地实现了侦察任务全过程的自主机动，与传统的PPO算法相比，LSTM的引入缩短了模型训练时间，跟踪与避障的效率明显提高，进一步加强了算法的鲁棒性、准确性和实时性。     

基于长短时记忆神经网络(LSTM)的钟差预报算法

原子钟钟差预报在原子时计算和原子钟频率驾驭中发挥着重要的作用。长短时记忆神经网络（LSTM）预报算法能够处理多参数长期依赖关系的时间序列预报，以氢钟和铯钟实测数据为样本，通过构建LSTM钟差预报模型，降低了长期原子钟内部噪声以及原子钟漂移对钟差预报的影响，并以72h，240h和720h为预报时长，分别与线性多项式模型、灰色模型和Kalman模型原子钟钟差预报模型进行预报误差对比。研究表明，在240h以上的预报时长中，LSTM建模长期依赖关系的优势得以体现，相较于其他3类模型可以获得更高的预报精度。     

An improved cyclic multi model-eXtreme gradient boosting (CMM-XGBoost) forecasting algorithm on the GNSS vertical time series

The study of GNSS vertical coordinate time series forecasting is helpful for monitoring the crustal plate movement, dam or bridge deformation monitoring, and global or regional coordinate system maintenance. The eXtreme Gradient Boosting (XGBoost) algorithm is a machine learning algorithm that can evaluate features, and it has a great potential and stability for long-span time series forecasting. This study proposes a multi-model combined forecasting method based on the XGBoost algorithm. The method constitutes a new time series as features through the fitting and forecasting results of the forecasting model. The XGBoost model is then used for forecasting. In addition, this method can obtain higher precision forecasting results through circulation. To verify the performance of the forecasting method, 1095 epochs of data in the Up coordinate of 16 GNSS stations are selected for the forecasting test. Compared with the CNN-LSTM model, the experimental results of our forecasting method show that the mean absolute error (MAE) values are reduced by 30.23 %～52.50 % and the root mean square error (RMSE) values are reduced by 31.92 %～54.33 %. The forecasting results have higher accuracy and are highly correlated to the original time series, which can better forecast the vertical movement of the GNSS stations. Therefore, the forecasting method can be applied to the up component of the GNSS coordinate time series.     

基于深层循环神经网络的陀螺仪降噪方法研究

陀螺仪固有的随机误差会随时间积累越来越大，循环神经网络作为一种有效处理时间序列信号的算法被广泛使用，然而传统的循环神经网络在处理陀螺仪产生的随机误差上无法解决长期依赖，容易出现梯度消失和梯度爆炸问题.为了获得精确的陀螺仪信号，本文基于循环神经网络变体的长短记忆网络和门循环单元的陀螺仪信号降噪算法，并创新性的将两种网络进行组合验证.文中先是通过Allan方差对陀螺仪随机误差进行误差分析，然后基于LSTM和GRU组合对陀螺仪输出信号进行补偿处理，结果表明LSTM结合GRU对陀螺仪的随机误差处理有明显改善，其中X、Y、Z轴方向陀螺仪的量化噪音、角度随机游走、零偏不稳定性、角速度游走和速度斜坡性能均有不同程度的提升.