快速Gram-Schmidt回归方法

提出一种快速的变量筛选与回归建模方法.该方法将在建模过程中,一方面筛选出对因变量有最佳解释作用的信息;另一方面基于Gram-Schmidt正交变换,识别和检验模型中的冗余变量,以便能够及时和成批量地删除所有冗余信息.仿真分析指出,在自变量数量巨大,同时变量之间的多重相关程度又非常高的情形下,与经典的逐步回归相比,该方法的计算速度更快,建模过程更加简洁有效.     

基于Gram-Schmidt过程的判别变量筛选方法

利用Gram-Schmidt过程,在自变量集合中选择对判别分类解释性最强的信息,删除对分类无显著解释作用的信息以及重复解释的信息,并把挑选出来的解释变量集合变换成若干直交变量.一方面实现了判别分析模型中的变量筛选,同时也解决了自变量多重共线条件下的有效建模问题.在选入变量的过程中运用F统计量检验变量的判别作用,更容易被统计应用人员所接受.为了说明所提算法的合理性和有效性,以Fisher判别分析建模为例,通过仿真数据建模取得了合理准确的分析结论.      

基于Gram-Schmidt过程的多项式回归建模方法

多项式回归模型是一种常用的非线性回归方法.由于在多项式回归模型中,自变量之间往往存在较强的相关关系,采用普通最小二乘回归方法来估计回归系数会存在较大的计算误差.为了提高多项式回归模型的预测准确性和可靠性,提出一种基于Gram-Schmidt过程进行多项式回归的建模方法,可以实现自变量集合的正交化,克服自变量集合多重共线对回归建模的不良影响,从而有效地运用最小二乘建立回归模型.同时可以进行信息筛选有效选取对因变量有显著解释作用的自变量,排除自变量中的冗余信息.采用仿真数据分析,检验了该方法的有效性.      

多元线性回归的预测建模方法

根据历史的样本数据,建立多元线性回归的预测模型;从而在不需要未来样本数据的情况下,预测未来时刻多元线性回归模型中的回归参数,以及主要的模型精度评估指标.对多元线性回归模型参数的预测,转化为对其变量集合的增广矩阵的叉积阵的预测.对叉积阵进行谱分解,利用高维群点主轴旋转的预测建模方法,通过Givens变换得到特征向量矩阵的转角值,对自由取值的转角以及特征值建立预测模型.仿真实验例示了该方法的主要计算步骤;计算结果显示,利用本模型得到的拟合值精度较高,预测值真实可信.最终计算结果和实验结果吻合较好,表明这种方法可以用于分析和预测众多领域中因变量对自变量的回归关系问题.      

基于函数型数据的广义线性回归模型

函数型数据的回归分析研究主要集中在函数型线性模型。不要求因变量为连续型随机变量,可以为离散型或属性数据(对应于泊松或Logistic回归),对同时含有数值型多元变量和函数型变量的广义线性模型的估计问题进行分析,采用非参数方法得到了参数部分和非参数部分的估计量,并给出了一种重加权算法进行参数求解,解决了含数值型和函数型混合数据类型自变量的回归问题,同时扩展了函数型线性模型的应用范围。估计过程中,分别采用了函数型主成分和B样条基函数,并给出了基函数个数选择的准则。数值模拟结果表明,所提出方法具有良好的可行性与正确性。      

主成分回归的建模策略研究

分析了国际上通用的主成分回归的工作原理和失效原因.在此基础上,提出一种新的主成分回归建模策略:①提取所有主成分建立模型;②删除模型中t检验不显著的成分;③用t检验显著的成分建立最终需要的模型.由于任一主成分的回归系数和t检验值以及与其余主成分无关.因此,当采用向后删除变量法时,如果有多个成分t检验不显著,则可以将它们同时删除,而无须逐个删除.采用仿真案例对所提出的方法的合理性进行验证.这种新的建模策略可以有效地提取对因变量有较强解释作用的成分,实现在自变量多重相关条件下的回归建模,并且允许在模型中包含所有的原始变量.此外,该方法的成分筛选过程简便,累计计算误差小于偏最小二乘回归等迭代算法.      

含函数型自变量回归模型中的变量选择

针对含有函数型和多元向量数据的回归模型中变量选择和参数估计问题进行研究,扩展了函数型数据分析和变量选择方法的应用范围。首先,函数型自变量基于函数型主成分基函数空间进行投影;然后,对投影后的函数型自变量（按组）及多元向量自变量采用惩罚变量选择方法,同时估计相应的系数。惩罚项调节参数采用自适应调节参数,损失函数采用中位绝对损失函数,以此为例,通过引入松弛变量将估计算法转化为求解线性规划问题,算法复杂度低。数值模拟结果表明,所提方法对于含函数型自变量回归模型的变量选择和参数估计均具有良好效果。      

基于主基底分析的变量筛选

利用Gram-Schmidt变换,提出一种主基底分析方法.解释并证明了Gram-Schmidt变换所删除的信息量.给出"主基底"的定义及构造方法,并提出"净信息含量比"的概念,用以测度所选基底包含的信息.该方法能在原始数据信息损失尽可能小的前提下,排除所有的冗余变量以及变量集合中的重叠信息,得到一个正交的主基底,从而更有效地对大规模变量集合中的信息进行筛选.多角度的理论分析指出,主基底在尽可能多地携带原始变量信息的同时,还可保证样本点间的相似性改变最小.实际案例分析说明了该方法的合理性和有效性.      

刀具磨损的偏最小二乘回归分析与建模

简述了偏最小二乘回归方法;对在不同切削条件下车削加工过程刀具后刀面磨损的多组实验数据,采用偏最小二乘回归方法,根据变量重要性指标分析和因子载荷分析,从8个变量及其组合中筛选出了6个用于建模的自变量,并以后刀具磨损量作为因变量,建立了对所选自变量(切削速度V、切削分力的均值F_x、F_y和F_z、分力比值F_y/F_x和F_z/F_x等)的偏最小二乘回归模型;采用建模数据覆盖的切削条件下的实验数据和建模数据未覆盖的切削条件下的实验数据,分别对模型进行了验证.结果表明,采用偏最小二乘回归方法选择的自变量是合理的,所建立的刀具磨损的回归模型可以较满意地计算出不同切削条件下刀具后刀面的磨损量.     

偏最小二乘回归模型内涵分析方法研究

偏最小二乘回归是一种新型的多元分析方法。它可以在自变量多重相关的条件下,有效地构造出对系统解释性最强的子空间,进行发建模,使模型的精度和可靠性得到很大的提高。本文提出采用因素分析方法,对偏最小二乘回归的最优子空间进行正交变换。这种变换方法对偏最小二乘回归的模型结果没有任何影响,却可以使最优子空间的实际含义得到更好的解释。案例研究表明,经过正交变换后,原始变量被分为若干变量组,每个变量组分别对应于最     

基于Gram-Schmidt变换的有监督变量聚类

为进一步研究回归模型中高维数据的降维方法,提出基于Gram-Schmidt变换的新的有监督变量聚类（SCV-GS）方法。该方法未采用以潜变量为聚类中心的层次聚类,而是借用变量扫描思想,依次挑出对响应变量有重要贡献的关键变量,并将其作为聚类中心。SCV-GS方法基于Gram-Schmidt变换,对变量之间的高度相关性进行批量处理,并得到聚类结果;同时,结合偏最小二乘思想,提出新的同一性度量,并以此来选取最佳聚合参数。SCV-GS不仅可以快速得到变量聚类结果,而且可识别出对响应变量的解释及预测起关键作用的变量类。仿真表明该聚类方法运算速度显著提升,而且所得潜变量对应的回归系数的估计结果与对照方法表现一致;实例分析表明该方法具有更好的解释性和预测能力。      

多元线性回归在引气系统故障诊断中的应用

针对利用快速存取记录器(QAR)数据进行民机系统故障诊断问题,以民机引气系统为对象,提出了一种适合多飞行循环数据特点的多元线性回归模型的故障检测方法.首先建立了多飞行循环数据的引气系统性能多元线性回归模型,设计了飞行循环和飞行循环内故障检测方法;然后采用最大后验估计方法进行模型参数估计;最后设计了适合多飞行循环数据的模型参数最大后验估计算法.借助仿真数据和航空公司收集的实际飞行数据对方法进行了验证,结果表明了该方法有效且具有一定工程应用价值.      

结构方程模型的预测建模方法

提出一种结构方程模型的动态预测建模方法,从而可以在无须未来样本数据的情况下,预测系统要素之间未来的因果关系。采用矩阵谱分解,将协方差矩阵唯一分解为特征值矩阵和特征向量矩阵乘积的形式.分别应用经典的线性回归方法和高维群点主轴旋转预测方法对特征值矩阵和特征向量矩阵建立预测模型,提出一种协方差矩阵的后推预测算法.采用极大似然法,迭代估计未来结构方程模型的各种参数.仿真实验例示了该方法的主要计算步骤.计算结果显示,利用本模型得到的拟合值精度较高,预测模型真实可信,表明这种方法可以用于分析和预测结构方程模型.      

活塞式航空发动机的优化与标定

联合发动机循环模拟与标定技术建立小型活塞航空发动机动力性和经济性的多目标优化模型。对校验后的BOOST模型进行DOE(Design of Experiment)正交试验,对试验数据进行统计数学建模,并对局部模型误差进行控制,进行响应面模型分析,通过MBC(Model-Based Calibration)工具箱进行优化标定,选用经济适用的NBI(Normal Boundary Inter-section)进行多目标优化.给出了优化的点火提前角、喷油量的MAP图,优化参数对扭矩和燃油消耗等目标的响应面模型,对提升小型航空发动机性能有重要的参考价值.     

基于模糊奇偶方程的PL/INS导航系统故障诊断

提出了一种伪卫星(PL, Pseudolite)/惯性导航(INS, Inertial Navigation System)组合导航系统多故障识别方法.分析了PL的常见故障及其数学模型,采用模糊奇偶方程方法对PL的常见故障进行诊断、隔离和参数识别.采用Takagi-Sugeno(T-S)模糊模型描述PL/INS组合导航系统,对于局部线性化模型建立全解耦奇偶方程,并对奇偶方程的残差进行融合,得到全局残差.结合残差利用卡尔曼滤波进行故障参数识别,给出了参数识别的约束条件.仿真结果表明:针对导航系统中多个PL信号同时发生多种故障的情况,此方法能有效检测故障,并能准确识别出故障模型参数.