基于Gram-Schmidt过程的多项式回归建模方法

多项式回归模型是一种常用的非线性回归方法.由于在多项式回归模型中,自变量之间往往存在较强的相关关系,采用普通最小二乘回归方法来估计回归系数会存在较大的计算误差.为了提高多项式回归模型的预测准确性和可靠性,提出一种基于Gram-Schmidt过程进行多项式回归的建模方法,可以实现自变量集合的正交化,克服自变量集合多重共线对回归建模的不良影响,从而有效地运用最小二乘建立回归模型.同时可以进行信息筛选有效选取对因变量有显著解释作用的自变量,排除自变量中的冗余信息.采用仿真数据分析,检验了该方法的有效性.      

快速Gram-Schmidt回归方法

提出一种快速的变量筛选与回归建模方法.该方法将在建模过程中,一方面筛选出对因变量有最佳解释作用的信息;另一方面基于Gram-Schmidt正交变换,识别和检验模型中的冗余变量,以便能够及时和成批量地删除所有冗余信息.仿真分析指出,在自变量数量巨大,同时变量之间的多重相关程度又非常高的情形下,与经典的逐步回归相比,该方法的计算速度更快,建模过程更加简洁有效.     

两种成分提取回归方法的比较分析

对两种采用成分提取进行回归建模的方法进行比较分析.指出采用主成分分析提取的主成分,虽然能很好地概括自变量系统中的信息,却往往对因变量缺乏解释能力.而采用PLS回归所提取的成分,则能在很好地概括自变量系统信息的同时,最好地解释因变量,排除无意义的信息干扰作用.     

Gram-Schmidt回归及在刀具磨损预报中的应用

多元线性回归是一种应用广泛的统计分析方法.在实际应用中,当自变量集合存在严重多重相关性时,普通最小二乘方法就会失效.为解决这一问题,利用Gram-Schmidt 正交变换,提出一种新的多元线性回归建模方法——Gram-Schmidt回归.该方法可实现多元线性回归中的变量筛选,同时也解决了自变量多重相关条件下的有效建模问题.将该方法应用于机械加工过程中刀具磨损的预报分析,有效地进行了变量筛选,并得到了解释性强同时拟合优度也很高的模型结果.      

主成分回归的建模策略研究

分析了国际上通用的主成分回归的工作原理和失效原因.在此基础上,提出一种新的主成分回归建模策略:①提取所有主成分建立模型;②删除模型中t检验不显著的成分;③用t检验显著的成分建立最终需要的模型.由于任一主成分的回归系数和t检验值以及与其余主成分无关.因此,当采用向后删除变量法时,如果有多个成分t检验不显著,则可以将它们同时删除,而无须逐个删除.采用仿真案例对所提出的方法的合理性进行验证.这种新的建模策略可以有效地提取对因变量有较强解释作用的成分,实现在自变量多重相关条件下的回归建模,并且允许在模型中包含所有的原始变量.此外,该方法的成分筛选过程简便,累计计算误差小于偏最小二乘回归等迭代算法.      

基于主基底分析的变量筛选

利用Gram-Schmidt变换,提出一种主基底分析方法.解释并证明了Gram-Schmidt变换所删除的信息量.给出"主基底"的定义及构造方法,并提出"净信息含量比"的概念,用以测度所选基底包含的信息.该方法能在原始数据信息损失尽可能小的前提下,排除所有的冗余变量以及变量集合中的重叠信息,得到一个正交的主基底,从而更有效地对大规模变量集合中的信息进行筛选.多角度的理论分析指出,主基底在尽可能多地携带原始变量信息的同时,还可保证样本点间的相似性改变最小.实际案例分析说明了该方法的合理性和有效性.      

刀具磨损的偏最小二乘回归分析与建模

简述了偏最小二乘回归方法;对在不同切削条件下车削加工过程刀具后刀面磨损的多组实验数据,采用偏最小二乘回归方法,根据变量重要性指标分析和因子载荷分析,从8个变量及其组合中筛选出了6个用于建模的自变量,并以后刀具磨损量作为因变量,建立了对所选自变量(切削速度V、切削分力的均值F_x、F_y和F_z、分力比值F_y/F_x和F_z/F_x等)的偏最小二乘回归模型;采用建模数据覆盖的切削条件下的实验数据和建模数据未覆盖的切削条件下的实验数据,分别对模型进行了验证.结果表明,采用偏最小二乘回归方法选择的自变量是合理的,所建立的刀具磨损的回归模型可以较满意地计算出不同切削条件下刀具后刀面的磨损量.     

连续谱数据的函数型主成分回归

对连续谱数据不做离散化处理,而是将光滑后的连续谱作为连续曲线,进行函数型主成分回归分析,以期获得既可降维又能减少信息损失的回归方程.在此建模过程中,还引入连续谱的导数曲线作为协变量,并给出函数型主成分回归系数的bootstrap置信区间.作为实证研究,对玻璃样品的X射线谱和样品中硅元素含量进行回归分析.研究结果表明,基于函数型主成分的回归分析对响应变量具有较强解释能力,同时其回归系数更加符合数据本身的特点,显示出新方法所具有的优越性与实用价值.      

一种新的判别决策树的建树准则

讨论了一种新的判别决策树评价准则,在建立二分树的过程中,提出采用不可分辨度最大下降作为选择自变量的原则.这种新准则与经典的非纯度下降算法在概念上是近似的.如果适当定义非纯度下降算法中的权重,则这两个准则就是完全等价的.然而,新准则的计算更加简单,并且通过案例分析可知,对新准则计算结果的解释也更加容易.     

偏最小二乘回归模型内涵分析方法研究

偏最小二乘回归是一种新型的多元分析方法。它可以在自变量多重相关的条件下,有效地构造出对系统解释性最强的子空间,进行发建模,使模型的精度和可靠性得到很大的提高。本文提出采用因素分析方法,对偏最小二乘回归的最优子空间进行正交变换。这种变换方法对偏最小二乘回归的模型结果没有任何影响,却可以使最优子空间的实际含义得到更好的解释。案例研究表明,经过正交变换后,原始变量被分为若干变量组,每个变量组分别对应于最     

基于Gram-Schmidt变换的有监督变量聚类

为进一步研究回归模型中高维数据的降维方法,提出基于Gram-Schmidt变换的新的有监督变量聚类（SCV-GS）方法。该方法未采用以潜变量为聚类中心的层次聚类,而是借用变量扫描思想,依次挑出对响应变量有重要贡献的关键变量,并将其作为聚类中心。SCV-GS方法基于Gram-Schmidt变换,对变量之间的高度相关性进行批量处理,并得到聚类结果;同时,结合偏最小二乘思想,提出新的同一性度量,并以此来选取最佳聚合参数。SCV-GS不仅可以快速得到变量聚类结果,而且可识别出对响应变量的解释及预测起关键作用的变量类。仿真表明该聚类方法运算速度显著提升,而且所得潜变量对应的回归系数的估计结果与对照方法表现一致;实例分析表明该方法具有更好的解释性和预测能力。      

航天器附件联动展开机构优化设计

根据航天器附件展开运动功能要求,对联动展开机构进行了尺度综合,确立了一组独立的设计参数,推导了满足收拢和展开状态下基板位置要求的联动展开机构数学模型,并建立了参数化的机构展开动力学仿真模型,以对附件展开运动功能及动力学特性进行分析和验证,从而实现了机构的参数化设计与分析.在此基础上,以展开全程所需的最大驱动力矩最小化为目标,以满足收拢状态整体结构尺寸包络为约束条件,建立了联动展开机构优化模型,根据该优化问题的非线性特征以及设计空间的不连续性,采用模拟退火算法进行优化求解,最终得到了机构的最优尺寸,从而达到了降低展开驱动力矩、改善机构动力学性能的目的.     

参数不定区间估计的对偶线性规划方法

将参数不定区间估计(PIE)问题变换成一组对偶线性规划(DLP)问题,提出了求解这组DLP问题的改进单纯形方法.该方法利用变量间的对偶关系,直接计算初始基本可行解,省去了初始基本可行解的搜索步骤.此外,在确定旋入和旋出变量时都采用了目标值最大减少规则,减少了旋转迭代次数.针对由PIE问题所导出的全部DLP问题都具有相同的目标函数和约束矩阵,给出了单搜索过程求解全部DLP问题的联合单纯形法.仿真结果说明了所给算法的计算效率.      

基于粗糙集理论的卫星故障诊断方法

卫星结构和控制的复杂性、独特性和诱发故障的多源性导致其故障诊断的困难．卫星的一种故障模式与许多症状变量有关,目前的故障诊断推理因未充分考虑症状变量的冗余变量而比较复杂．提出了基于粗糙集理论的故障症状约简新方法,用卫星故障实例研究了新方法的应用,结果表明该约简方法对消除卫星故障症状信息冗余、简化和优化故障诊断推理非常有效。     

不确定切换系统的鲁棒自适应控制方案

针对切换信号依赖于独立决策变量的不确定切换系统,基于多Lyapunov函数方法和模型参考自适应控制理论,提出并分析一种控制器具有非线性死区特征的鲁棒自适应切换控制方案.首先,由参考切换系统和自适应控制律集合建立闭环切换系统,而后构造Lure-Postnikov形式的多Lyapunov函数,并以一组线性矩阵不等式推导给出闭环切换系统为有界模型参考自适应控制系统的充分条件.最后,选择HiMAT(Highly Maneuverable Aircraft Technology)飞行器包线内的5个工作点,以其纵向短周期运动模型建立切换系统,并设计具有非线性死区特征的鲁棒自适应控制器.仿真验证了方案的有效性,结果表明系统在快速连续切换下可良好地跟踪期望轨迹.