-674-第二十七章偏最小二乘回归分析在实际问题中,经常遇到需要研究两组多重相关变量间的相互依赖关系,并研究用一组变量(常称为自变量或预测变量)去预测另一组变量(常称为因变量或响应变量),除了最小二乘准则下的经典多元线性回归分析(MLR),提取自变量组主成分的主成分回归分析(PCR)等方法外,还有近年发展起来的偏最小二乘(PLS)回归方法。偏最小二乘回归提供一种多对多线性回归建模的方法,特别当两组变量的个数很多,且都存在多重相关性,而观测数据的数量(样本量)又较少时,用偏最小二乘回归建立的模型具有传统的经典回归分析等方法所没有的优点。偏最小二乘回归分析在建模过程中集中了主成分分析,典型相关分析和线性回归分析方法的特点,因此在分析结果中,除了可以提供一个更为合理的回归模型外,还可以同时完成一些类似于主成分分析和典型相关分析的研究内容,提供更丰富、深入的一些信息。本章介绍偏最小二乘回归分析的建模方法;通过例子从预测角度对所建立的回归模型进行比较。§1偏最小二乘回归分析考虑p个因变量pyyy,,,21L与m个自变量mxxx,,,21L的建模问题。偏最小二乘回归的基本作法是首先在自变量集中提出第一成分1t(1t是mxx,,1L的线性组合,且尽可能多地提取原自变量集中的变异信息);同时在因变量集中也提取第一成分1u,并要求1t与1u相关程度达到最大。然后建立因变量pyy,,1L与1t的回归,如果回归方程已达到满意的精度,则算法中止。否则继续第二对成分的提取,直到能达到满意的精度为止。若最终对自变量集提取r个成分rttt,,,21L,偏最小二乘回归将通过建立pyy,,1L与rttt,,,21L的回归式,然后再表示为pyy,,1L与原自变量的回归方程式,即偏最小二乘回归方程式。为了方便起见,不妨假定p个因变量pyy,,1L与m个自变量mxx,,1L均为标准化变量。因变量组和自变量组的n次标准化观测数据阵分别记为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=npnpyyyyFLMML11110,⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=nmnmxxxxELMML11110偏最小二乘回归分析建模的具体步骤如下:(1)分别提取两变量组的第一对成分,并使之相关性达最大。假设从两组变量分别提出第一对成分为1t和1u,1t是自变量集TmxxX),,(1L=的线性组合:XwxwxwtTmm111111=++=L,1u是因变量集TpyyY),,(1L=的线性组合:YvyvyvuTpp111111=++=L。为了回归分析的需要,要求:①1t和1u各自尽可能多地提取所在变量组的变异信息;②1t和1u的相关程度达到最大。由两组变量集的标准化观测数据阵0E和0F,可以计算第一对...