逐步回归


逐步回归

文章插图
逐步回归逐步回归的基本思想是将变数逐个引入模型,每引入一个解释变数后都要进行F检验,并对已经选入的解释变数逐个进行t检验,当原来引入的解释变数由于后面解释变数的引入变得不再显着时,则将其删除 。以确保每次引入新的变数之前回归方程中只包含显着性变数 。这是一个反覆的过程,直到既没有显着的解释变数选入回归方程,也没有不显着的解释变数从回归方程中剔除为止 。以保证最后所得到的解释变数集是最优的 。
【逐步回归】依据上述思想,可利用逐步回归筛选并剔除引起多重共线性的变数,其具体步骤如下:先用被解释变数对每一个所考虑的解释变数做简单回归,然后以对被解释变数贡献最大的解释变数所对应的回归方程为基础,再逐步引入其余解释变数 。经过逐步回归,使得最后保留在模型中的解释变数既是重要的,又没有严重多重共线性 。
基本介绍中文名:逐步回归
外文名:stepwise regression
效应不显着:停止引入新自变数
需要:进行F检验
简介逐步回归是一种线性回归模型自变数选择方法,其基本思想是将变数一个一个引入,引入的条件是其偏回归平方和经验是显着的 。同时,每引入一个新变数后,对已入选回归模型的老变数逐个进行检验,将经检验认为不显着的变数删除,以保证所得自变数子集中每一个变数都是显着的 。此过程经过若干步直到不能再引入新变数为止 。这时回归模型中所有变数对因变数都是显着的 。逐步型选元法逐步回归法选择变数的过程包含两个基本步骤:一是从回归模型中剔出经检验不显着的变数,二是引入新变数到回归模型中,常用的逐步型选元法有向前法和向后法 。向前法:向前法的思想是变数由少到多,每次增加一个,直至没有可引入的变数为止 。具体步骤如下 。步骤1:对 p 个回归自变数
逐步回归

文章插图
分别同因变数 Y 建立一元回归模型
逐步回归

文章插图
计算变数
逐步回归

文章插图
,相应的回归係数的 F 检验统计量的值,记为
逐步回归

文章插图
,取其中的最大值
逐步回归

文章插图
,即
逐步回归

文章插图
对给定的显着性水平
逐步回归

文章插图
,记相应的临界值为
逐步回归

文章插图

逐步回归

文章插图
,则将
逐步回归

文章插图
引入回归模型,记
逐步回归

文章插图
为选入变数指标集合 。步骤2:建立因变数 Y 与自变数子集
逐步回归

文章插图
的二元回归模型(即此回归模型的回归元为二元的),共有
逐步回归

文章插图
个 。计算变数的回归係数 F 检验的统计量值,记为
逐步回归