当前位置: 首页 > >

心理与教育统计学第12章线性回归剖析

发布时间:

第十二章 线性回归 第一节 线性回归模型的建立方法 第二节 回归模型的检验与评估 第三节 回归方程的应用 第一节 线性回归模型的建立方法 ? ? 类别: 1.自变量数目: 一元回归(一个自变量) 多元回归(多个自变量) ? 2.变量间关系: 线性回归(直线关系) 非线性回归 注意:回归分析中只能有一个因变量 一、回归分析与相关分析的关系 1、用一定模型来表述变量相关关系的方法称为回归 分析。 2、从广义上说,相关分析包括回归分析。但二者有 区别:回归分析是以数学方式表示变量间的关系, 而相关分析则是检验或度量这些关系的密切程度, 两者相辅相成。 相关与回归是从不同角度对变量间关系的分析: 相关关系是两个变量之间的双向关系,没有 主从之分; 回归关系是两个变量之间的单向关系,是自 变量对因变量的影响关系。相关关系用相关系数 来表示,而回归关系用数学模型来表示,这种数 学模型称为回归方程。 二、回归分析的内容 1、建立回归方程 2、检验方程的有效性 3、利用方程进行预测 三、回归模型与回归系数 1.用来表达变量之间规律的数学模型称为回归模型。 2.回归模型的分类 (1)线性回归模型、非线性回归模型 (2)简单回归模型、多重回归模型 (3)一元线性回归是指只有一个自变量的线性回归 (linear regression),对具有线性关系的两个变 量,回归的目的首先是找出因变量(一般记为Y)关 于自变量(一般记为X)的定量关系。 3、一元线性回归方程 对应于X的Y 变量的估计值 该直线在Y轴的 截距 Y ? a ? bX 回归方程有两个: ^ 该直线的 斜率 ? Y ① 以X为自变量预测因变量时,方程为: ② 以Y为自变量预测因变量时,方程为 :? ? bXY X ? a XY X ? bXY Y ? a XY 四、一元线性回归模型建立方法 例12-1:下表中10对数据是为确定某心理量与物 理量之间的关系而做的实验结果(表中物理量是取 对数后的值)。假设两者呈线性关系,试以这10对 数据结果建立该心理量与物理量的回归方程。 被试 A B 1 C 3 D 3 E 4 F 5 G 6 H 7 I 8 J 9 心理量(X) 1 物理量(Y) 0 2 1 5 4 2 6 2 5 7 (一)*均数方法 解:将N对数据按奇偶顺序分为两组,然后分别代入 设定的回归方程求和,计算b和a 第一组(奇数组) 1=a+0·b 3=a+1·b 4=a+4·b 6=a+6·b 8=a+5·b 22=5a+16·b… ⑴ 第二组(偶数组) 1=a+2· b 3=a+5· b 5=a+2· b 7=a+2· b 9=a+7· b 25=5a+18·b…⑵ ⑴与⑵联立,成二元一次方程组: 22=5a+16·b… ⑴ 25=5a+18·b…⑵ 解得a=-0.4,b=1.5,代入设定的方程 Y ? 0.4 ? 1.5 X ^ 答:该心理量与物理量的回归方程为 Y ? 0.4 ? 1.5 X ^ (二)最小二乘法 1、定义:所谓最小二乘法,就是如果散点图中 每一点沿Y轴方向到直线的距离的*方和最小, 就是使误差的*方和最小,则在所有直线中这 条直线的代表性是最好的,它的表达式就是所 要求的回归方程。 2.最小二乘法的原理 设方程 Y ? a ? bX ^ 每一点到直线沿Y轴方向的距离*方和为: ^ ? ? ? ?Y i ?Y i ? ? ? ?Y i ?a ?b X i ? ? ? N 1 N 1 2 2 求回归方程就是求当该公式达到最小时a和b的值, 而要是公式为最小,只需分别对a和b求偏导数,并 令其等于零。即 2 ? ? ? ? ?? ?Y i ?a ?b X i ? ? ? ?Y i ?a ?b X i ? ? ? ? 2 ?a ?0 ? ?? ? ? ?b ?0 经整理,并省略X与Y字母下面的下标, 上面 两式分别写成: N ? a ? b? X ? ? Y a ? X ? b? X ? ? X ? Y 2 两边同除以N,得 ? X ? X ??Y ? Y ? ? b? ? X ?X ? ? 2 a ? Y ? bX 例12-2:根据例12-1中的数据,使用最小二乘 法求回归方程。 代入公式 X ? 3.4, Y ? 4,7 ?X ? X ??Y ? Y ? b? ? 2 ? ?X ? X ? 得b=0.81 再代入公式 a ? Y ? b X 得a=1.95 则,回归方程为: Y ? 1.95 ? 0.81 X ^ 五、回归系数与相关系数的关系 bYX ? ?( X ? X )(Y ? Y ) ?( X ? X ) 2 ??X ? X ??Y ? Y ?? ? ?Y ? Y ? ??X ? X ? ? ??X ? X ? ? ? ?Y ? Y ? 2 2 2 ? 2 ?r ? ?Y ? Y ? ??X ? X ? 2 2 SY ?r SX ∵ bYX 同理 bXY SY ?( X ? X )(Y ? Y ) ?r ? 2 SX ?( X ? X ) SX ?( X ? X )?Y ? Y ? ?r ? 2 SY ?(Y ? Y ) ∴ r? b Y?X ? b X ?Y 六、线性回归的基本假设 1.线性关系假设 2.正态性假设 3.独立性假设 X1,Y1与X2,Y2独立,依次类推 误差项独立 4.误差等分散性假设 误差项总和等于0 1、线性关系假设 2、正态性假设 3、独立性假设 4、误差等分散性假设 第二节 回归模型的检验与估计 一、回归模型的有效性检验 1、回归模型的有效性检验,就是对求得的回归方程进行显 著性检验,看是否真实地反映了变量间的线性关系。 2、方法 线性回归模型的有效性检验通常使用方差分析



友情链接: