11.5 线性回归

数学学习 · 爱知数学讲义

18
本章目录 · 3 节

本章导读

【11.5 线性回归】本节用R的lm函数拟合回归,按原书保留冰晶生长、汽车价格与商品价格三个例题。线性回归是对回归系数线性,不要求原自变量只能以一次幂出现。散点图、系数检验和模型诊断作用不同,不能用一个很小的斜率p值代替对线性、独立性、方差及误差分布的检查。

【例1 冰晶轴向长度与时间】容器保持−5摄氏度与固定湿度,记录自放入冰晶起的时间T,单位秒,以及轴向长度A,单位微米。43对观察按原书顺序列在下表。按题设回归模型,(1)求回归直线,(2)以0.05检验斜率为零的双侧假设,(3)画散点图及拟合线。

15019231203626020241202536021251202847017261252857022271303168025281303278028291353489021301352599025311402610903132140331195253314531121003034150361310029351503314100333615541151053537155331610532381604017110303916030181102840160371911030411653220115314217035211153643180382211530---
例1 全部43对时间与长度,序号用于保证成对关系;重复时间和完全重合的观察均保留

【R代码】使用time、axis作对象名,避免覆盖T这一TRUE的常见简写;图中仍按原题解释时间与轴向长度。

time <- c(50,60,60,70,70,80,80,90,90,90,95,100,100,100,105,105,110,110,110,115,115,115,120,120,120,125,130,130,135,135,140,140,145,150,150,155,155,160,160,160,165,170,180)

axis <- c(19,20,21,17,22,25,28,21,25,31,25,30,29,33,35,32,30,28,30,31,36,30,36,25,28,28,31,32,34,25,26,33,31,36,33,41,33,40,30,37,32,35,38)

ice <- data.frame(time=time,axis=axis)

fit <- lm(axis~time,data=ice)

summary(fit)

plot(axis~time,data=ice,xlab="Time (s)",ylab="Axial length (micrometres)")

abline(fit)

公式左侧是响应,右侧是解释变量,lm默认包含截距。得到

每增加1秒,拟合条件均值增加约0.130768微米。截距在T=0处的形式数值不自动表示实际初始长度,因为观察时间为50至180秒,零时刻在数据范围以外。

t14.41064881032.14935768516.704630369424.31200744299e-080.1307684306330.01759964214867.430175541584.0980321115e-09
例1 系数估计、标准误、t统计量及双侧p值,与R实际输出对应

斜率标准误约0.0175996421,,自由度41,双侧。拒绝,在题设模型下有证据支持时间与平均轴向长度存在线性关系。这不意味着散点都落在直线上,或模型可以无条件外推。

µm6080100120140160180152025303540
图11-4 冰晶生长的43对观察及全精度拟合直线,横轴秒、纵轴微米;完全重合的观察不加人为偏移

残差标准差约3.721611微米,。斜率显著与解释比例大小是不同信息。summary打印的Residuals五项依次是最小值、第一四分位数、中位数、第三四分位数和最大值,不是五个单独选出的原始残差,也不代表已经完成全部诊断。(例完)

【例2 汽车价格的对数回归】沿用9.3例6,车龄x为1至10年,价格Y按美元数值依次2651,1943,1494,1087,765,538,484,290,226,204。原书本节直接输入四位小数的自然对数7.8827,7.5720,7.3092,6.9912,6.6399,6.2879,6.1821,5.6699,5.4205,5.3181。这里同时列出两种输入,防止把预先舍入造成的差异误认为软件错误。

126517.8826922062897.8827219437.5719884493777.5720314947.3092123656937.3092410876.9911768871216.991257656.6398758338276.639965386.2878585601626.287974846.1820849067176.182182905.6698809229815.669992265.4205349992725.4205102045.3181199938445.3181
例2 原始价格、由原价直接计算的自然对数与原书四位小数输入对照

以原始价格保留精度的R代码

cars <- data.frame(age=1:10,price=c(2651,1943,1494,1087,765,538,484,290,226,204))

fit <- lm(log(price)~age,data=cars)

summary(fit)

由完整精度得到,斜率,自由度8,双侧。回到原变量的指数曲线为

原书用四位小数对数输入,结果为,与它打印的一致。若要复现这一输入而非原价全精度结果,可另执行:

ylog <- c(7.8827,7.5720,7.3092,6.9912,6.6399,6.2879,6.1821,5.6699,5.4205,5.3181)

age <- 1:10

summary(lm(ylog~age))

t8.164584995570.0570505482591143.1114203936.35642756453e-15-0.2976804514620.00919452837948-32.37582605399.0274088056e-108.164606666670.0570449160528143.1259300856.35127603389e-15-0.2976830303030.00919362066725-32.37930311439.01970925939e-10
例2 完整对数与预先舍入对数的回归结果分开标示,不能交叉拼接系数与标准误

若假设对数误差为均值0、方差的正态分布,则指数化的拟合线估计条件中位数;原尺度条件均值是。需要均值预测时应说明回变换校正及其估计方式,不能把直接指数化的值不加说明地叫作平均价格。这里是给定历史教学数据的模型示范,不用于推断现时市场价格。(例完)

【例3 商品价格的二次回归】沿用9.4例题,x为20,25,30,35,40,50,60,65,70,75,80,90,y为1.81,1.70,1.65,1.55,1.48,1.40,1.30,1.26,1.24,1.21,1.20,1.18。拟合。

xy1204001.812256251.73309001.6543512251.5554016001.4865025001.476036001.386542251.2697049001.24107556251.21118064001.2129081001.18
例3 全部12对原始数据及由x精确计算的平方,不手工录入可能错位的平方列

R代码

price <- data.frame(x=c(20,25,30,35,40,50,60,65,70,75,80,90),y=c(1.81,1.70,1.65,1.55,1.48,1.40,1.30,1.26,1.24,1.21,1.20,1.18))

fit <- lm(y~x+I(x^2),data=price)

summary(fit)

I(x^2)使平方按普通算术求值;R公式里的运算符有专门含义,不能把未加I的公式y~x+x^2想当然解释成加入平方项。也可如原书那样先构造数值列x1=x、x2=x的平方,再拟合y~x1+x2;两者设计矩阵列空间相同。

得到

t2.198266287570.022549822644797.4848592926.37902827384e-15x-0.02252235798140.00094243509627-23.89804674141.87856738008e-09I(x^2)0.0001250651784838.65769960681e-0614.44554375451.56395207907e-07
例3 完整精度的三个系数及推断结果,误差自由度9

残差平方和约0.00133712495948,误差均方约0.000148569439943,误差自由度。线性项、平方项的t约−23.89804674、14.44554375,双侧p约、,各自检验是在保留另一个项的条件下进行。

这仍是参数线性模型,只是对原自变量x的关系为二次曲线。原书称之为“原来是非线性回归”,容易与需要非线性参数估计的模型混淆,应明确区分。不要把显示时只有四位有效数字的系数再用于核验残差平方和;实际预测与图形使用完整精度。(例完)

Q1Q341-7.06438695-2.025965410.05103367571.954849826.858665978-0.113260461-0.0577711760.009276009460.03257996770.1303395138-0.113242424-0.05779242420.009267878790.03256318180.1303236369-0.0174762539-0.006508661690.0001297404130.007148247580.0151886653
三例的R残差五数输出及误差自由度,对数例分别保留完整输入与原书舍入输入两行

【函数与复算】lm是小写字母l、m,不是数字1、字母m。summary对lm对象输出估计、标准误、系数t检验及拟合指标;plot与abline分别画观察散点和拟合直线。p小只针对对应系数假设,不证明模型唯一、预测必然准确或关系具有因果性。本节代码已运行,并与独立线性代数计算、残差正交性及t分布尾概率核验。