线性回归时如何做残差分析

**一、LINE条件**

LINE条件是线性回归模型中一组关键的假设，这些假设对于使用**线性回归模型**进行统计推断和分析非常重要。LINE条件的正确理解涉及以下四个假设：

**01线性关系（Linearity）**：这是线性回归模型的核心假设。它要求因变量（或响应变量）与自变量之间存在线性关系，即自变量的变化与因变量的期望值呈现线性关联。在简单线性回归中，这意味着模型是一条直线；在多元线性回归中，模型是一个线性超平面。

**02独立性（Independence）：**这个假设要求观测值之间应该是独立的，也就是说一个观测值的存在或取值不应该受到其他观测值的影响。这意味着模型的残差（观测值与模型预测值之间的差异）应该是独立的。

**03同方差性（Homoscedasticity）：**同方差性假设要求残差的方差在自变量的各个取值点上保持恒定，即不应该存在明显的异方差性。如果方差在不同自变量值处变化较大，可能需要进行数据变换或考虑其他回归方法。

**04正态残差分布（Normality of Residuals）：**这个假设假定模型的残差（观测值与模型预测值之间的差异）是正态分布的。虽然对于大样本而言，对正态性的要求较宽松，但对小样本数据，正态残差分布假设更为重要。正态分布残差可以用来进行假设检验和构建置信区间。

LINE条件的正确理解对于线性回归模型的有效应用至关重要。如果这些条件不满足，可能需要采取数据变换、应用稳健回归方法或考虑其他类型的回归模型。在实际应用中，对这些假设进行检验和诊断是统计分析的重要一部分，以确保模型的可靠性和有效性。

## **二、残差分析**

残差分析是用于评估统计模型的拟合度和检查模型假设的一种方法。在统计建模中，残差是观测值与模型预测值之间的差异。残差分析有助于确定模型**是否合适**，**是否满足模型假设**，并且可以用于**发现异常值和离群值**

以下是进行残差分析的一般步骤：

**1\. 拟合模型：**首先，需要拟合统计模型，例如线性回归、Logistic回归或其他类型的模型。这将为每个观测值生成预测值。

**2\. 计算残差：**对于每个观测值，计算其残差，即观测值与模型预测值之间的差异。残差通常用下式表示： **残差 = 观测值 - 预测值**

> 我们的预测是不大可能达到与真实值完全一样的，这个真实值只有god才知道，所以会产生一定的误差，我们就用残差来表示这个无法预测的误差。

**3\. 绘制残差图：**绘制残差图，将残差值作为纵轴，自变量值或观测序号作为横轴。残差图有助于可视化残差的分布和模式。常见的残差图包括：

**散点图：**用于检查残差是否随着自变量的变化而呈现某种模式，如线性趋势或非线性模式。

**QQ 图：**用于检查残差是否近似正态分布。

**残差 vs. 预测值图：**用于检查残差是否随着模型的预测值变化而变化。

![](/upload/turndown-pics/20240811/v2-7e0c33748e704362183880930e9fc4ba_b0.jpg)

**4\. 检查残差的正态性：**通过Q-Q 图或柯尔莫诺夫-斯米尔诺夫检验等方法来检查残差是否近似于正态分布。正态分布的残差有助于进行假设检验和构建置信区间。

![](/upload/turndown-pics/20240811/v2-4588ef826b7c049a9f10cdf3665a6377_b1.jpg)

**5\. 检查残差的独立性：**使用残差图或Durbin-Watson检验等方法来检查残差是否具有独立性。独立性是指残差之间没有明显的序列相关性。

![](/upload/turndown-pics/20240811/v2-15b7e93363f52f75177ccc07b1440fce_b2.jpg)

**6\. 检查异方差性：**通过残差图或Levene检验等方法来检查残差的方差是否恒定。异方差性可能会导致参数估计的不准确性，需要进行修正。

![](/upload/turndown-pics/20240811/v2-317c205ed7e609395fad874ba6aea95f_b3.jpg)

**7\. 识别异常值和离群值：**检查残差图以识别是否存在异常值或离群值。这些值可能会对模型产生不合理的影响。

**8\. 模型改进：**如果残差分析发现模型假设不满足或存在问题，可能需要进行模型改进，如添加更多自变量、考虑非线性关系或选择其他类型的模型。

残差分析是统计建模的重要一步，有助于**验证模型的假设**、**评估拟合度**以及**识别问题**。它可以帮助研究人员更好地**理解模型**的表现并采取适当的措施来提高模型的准确性和可靠性。

## **三、实战演练**

研究究高血压患者血压与性别、年龄、身高、体重等变量的关系，随机测量了32名40岁以上的血压y、年龄X1、体重指数X2、性别X3，试建立多因素线性回归方程。

![](/upload/turndown-pics/20240811/v2-d393b1b4c279c024e62a5235554d3e9a_b4.jpg)

![](/upload/turndown-pics/20240811/v2-0a2c1a70d4c1a1e1bf5e7f163226d65d_b5.jpg)

![](/upload/turndown-pics/20240811/v2-968688c56aa66f0c9599414226081663_b6.jpg)

![](/upload/turndown-pics/20240811/v2-67e3771e51aa366504956d10e218b863_b7.jpg)

![](/upload/turndown-pics/20240811/v2-ed39ecd14a81a36ef38a34a524f48d63_b8.jpg)

![](/upload/turndown-pics/20240811/v2-58d9052e698c4c1f367d69e77e3dbb26_b9.jpg)

![](/upload/turndown-pics/20240811/v2-47137bdfddb50525dca4aa1f6d4de90a_b10.jpg)

### **四、结果解读**

![](/upload/turndown-pics/20240811/v2-91ab2158851249cc370692d82ed03a91_b11.jpg)

![](/upload/turndown-pics/20240811/v2-50d56848a976e00d302269a7ce20fedb_b12.jpg)

![](/upload/turndown-pics/20240811/v2-f02b3aeb87d2a261612127f700d50c6c_b13.jpg)

![](/upload/turndown-pics/20240811/v2-fc167d057a1670d6842a89f50dc70ac0_b14.jpg)

![](/upload/turndown-pics/20240811/v2-61f7c35a20b1d25c4b06543e827215cd_b15.jpg)

![](/upload/turndown-pics/20240811/v2-f16dff0c8deb1fc74c41b77a8ed4194d_b16.jpg)

2024-08-11 08:35 by admin 29 0

热门文章