回归预测评估指标与XGBoost应用

回归预测评估指标与XGBoost应用

本文围绕「连续值预测」场景（如日客流、销量、气温、股价等），通俗介绍 R²、MAPE 等回归评估指标，XGBoost 在回归与分类中的区别。

---

目录

• 1. 回归任务的两个常用指标：R² 与 MAPE
• 2. XGBoost 做回归还是分类？
• 3. SHAP 与 R² 的区别：解释 vs 评估
• 4. R² 与 F1：回归 vs 分类别选错指标
• 5. 小结

---

1. 回归任务的两个常用指标：R² 与 MAPE

在预测连续值（如明日客流、下周销量、当日气温、股价）时，常用 R² 和 MAPE 衡量模型好坏。

1.1 R²（决定系数）—— 模型能解释多少变化？

通俗理解：R² 表示模型对目标变量波动的「解释能力」有多强，取值范围通常为 0～1（越接近 1 越好，有时可为负，表示比用均值预测还差）。

• R² = 0.92 可理解为：目标变量（如某门店日客流）的历史波动中，有 92% 能被模型（基于历史客流、天气、节假日等特征）解释，剩下 8% 视为未被捕捉的随机因素。
• 类比：像考试总分——模型比「直接用平均值猜」强多少。

典型解读（以「门店 A 客流 R²=0.92、门店 B 客流 R²=0.88」为例）：

• 门店 A 规律性强，易被模型捕捉（如选址固定、客群稳定）。
• 门店 B 略低，说明受更多随机因素影响（如促销、周边活动、竞争等）。

经验参考：R² > 0.8 可认为优秀，0.6～0.8 为良好。

1.2 MAPE（平均绝对百分比误差）—— 平均偏差占真实值的百分之几？

通俗理解：预测值与真实值之差的绝对值，占真实值的比例，再求平均，得到的是「平均相对误差」的百分比。

• 例如 MAPE = 3% 表示：模型预测值平均相对真实值偏离约 3%。
• 优点：单位是 %，直观；且不受量纲影响，适合跨门店、跨指标比较。
• 注意：若真实值接近 0，MAPE 会很大（分母小）；客流、销量、气温、股价等一般远离 0，通常适用。

与 R² 搭配使用：

• R² 高 → 模型「解释力」强。
• MAPE 低 → 模型「误差」小。
• 例如：门店 A 的 R²=0.92、MAPE=2.1%；门店 B 的 R²=0.88、MAPE=3.5%，可说明对 A 的预测既准又稳。

1.3 对比小结

指标	全称	含义	越…越好	典型用法
R²	决定系数	模型能解释目标变量变化的比例	越大（≤1）	整体拟合优度
MAPE	平均绝对百分比误差	平均预测偏差占真实值的百分比	越小（≥0）	误差大小、跨场景比较

---

2. XGBoost 做回归还是分类？

结论：XGBoost 既可以做分类（输出类别或概率），也可以做回归（输出连续值），区别主要在于目标函数（objective） 和封装接口。

2.1 直观区别

• 分类：输出离散结果，如「明天客流涨还是跌」「是否高温」。
• 回归：输出连续数值，如「明天客流约 3200 人」「明日最高温 28.3℃」。

2.2 技术上的关键区别

项目	分类（Classification）	回归（Regression）
目标变量类型	离散（0/1 或多类别）	连续（如客流、温度、价格）
常用 objective	binary:logistic、multi:softmax 等	reg:squarederror（默认）等
损失函数	逻辑损失（Log Loss）	平方误差（MSE）、绝对误差（MAE）等
输出含义	概率或类别标签	具体数值

2.3 预测连续值时应使用回归接口

以「预测明日客流」为例，应使用 XGBRegressor（回归）：

import xgboost as xgb

# 回归：预测连续客流
model = xgb.XGBRegressor(
    objective='reg:squarederror',
    n_estimators=100,
    max_depth=6
)
model.fit(X_train, y_train)   # y_train 为连续值，如 [3200, 2850, 4100, ...]
y_pred = model.predict(X_test)

若任务改为「预测明日客流是否上涨」（是/否），则用 XGBClassifier 与分类目标（如 binary:logistic）。

2.4 回归任务下的注意点

• 评估指标用 R²、MAE、MAPE、RMSE，不用准确率（Accuracy）。
• 若目标值跨度很大，可考虑对 y 取对数再训练。
• 默认平方误差对异常值敏感；噪声大时可尝试 reg:absoluteerror。

---

3. SHAP 与 R² 的区别：解释 vs 评估

一句话：R² 衡量模型整体准不准，SHAP 解释模型为什么这样预测。

3.1 R² —— 整体性能的标尺

• 作用：评估模型在整个数据集上的预测能力。
• 输出：一个数字（如 0.92）。
• 不能回答：哪些特征重要？某次预测为何是 3200？某个特征把预测推高还是拉低？

3.2 SHAP —— 单次预测与整体逻辑的显微镜

• 作用：解释每个特征对每个预测的贡献（正/负、大小）。
• 输出：每个样本上每个特征的 SHAP 值，可画瀑布图、蜂群图等。
• 能回答：哪些特征最重要？今天预测偏高是因为「节假日」还是「天气」？某门店的客流是否主要受促销影响？

通俗例子（预测某日客流 3200 人）：

• 基础值（全体平均）：2800
• 节假日特征：+280
• 天气晴好：+120
• 近期促销结束：-100
  → 2800 + 280 + 120 - 100 = 3100（示意），SHAP 给出各特征的加减项。

3.3 对比小结

维度	R²	SHAP
目的	评估整体性能	解释预测逻辑
输出	一个数（如 0.92）	每特征每样本的贡献值
关注点	准不准？	为什么这样预测？
典型用途	模型是否可信、是否比 baseline 好	业务解释、特征合理性、策略依据

结论：R² 回答「能不能用这个模型」，SHAP 回答「怎么用这个模型做决策」；二者互补，高 R² 保证可靠性，SHAP 提供可解释性与业务洞察。

---

4. R² 与 F1：回归 vs 分类别选错指标

原则：先分清任务是回归还是分类，再选指标。

4.1 任务类型与适用指标

任务类型	目标	典型问题	主要评估指标
回归	预测连续值	客流多少？销量多少？温度多少？	R²、MAE、MAPE、RMSE
分类	预测类别	涨/跌？是/否？A/B/C 类？	准确率、精确率、召回率、F1、AUC

• R² 只用于回归；F1 只用于分类，二者不可混用。

4.2 F1 简要说明（分类场景）

• 精确率（Precision）：预测为正的样本中，有多少真是正类。
• 召回率（Recall）：真实正类中，有多少被模型找出来。
• F1：精确率与召回率的调和平均，适合正负样本不平衡时（如「客流是否大涨」中大涨样本很少）。

4.3 回归常用指标速览

指标	特点	适用场景
MAE	误差绝对值平均，单位与目标一致	误差解释直观（如 ±200 人）
MAPE	误差占真实值的百分比	跨门店、跨指标比较
RMSE	对大误差更敏感	需要惩罚大偏差时
R²	解释目标变化的比例	整体拟合优度

4.4 如何选择？

你的任务	应选指标
预测具体数值（客流、销量、温度、股价）	R² + MAPE（建议同时看）
预测是否发生某类事件（如是否大涨、是否高温）	F1、AUC 或准确率（视样本是否均衡）

注意：不要用 F1 评估连续值预测，也不要用 R² 评估分类模型；选错指标等于用错尺子，结果再好看也没有可比意义。