📖线性回归基本原理

💡 什么是线性回归？

线性回归是机器学习中最基础的监督学习算法。它找到一条最佳拟合直线描述x与y的关系：y = wx + b。

🎯 核心思想：最小二乘法

目标是找到(w,b)使得所有数据点到直线的垂直距离平方和最小。这个平方和即损失函数（MSE）。

  • ✅模型简单直观，易于理解和解释
  • ✅有解析解（正规方程），也可梯度下降求解
  • ✅计算效率高，适合大规模数据
  • ✅是理解深度学习的基础
// 损失函数：均方误差 (MSE) J(w,b) = (1/n) * Σ(yᵢ - (w·xᵢ + b))² // R² 决定系数 R² = 1 - SS_res / SS_tot // 梯度下降更新公式 w := w - α * ∂J/∂w b := b - α * ∂J/∂b

📈 散点图与拟合线动画

观察拟合线如何逐步逼近最优解

⚙️ 算法流程

1 收集观测数据点 (xᵢ, yᵢ)
2 定义损失函数 J(w,b) = MSE
3 梯度下降 / 正规方程求解
4 得到(w*,b*)，绘制拟合直线