开始
先从最小二乘法开始讲起吧,我们在拟合数据时,我们常常用到的指标就是最小二乘误差MSE。
我们的目标是最小化MSE:
\(\min \parallel y_{pred} – y_{true} \parallel ^2_2\)
\(y_{pred} = w^T x\)
当我们进行拟合数据时,我们考虑到的是我们模型训练得到的预测y值与真实y值的距离,通过训练得到最小的MSE损失。当我们的数据趋向于线性时,我们采用线性模型就可以有很好的表现。但是当我们的遇到的是下面图片的数据时,我们使用线性模型则会让我们预测时出现很大的偏差。我们采用非线性模型去拟合,就会出现后面两种情况[……]