吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差

高偏差（欠拟合）：在训练集上表现得也不好

高方差（过拟合）：J_cv要远大于J_train

刚刚好：J_cv和J_train都小

J_cv和J_train与拟合多项式阶数的关系

 从一阶到四阶，训练集的误差越来越小，而验证集的误差先变小后变大

也有可能同时出现高方差和高偏差 

正则化

当 λ 非常大时， w 会非常小， 每个 w 都接近0，模型会是常数 b ，即一条水平线。这种情况下会出现高偏差（欠拟合），并且J_train会很大。

当 λ 为0时，没有正则化，只是拟合一个多项式，会出现过拟合/高方差。此时 J_train 很小但 J_cv 会非常大

 J_train 和 J_cv 与 λ 的关系