高偏差(欠拟合):在训练集上表现得也不好
高方差(过拟合):J_cv要远大于J_train
刚刚好:J_cv和J_train都小
![吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差](https://img-blog.csdnimg.cn/direct/548a64dbea404513872d10b4ad638eaf.png)
J_cv和J_train与拟合多项式阶数的关系
从一阶到四阶,训练集的误差越来越小,而验证集的误差先变小后变大![吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差](https://img-blog.csdnimg.cn/direct/f9c96f28dc124d2bbb01297532603e3b.png)
也有可能同时出现高方差和高偏差
正则化
当 λ 非常大时, w 会非常小, 每个 w 都接近0,模型会是常数 b ,即一条水平线。这种情况下会出现高偏差(欠拟合),并且J_train会很大。
当 λ 为0时,没有正则化,只是拟合一个多项式,会出现过拟合/高方差。此时 J_train 很小但 J_cv 会非常大
![吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差](https://img-blog.csdnimg.cn/direct/0ab51247fe72446283f2fc6d43bbace8.png)
J_train 和 J_cv 与 λ 的关系
![吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差](https://img-blog.csdnimg.cn/direct/b19f91ca1ccd40a8a5305291dfb57082.png)
还没有评论,来说两句吧...