Bias / Variance

前言

什麼是Bias 和 Variance

內容

• Bias and Variance

• bias和variance是天平的兩端，偏向某一端對模型的結果都是不好的，想辦法保持天秤的的平衡。
• high bias

  • underfitting
  • 沒抓到數據的主要特徵

• high variance

  • overfitting
  • 太注意一些輕微的特徵，導致模糊數據的主要特徵。

• just right

  • low bias 抓住數據的主要特徵。
  • low variance 不會太注意哪些噪音數據，而模糊主要特徵。

• 1% vs 11%

  • overfitting，訓練表現很好但驗證表現很糟。

• 15% vs 16%

  • underfitting，訓練跟驗證都很糟，但訓練跟驗證的差異不大。

• 15% vs 30%

  • overfitting & underfitting，訓練跟驗證都很糟，且訓練跟驗證的差異很大。

• 0.5% vs 1%

  • 表現棒棒 !

• High bias and high variance

• 虛線部分就是我們要的，正確抓住數據的主要特徵。

該學到的

• 瞭解Bias和Variance之間的關係。