Hyperparameters tuning in practice: Pandas vs. Caviar

前言

不同領域之間的模型和參數是該如何被引用在不同領域中。

內容

• Re-test hyperparameters occasionally

• 不同領域所應用的技巧或經驗是可以被拿來互相使用的。
• 但最佳的參數值通常是無法借用的。
• 同一個領域的模型，每個一兩個月，應該要隨著數據量的變化，重新測試調整驗證最佳參數值是否有變化。

• 熊貓式:

  • 專注於一個模型，根據需要不斷調整超參數，不斷優化。
  • 適用計算資源有限的人。

• 魚卵式:

  • 同時訓練多個模型(不同的超參數組合)。
  • 適合擁有強大計算資源的人。

該學到的

• 熊貓，魚卵。