Deep RNNs

前言

有多層級的RNN，即時是單一層的RNN，也需要多個時間層。

內容

• Deep RNN Examples

  

• 在每個橫向的時間層，也有縱向的隱藏層。
• ex. 第二個隱藏層中的第三個時間層a23，是如何被決定的，是根據a22,a13進行線性組合所決定的。

  • 第二個隱藏層中的第二個時間層a22。
  • 第一個隱藏層中的第三個時間層a13。

• 因為有橫向的時間層，所以縱向的隱藏層通常不會太多(大概3層)，不然計算量會很大，如果真的還要更深，可以在之後更深的隱藏層中直接拋棄時間層的計算，只針對隱藏層所計算，來減少計算量。

該學到的

• Deep RNNs中每一個unit是如何被計算的。