迴圈神經網路RNN的誕生,主要是為了解決卷積神經網路CNN所不能處理的長期前後文聯絡
在學習迴圈神經網路RNN的時候,我們需要了解其網路結構,解決問題,優缺點,主要應用領域等。
1.什麼叫做迴圈神經網路?
迴圈神經網路RNN作為一種特殊的神經網路,能夠基於其獨特的網路結構連線上下文,基於過往的經驗和知識,不同於CNN以及DNN的點在於,它不僅僅考慮前一時刻的輸入,還會涉及更早時期的輸入。
2.網路結構
3.優缺點
RNN的優點在於能夠透過其特殊的網路結構,利用內部的記憶來處理任意時序的輸入序列,在處理單元間時既有內部反饋,又有前期反饋,使得其更容易處理不分段文字。
缺點在於RNN只能對部分序列進行記憶,所以在長序列上表現遠不如短序列,就會形成了一旦序列過長那就使得準確率下降。
4.主要應用領域
語音識別,機器翻譯,計算文字相似度,自然語言處理等。
以上觀點若有不足,還請指正^_^
最後給大家推薦兩本經典書籍
1.花書《深度學習:自適應計算和機器學習系列(Deep Learning (Adaptive Computation and Machine Learning series))》
2.魚書《深度學習基礎:設計下一代機器智慧的演算法(Fundamentals of Deep Learning: Designing Next-Generation Machine Intelligence Algorithms)》
迴圈神經網路RNN的誕生,主要是為了解決卷積神經網路CNN所不能處理的長期前後文聯絡
在學習迴圈神經網路RNN的時候,我們需要了解其網路結構,解決問題,優缺點,主要應用領域等。
1.什麼叫做迴圈神經網路?
迴圈神經網路RNN作為一種特殊的神經網路,能夠基於其獨特的網路結構連線上下文,基於過往的經驗和知識,不同於CNN以及DNN的點在於,它不僅僅考慮前一時刻的輸入,還會涉及更早時期的輸入。
2.網路結構
3.優缺點
RNN的優點在於能夠透過其特殊的網路結構,利用內部的記憶來處理任意時序的輸入序列,在處理單元間時既有內部反饋,又有前期反饋,使得其更容易處理不分段文字。
缺點在於RNN只能對部分序列進行記憶,所以在長序列上表現遠不如短序列,就會形成了一旦序列過長那就使得準確率下降。
4.主要應用領域
語音識別,機器翻譯,計算文字相似度,自然語言處理等。
以上觀點若有不足,還請指正^_^
最後給大家推薦兩本經典書籍
1.花書《深度學習:自適應計算和機器學習系列(Deep Learning (Adaptive Computation and Machine Learning series))》
2.魚書《深度學習基礎:設計下一代機器智慧的演算法(Fundamentals of Deep Learning: Designing Next-Generation Machine Intelligence Algorithms)》