長短期記憶（LSTM）是一種非常重要的神經網路技術，其在語音識別和自然語言處理等許多領域都得到了廣泛的應用。

我第一次學習LSTM的時候，它就吸引了我的眼球。然而並不是那種看到果凍甜圈圈時候的驚喜的形式。事實證明LSTM是對神經網路的一個相當簡單的擴充套件，而且在最近幾年裡深度學習所實現的驚人成就背後都有它們的身影。所以我會盡可能直觀地來呈現它們——以便你們自己就可以弄明白。

首先，讓我們來看一幅圖：

LSTM很漂亮吧？讓我們開始吧！（提示：如果你已經熟知神經網路和LSTM，請直接跳到中間部分，本文的前半部分是一個入門。）

神經網路

想象一下，我們有一部電影的影象序列，我們想用一個活動來標記每一副影象（例如，這是一場戰鬥嗎？圖中的人物在交談嗎？圖中的人物在吃東西嗎......）我們如何做到這一點呢？一種方法就是忽略影象的順序本質，構造將每幅影象單獨考慮的影象分類器。例如，在提供足夠多的影象和標籤時：

我們的演算法首先檢測到較低水平的模式，例如形狀和邊緣。在更多的資料下，它可能學會將這些模式組合成更加複雜的模式，例如人臉（兩個圓形東西下面有一個三角形的東西，下面還有一個橢圓形的東西），或者貓。甚至在更多的資料下，它可能學會把這些高水平的模式對映到活動本身（具有嘴巴、牛排和叉子的情景可能與吃有關）。

數學描述

我假定讀者早已熟悉了基本的神經網路，下面讓我們來快速地複習一下吧。

只有一個單獨的隱藏層的神經網路將一個向量x作為輸入，我們可以將它看做一組神經元。每個輸入神經元都被透過一組學習得到的權重連線到隱藏層。第j個隱藏神經元的輸出如下：（其中ϕ 是一個啟用函式）隱藏層是全連線到輸出層的，第j個輸出神經元的輸出yj如下：如果我們需要輸出機率，我們可以透過softmax函式對輸出做一下變換。

寫成矩陣形式如下：

其中

x是輸入向量W 是連線輸入和隱藏層的權重矩陣V是連線隱藏層和輸出的權重矩陣常用的啟用函式ϕ分別是sigmoid 函式σ(x)，它可以將數字壓縮在（0,1）的範圍；雙曲正切函式（hyperbolic tangent）tanh(x)，它將數字壓縮在（-1,1）的範圍；以及修正線性單元函式（rectified linear unit）函式，ReLU(x)=max(0,x)。

下面用一幅圖來描述神經網路：

（注意：為了使符號更加簡潔，我假設x 和h各包含一個代表學習偏差權重的固定為1的附加偏置神經元（bias neuron）。）

使用迴圈神經網路（RNN）記憶資訊

然而忽略電影影象的序列資訊只是最簡單的機器學習。如果我們看見了一副沙灘的景象，我們應該在之後的幀裡強調沙灘的活動：某人在水中的圖片應該被更多可能地標記為游泳，而不是洗澡；某人閉著眼睛躺著的圖片應該被更多地標記為日光浴。如果我們記得Bob剛剛到了一家超市，那麼即使沒有任何特別的超市特徵，Bob拿著一塊培根的照片應該更可能地被歸類為購物而不是烹飪。So what we"d like is to let our model track the state of the world:所以我們想要的就是讓我們的模型去追蹤這個世界的狀態：

在看完每一張圖片之後，模型會輸出一個標籤，也會更新關於這個世界的知識。例如，模型可能學會自動地發現和追蹤位置（目前的場景是在室內還是在沙灘？）、一天中的時間（如果場景中包含月亮，那麼模型應該記住現在是晚上）以及電影中的進度（這是第一張圖還是第100幀？）等資訊。至關重要的是，就像神經網路能夠在沒有被饋送資訊的情況下自動地發現隱藏的邊緣、形狀以及人臉等影象一樣，我們的模型也應該依靠它們自己來發現一些有用的資訊。在被給定一張新圖片的時候，模型應該結合已經收集到的知識來做出更好的工作。

這就是一個迴圈神經網路（RNN）。除了簡單地輸入一幅影象並返回一個活動標籤，RNN也會維護內部關於這個世界的知識（就是分配給不同資訊片段的權重），以幫助執行它的分類。

數學描述

所以，讓我們把內部知識（internal knowledge）的概念加入到我們的方程中吧，我們可以將內部記憶看做網路會隨著時間進行維護的資訊片段的記憶。

但是這是容易的：我們知道神經網路的隱藏層早已將輸入的有用資訊做了編碼，所以我們為何不把這些隱藏層作為記憶呢？這就有了我們的RNN方程：

注意在時間t計算得到的隱藏狀態ht（ht就是我們這裡的內部知識）會被反饋到下一個時間。（另外，我會使用例如隱藏狀態、知識、記憶以及信念這樣的詞語來變換地描述ht）

透過LSTM來實現更長時間的記憶

讓我們來思考一下模型是如何更新關於這個世界的知識的。到目前為止，我們還沒有給這種更新施加任何限制，所以它的知識可能變得非常混亂：在一幀影象裡面它會認為人物在美國，在下一幀它看到人在吃壽司，就會認為人是在日本，在其後的一幀它看到了北極熊，就會認為他們是在伊茲拉島。或者也許它有大量的資訊表明Alice是一名投資分析師，但是在它看到了她的廚藝之後它就會認定她是一名職業殺手。

這種混亂意味著資訊在快速地轉移和消失，模型難以保持長期的記憶。所以我們想要的是讓網路學會如何讓它以一種更加溫和的方式來進化自己關於這個世界的知識，從而更新自己的信念（沒有Bob的場景不應該改變關於Bob的資訊包含Alice的場景應該聚焦於收集關於她的一些細節資訊）。

下面是我們如何做這件事的4種方式：

新增一個遺忘機制（forgetting mechanism）：如果一個場景結束了，模型應該忘記當前場景中的位置，一天的時間並且重置任何與場景相關的資訊；然而，如果場景中的一個人死掉了，那麼模型應該一直記住那個死去的人已經不再活著了。因此，我們想要模型學會一種有區分的遺忘/記憶機制：當新的輸入到來時，它需要知道記住哪些信念，以及丟棄哪些信念。新增一個儲存機制（saving mechanism）：當模型看到一副新的圖片時，它需要學習關於這張圖片的資訊是否值得使用和儲存。或許你媽媽給了你一片關於凱莉·詹娜的文章，但是誰會在乎呢？所以當新的輸入來臨時，模型首先要忘掉任何它認為不再需要的長期記憶資訊。然後學習新輸入的哪些部分是值得利用的，並將它們儲存在自己的長期記憶中。將長期記憶聚焦在工作記憶中：最後，模型需要學習長期記憶中的哪些部分是即刻有用的。例如，Bob的年齡可能是一條需要長期保持的資訊（兒童很可能正在玩耍，而成年人很可能正在工作），但是如果他不在當前的場景中，那麼這條資訊很可能就不是特別相關。所以，模型學習去聚焦哪一部分，而不總是使用完全的長期記憶。

這就是一個長短期記憶網路（long short-term memory network）。LSTM會以一種非常精確的方式來傳遞記憶——使用了一種特定的學習機制：哪些部分的資訊需要被記住，哪些部分的資訊需要被更新，哪些部分的資訊需要被注意。與之相反，迴圈神經網路會以一種不可控制的方式在每一個時間步驟都重寫記憶。這有助於在更長的時間內追蹤資訊。

數學描述

讓我們來對LSTM做一下數學描述。

在時間t，我們收到了新的輸入xt。我們也有自己的從之前的時間步中傳遞下來的長期記憶和工作記憶，ltm（t−1）以及wm（t−1）（兩者都是n維向量），這就是我們想要更新的東西。

我們將要開始我們的長期記憶。首先，我們需要知道哪些長期記憶需要保持，哪些需要丟棄，所以我們想要使用新的輸入和我們的工作記憶來學習一個由n個介於0和1之間的數字組成的記憶門，每一個數字都決定一個長期記憶的元素被保持多少。（1意味著完全保持，0意味著完全丟棄。）

自然地我們可以使用一個小型神經網路來學習這個記憶門：

（注意與我們之前的神經網路方程的相似性；這只是一個淺層的神經網路。並且，我們使用了sigmoid啟用函式，因為我們需要的數字是介於0和1之間的。）

接下來，我們需要計算我們能夠從xt中學習到的資訊，也就是我們長期記憶中的候選者：

ϕ是一個啟用函式，通常選擇雙曲正切函式。

然而，在我們將這個候選者加進我們的記憶之前，我們想要學到哪些部分是實際上值得使用和儲存的：

現在讓我們把所有這些步驟結合起來。在忘掉我們認為將來不會再次用到的資訊以及儲存有用的新來的資訊之後，我們就有了更新的長期記憶：

其中∘代表逐元素相乘。

接下來，來更新我們的工作記憶：我們想要學習如何將我們的長期記憶專注於那些將會即刻有用的資訊上。（換句話說，我們想要學習將哪些資訊從外部硬碟移動到正在工作的筆記本記憶體上。）所以我們會學習一個聚焦/注意向量（focus/attention vector）：

然後我們的工作記憶就成為了：

換言之，我們將全部注意集中在focus為1的元素上，並且忽略那些focus是0的元素。然後我們對長期記憶的工作就完成了！也希望這能夠稱為你的長期記憶。

總結：一個普通的RNN用一個方程來更新隱藏狀態/記憶：

而LSTM使用數個方程：

其中每一個記憶/注意子機制只是LSTM的一個迷你形式：

（注意：我在這裡使用的術語和變數的名字和通常文獻中是有所不同的。以下是一些標準名稱，以後我將會交換使用：

長期記憶 ltm(t), 通常被稱為cell state,簡寫 c(t).工作記憶wm(t)通常被稱為hidden state, 簡寫 h(t)。這個和普通RNN中的隱藏狀態是類似的。記憶向量remember(t)，通常被稱為forget gate (儘管遺忘門中，1仍舊意味著完全保持記憶0意味著完全忘記)，簡稱 f(t)。儲存向量save(t)，通常被稱為input gate，（因為它決定輸入中有多少被允許進入cell state） ，簡稱i(t) 。注意向量focus(t)， 通常被稱為output gate，簡稱o(t)。卡比獸

寫這篇博文的時間我本可以抓一百隻Pidgeys，請看下面的漫畫。

神經網路：

神經網路會以0.6的機率判定輸入圖片中的卡比獸正在淋浴，以0.3的機率判定卡比獸正在喝水，以0.1的機率判定卡比獸正在遭遇襲擊。

迴圈神經網路

LSTM

具備長期記憶的LSTM，在記憶了多種相關資訊的前提下，將對卡通圖畫中的場景描述準確的機率提高到了0.9。

學會程式設計

讓我們來看一下一個LSTM可以做到的一些例子吧。遵循著Andrej Karpathy的精湛的博文（http://karpathy.github.io/2015/05/21/rnn-effectiveness/ ），我將使用字元級別的LSTM模型，這些模型接受字元序列的輸入，被訓練來預測序列中的下一個字元。

雖然這看起來有點玩笑，但是字元級別的模型確實是非常有用的，甚至比單詞級別的模型更加有用。例如：

試想一個自動程式設計器足夠智慧，能夠允許你在你的手機上程式設計。從理論上講，一個LSTM模型能夠追蹤你當前所在函式的返回型別，可以更好地建議你返回那個變數；它也能夠在不經過編譯的情況下透過返回的錯誤型別就知道你是不是已經造成了一個bug。像機器翻譯這樣的自然語言處理應用在處理罕見詞條的時候經常會出現問題。你如何翻譯一個從未見過的單詞呢，或者你如何將一個形容詞轉換成動詞呢？即使你知道一條推文的意思，你如何生成一個新的標籤來描述它呢？字元級別的模型可以空想出新的項，所以這是另外一個具有有趣應用的領域。

所以就開始了，我啟動了一個EC2 p2.xlarge spot例項，並在Apache Commons Lang程式碼庫（連結：https://github.com/apache/commons-lang）上訓練了一個3層的LSTM模型。 以下是幾個小時後生成的程式：

儘管這段程式碼確實不是完美的，但是它比很多我認識的資料科學家要做的好一些。我們可以發現LSTM已經學會了很多有趣的（也是正確的！）程式設計行為。

它懂得如何構造類： 最頂部有license相關的資訊，緊跟著是package和import，再然後是註釋和類的定義，再到後面是變數和函式。類似地，它知道如何建立函式：註釋遵循正確的順序（描述，然後是@param，然後是@return，等等），decorator被正確放置，非空函式能夠以合適的返回語句結束。關鍵是，這種行為跨越了大篇幅的程式碼——你看圖中的程式碼塊有多大！它還能夠追蹤子程式和巢狀級別：縮排總是正確的，if語句和for迴圈總能夠被處理好。它甚至還懂得如何構造測試。

那麼模型是如何做到這一點的呢？讓我們來看一下幾個隱藏狀態。

下面是一個貌似在追蹤程式碼外層縮排的神經元（當讀取字元作為輸入的時候，也就是說，在嘗試生成下一個字元的時候，每一個字元都被著上了神經元狀態的顏色；紅色的單元是負的，藍色的單元是正的）：

下面是一個統計空格數量的神經元：

娛樂一下，下面是在TensorFlow程式碼庫上訓練得到的另一個不同的3層LSTM模型的輸出：

研究LSTM的內部

讓我們再稍往深處挖掘一下。我們看一下上一部分隱藏狀態的例子，但是我也想玩轉LSTM cell狀態以及其他的記憶機制。 我們期待著，它們會迸發出火花呢，還是會有令人驚喜的畫面？

計數

為了研究，讓我們從教一個LSTM計數開始。（你應該還記得Java和Python的LSTM模型是如何生成合適的縮排的！）所以我生成了如下形式的序列：aaaaaXbbbbb

（N個字母「a」，後面跟著一個字母分隔符X，後面是N個字母「b」，其中1 <= N <= 10），然後訓練一個具有10個隱藏神經元的單層LSTM。

不出所料，LSTM模型在訓練期間完美地學習--甚至能夠將生成推廣到幾步之外。（即使在開始的時候當我們嘗試讓它記到19的時候它失敗了。）aaaaaaaaaaaaaaaXbbbbbbbbbbbbbbbaaaaaaaaaaaaaaaaXbbbbbbbbbbbbbbbbaaaaaaaaaaaaaaaaaXbbbbbbbbbbbbbbbbbaaaaaaaaaaaaaaaaaaXbbbbbbbbbbbbbbbbbbaaaaaaaaaaaaaaaaaaaXbbbbbbbbbbbbbbbbbb # Here it begins to fail: the model is given 19 "a"s, but outputs only 18 "b"s.

我們期望找到一個隱藏狀態神經元，它能夠在我們觀察模型內部的時候計出每一個a的數目。正如我們做的：

我開發了一個可以讓你玩轉LSTM的小型的web app，神經元 #2貌似既能夠記錄已經看到的a的數目，也能記錄已經看到的字元b的數目（http://blog.echen.me/lstm-explorer/#/neuron?file=counter&layer=1&n=2）。（請記得，單元的顏色是根據啟用程度著色的，從深紅色的[-1]到深藍色的[+1]。）What about the cell state? It behaves similarly:那麼cell的狀態是怎麼樣的呢？它的行為類似於這樣：

有趣的是，工作記憶就像是長期記憶的「銳化版」。但是這個在一般情況是否成立呢？

這確實是成立的。（我正是我們所期望的，因為長期記憶被雙曲正切啟用函式進行了壓縮，而且輸出門限制了透過它的內容。）例如，下圖是所有的10個cell在某一時刻的狀態。我們看到了大量的顏色很清淡的cell，這代表它們的值接近0。

相比之下，10個工作記憶的神經元看起來更加聚焦。第1、3、5、7個神經元甚至在序列的前半部分全是0。

讓我們再回頭看一下神經元 #2。這裡有一些候選的記憶和輸入門。它們在每個序列的前半部分或者後半部分都是相對不變的——就像神經元在每一步都在進行a+=1或者a-=1的計算。

最後，這裡是神經元2的整體概覽：

如果你想自己研究一下不同計數神經元，你可以在這個視覺化web app中自己玩一下（http://blog.echen.me/lstm-explorer/#/network?file=counter）。

（注意：這遠遠不是一個LSTM模型可以學會計數的唯一方式，我在這裡只描述了一個而已。但是我認為觀察網路行為是有趣的，並且這有助於構建更好的模型；畢竟，神經網路中的很多思想都是來自於人腦。如果我們看到了意料之外的行為，我們也許會有能力設計出更加有效地學習機制。）

來自計數的計數

讓我們來看一下一個稍微有點複雜的計數器。這次，我生成了如下的序列形式：aaXaXaaYbbbbb

（N個a中間隨機地插入X，後邊跟一個分隔符Y，再後邊是N個b。）LSTM仍然必須數清楚a的數目，但是這一次需要忽略X的數目。

在這個連結中檢視整個LSTM（http://blog.echen.me/lstm-explorer/#/network?file=selective_counter）我們希望看到一個正在計數的神經元——一個正在計數的、每看到一個X輸入門就變成0的神經元。在我們做到了！

上圖是neuron 20的cell狀態。它的值一直保持增大，直到遇到分割字元Y，然後就一直減小，直到序列的末尾——就像在計算一個隨著a增大，隨著b減小的變數

如果我們觀察它的輸入門，會看到它確實是將X的數量忽略了：

然而，有趣的是，候選的記憶會在有關聯的X上被完全啟用--這證明了為什麼需要哪些輸入門。（但是，如果輸入門不是模型架構的一部分，至少在這個簡單的例子中，網路也會以其他的方式忽略X的數量。）

我們再來看一下神經元10。

這個神經元是有趣的，因為它僅僅在讀取到Y的時候才會被啟用—然而它還是能夠對序列中遇到的a字元進行編碼。（在圖中可能很難區分出來，但是序列中a的數目一樣的時候，Y的顏色是相同的，即便不相同，差距也在0.1%以內。你可以看到，a比較少的序列中Y的顏色要淺一些。）或許其他的神經元會看到神經元10比較鬆弛。

記憶狀態

下面我想研究一下LSTM是如何記憶狀態的。同樣的，我生成了以下形式的序列：AxxxxxxYaBxxxxxxYb

（也就是說，一個「A」或者「B」，後面跟著1-10個x，然後是一個分割字元「Y」，最終以一個起始字元的小寫形式結尾。）這種情況下，網路需要記住到底是一個「狀態 A」還是一個「B」狀態。

我們希望找到一個神經元能夠在記得序列是以「A」開頭的，希望找到另一個神經元記得序列是以「B」開頭的。我們做到了。

例如這裡是一個「A」神經元，當讀取到「A」的時候它會啟用，持續記憶，直到需要生成最後一個字母的時候。要注意，輸入門忽略了序列中所有的x。

下面是對應的「B」 神經元：

有趣的一點是，即使在讀取到分隔符「Y」之前，關於A和B的知識是不需要的，但是隱藏狀態在所有的中間輸入中都是存在的。這看上去有一點「低效」，因為神經元在計數x的過程中做了一些雙重任務。

複製任務

最後，讓我們來看一下LSTM是如何學會複製資訊的。（回想一下我們的Java版的LSTM曾經學會了記憶並且複製一個Apache license。）

（注意：如果你思考LSTM是如何工作的，記住大量的單獨的、細節的資訊其實並不是它們所擅長的事情。例如，你可能已經注意到了LSTM生成的程式碼的一個主要缺陷就是它經常使用未定義的變數—LSTM無法記住哪些變數已經在環境中了。這並不是令人驚奇的事情，因為很難使用單個cell就能有效地對想字元一樣的多值資訊進行編碼，並且LSTM並沒有一種自然的機制來連線相鄰的記憶以形成單詞。記憶網路（memory networks）和神經圖靈機（neutral turing machine）就是兩種能夠有助於修正這個缺點的神經網路的擴充套件形式，透過增加外部記憶元件。所以儘管複製並不是LSTM可以很有效地完成的，但是無論如何，去看一下它是如何完成這個工作是有趣的。）

針對這個複製任務，我訓練了一個很小的兩層LSTM來生成如下形式的序列：baaXbaaabcXabc

（也就是說，一個由a、b、c3種字元組成的子序列，後面跟著一個分隔符「X」，後面再跟著一個同樣的子序列）。

我不確定「複製神經元」到底應該是長什麼樣子的，所以為了找到能夠記住部分初始子序列的神經元，我觀察了一下它們在讀取分隔符X時的隱藏狀態。由於神經網路需要編碼初始子序列，它的狀態應該依據它們學到的東西而看起來有所不同。

例如，下面的這一幅圖畫出了神經元5在讀入分隔符「X」時候的隱藏狀態。這個神經元明顯將那些以「c」開頭的序列從那些不是以「c」開頭的序列中區分出來。

另一個例子，這是神經元20在讀入分隔符「X」時的隱藏狀態。看起來它選擇了那些以「b」開頭的子序列。

有趣的是，如果我們觀察神經元20的cell狀態，它貌似能夠捕捉這三種子序列。

這裡是神經元20關於整個序列的cell狀態個隱藏狀態。請注意在整個初始序列中它的隱藏狀態是關閉的（也許這是期望之中的，因為它的記憶僅僅需要在某一點被動保持）

然而，如果我們看得更加仔細一些，就會發現，只要下一個字元是「b」,它就是正的。所以，與其說是以b字母開頭的序列，還不如說是下一個字元是b的序列。

就我所知，這個模式在整個網路中都存在——所有的神經元貌似都在預測下一個字元，而不是在記住處在當前位置的字元。例如，神經元5貌似就是一個「下一個字元」預測器。

我不確定這是不是LSTM在學習複製資訊時候的預設型別，或者複製機制還有哪些型別呢？

擴充套件

讓我們來回顧一下你如何自己來探索LSTM。

首先，我們想要解決的大多數問題都是階段性的，所以我們應該把一些過去的學習結合到我們的模型中。但是我們早已知道神經網路的隱藏層在編碼自己的資訊，所以為何不使用這些隱藏層，將它們作為我們向下一步傳遞的記憶呢？這樣一來，我們就有了迴圈神經網路（RNN）。

但是從我們的行為就能知道，我們是不願意去追蹤知識的；當我們閱讀一篇新的政論文章時，我們並不會立即相信它所談論的內容並將其與我們自己對這個世界的信念所結合。我們選擇性地儲存哪些資訊，丟棄哪些資訊，以及哪些資訊可以用來決定如何處理下一次讀到的新聞。因此，我們想要學習收集、更新以及應用資訊——為何不透過它們自己的小型神經網路來學習這些東西呢？如此，我們就有了LSTM。

現在我們已經走通了這個過程，我們也可以想出我們的修正：

例如，或許你認為LSTM區分長期記憶和工作記憶是愚蠢的行為—為何不使用一種記憶呢？ 或者，或許你能夠發現區分記憶門和儲存門是多餘的--任何我們忘記地東西都應該被新的資訊代替，反之亦然。所以我們現在想出了一種流行的LSTM變種，門控迴圈神經網路（GRU）：https://arxiv.org/abs/1412.3555或者你可能認為，當決定哪些資訊需要被記住、儲存、注意的時候，我們不應該僅僅依靠我們的工作記憶—為什麼不同時使用長期記憶呢？如此，你發現了Peephole LSTM:http://machinelearning.wustl.edu/mlpapers/paper_files/GersSS02.pdf

首先簡單回顧下迴圈神經網路（RNN）的動機和概念。

迴圈神經網路的動機，是用隱藏狀態記住一些歷史資訊，以處理序列化的輸入資料。比如，字元識別問題中，單個字元的識別，和前後的字元都是相關的。再比如，處理影片，影片的每一幀，和前後幀也是相關的。

這裡給出一些簡單的示意程式碼：

rnn = RNN(D, H)

這裡的`D`代表輸入序列，`H`代表狀態序列。輸入序列`D`被轉化為狀態序列`H`。

h = rnn.next(h0, x)

這裡`h0`是初始狀態序列，`x`是輸入序列。返回的輸出`h`為包含時序資訊的狀態序列。

下一步運算之間使用上一步產生的狀態序列：

h = rnn.next(x)

h的具體計算方法為：

h[t] = tanh(Wh(h[t- 1]) + Wx(x[t]) + b)

其中，`Wh`是記錄狀態之間連線的矩陣，`Wx`是記錄輸入與狀態之間連線的矩陣，`b`是偏置。`tanh`函式的選取是經驗的結果，在實踐中發現，`tanh`的效果比較好。

我們可以看到，原生RNN中狀態的計算方法是比較簡單的。這就帶來一個問題，如果相關的兩個輸入，在輸入序列中的距離較遠，那最終的效果就比較差了。當然，有時候，調整一些引數，可以將距離較遠的相關輸入（長時依賴關係）聯絡起來，但大多數時候，這很困難。

因此，我們考慮給我們的迴圈網路加入長期記憶功能。在狀態之外，增加一個結構（不妨把這個結構叫做細胞）。然後，透過某些閥門，控制何時遺忘資訊，何時將資訊儲存到細胞內。

這樣我們就得到了LSTM（Long Short-Term Memory，長短期記憶網路）。

LSTM和原生迴圈網路的總體結構是一致的。

lstm = nn.LSTM(D, H)

輸入門，決定是否將資訊傳入細胞

i[t] = sigmoid(ai[t])

遺忘門，決定是否遺忘資訊

f[t] = sigmoid(af[t])

輸出門，決定細胞狀態中哪些資訊將被輸出

o[t] = sigmoid(ao[t])

使用`tanh`調整輸出結果（確保輸出值在-1和1之間）

g[t] = tanh(ag[t])

細胞狀態既取決於上一個時刻的細胞狀態，也取決於輸入門和遺忘門的作用

c[t] = f[t] * c[t - 1] + i[t] * g[t]

狀態取決於輸出門和細胞狀態

h[t] = o[t] * tanh(c[t])

我們可以看到，LSTM和原生RNN的基本原理是一樣的，LSTM在RNN的基礎上增加了一個細胞狀態而已。

做為一個AI老司機，回答這個問題簡直義不容辭。

要論系統的介紹，要屬Google的RNN深度學習入門影片了，對於英文好的童鞋強烈推薦

LSTM表示長短期記憶，結合一個RNN的應用場景來說，使用RNN來自動生成科技文章。它的原理拋開數學來談是很簡單的，它透過大量學習科技文章來對每一個單詞序列後面最有可能出現的詞進行判斷。在沒有加入LSTM機制時，我們發現它的表現非常差，隨機性太強，那麼LSTM起到什麼作用。可以理解為高頻詞會比較不會被遺忘，而低頻詞會進入到遺忘機制，從而更符合人類記憶。對於解決時間序列問題非常適合，但股票上的實踐並不太好，我使用RNN+LSTM預測股票走勢，準確率在57%左右，loss在0.8左右。實盤一個月收益可以忽略不計，只是不虧損。