我們都會遺忘，但是遺忘的過程是什麼樣子的？從一閉眼就能浮現的那張清晰的臉龐到那一團模糊不清的影子，是眉毛先消失還是眼睛先不見？
最近，一位藝術家想用AI展現這個過程。
她建立了一張演算法生成的臉，然後透過逐漸關閉個別神經元，讓AI慢慢忘記這張臉，並把這個過程視覺化為了一段影片。
一層一層撥開AI的心
忘記的過程可能是醜陋的
影片的名字叫做"What I saw before the darkness“，為我們展示了一個AI的心靈運作過程。
影片中最開始展現的面孔由生成對抗網路（GAN）生成，GAN是一種機器學習程式，可以從現有照片中學習以產生新事物。透過這種方式GAN訓練了數以百萬計的肖像，可以生成逼真的人臉。
網路相互連線的神經元決定了這張臉的特徵：眼睛，膚色，形狀，頭髮，類似於人類大腦使用神經元網路來構建面部的心理影象。
影片展現的效果有點讓人毛骨悚然。起初看起來好像是生成的人臉正在迅速老化。無數細小的線條出現在她的眼睛下方和臉部周圍，她的頭髮開始變薄和變淡。
幾秒鐘後，出現了一些完全不同的東西。她的面板逐漸變成綠色的色調，而隨著神經元繼續變暗，她的特徵開始消失。
六十秒內，這張臉完全腐爛了，只剩下一些白色和棕色的色調。
最後會變成線條然後完全變黑。
透過AI看人類腦海中的橡皮擦
印象派畫家莫奈的代表畫作《議會大廈》
克勞德·莫奈的畫作在他的晚年風格發生了變化，他晚期的畫筆觸逐漸變得模糊，而且色調會偏向混亂的綠色和黃色。人類的眼睛和大腦以及連線它們的網路隨時間會經歷變化或者說是惡化，而通常我們人類不會注意到這一變化。
雖然說大腦裡有一個全新的被建構的世界，但是它不是空中樓閣，憑空捏造的。在某些方面，深度神經網路與視覺系統非常相似，神經網路是非常神秘的東西，他們作出的一些決定可能連創造它們的專家都無法解釋。
關於記憶
遺忘是一種能力
一個比較流行的比喻解釋了為什麼人們會忘記：人們的大腦的容量會飽和，因此，我們需要忘記一些東西給大腦騰出更多的儲存空間。
遺忘不僅僅是一次失敗的記憶，這是一個積極的過程，可以幫助大腦獲取新資訊並更有效地做出決策，遺忘是人的能力。
記憶幫助我們瞭解這個世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價值的和相關的記憶，同時忘記了低價值的資訊。對於人類而言，遺忘可以透過減少過時資訊對我們決策的影響來增強靈活性。還可以防止過度擬合特定的過去事件，促進概括（神經元）有效值。為了地適應生活，人類需要能夠戰略性地忘記。
忘記可能是AI進步的關鍵
儘管忘記有時候會使我們感到沮喪，但人類忘記的能力正是我們優於人工智慧的地方。計算機記憶即電腦記憶體，通常是指儲存資訊和找回資訊的容量，以及儲存這些資訊的計算機物理元件。當計算機的某些記憶體不再被任務需要時，計算機將“忘記”這些資料，釋放空間供其他任務源。
AI儲存記憶的一種方法是象徵性的記憶表徵，其中，知識是由邏輯事實來表示的（如“鳥會飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結構化的人造表示雖然可以很容易地刪除，就像在電腦上刪除一個檔案。但是機器學習演算法不知道需要什麼時候保留舊資訊，什麼時候拋棄過時的資訊。不僅如此，它還會面臨著與“遺忘”有關的幾個問題。
一個是“過學習”的問題。“過學習”指的是當一個學習機器儲存了源於以往經驗的過於詳細的資訊時，阻礙了其概括和預測未來事件的能力。另外有時人造神經網路的神經元在學習過程的早期採用不良的啟用模式，會損害AI的未來學習能力。
還有一個問題是“災難性遺忘”。 比如如果教一個說英語的孩子學習西班牙語，孩子會很容易把學習英語的方法應用到西班牙語的學習中，比如名詞，動詞時態，句子構建，同時忘記那些不相關，比如口音，喃喃自語，語調。人類可以同時進行遺忘和學習。
倫理方面的考量也是一個問題。人類死後他們的資料要怎麼處理？一旦那個人死了，是否能夠用這些資料再訓練AI然後複製出另一個他？缺乏適用的法律、規則，沒有設定好的邊界，我們留下了一個沒有人控制的分散系統。演算法不能選擇忘記什麼，而負責它們的人可能沒有權利或解決問題的能力。
廉價的資訊儲存代價和AI無窮的容量相結合，打造出了一個看似非常有吸引力的工具，但背後的問題是大量資料持續的收集，而沒有簡單的方法來“忘記”資料。
教會AI遺忘
要創造更好的人工智慧，首先要了解我們的大腦在關於什麼是值得記住的，什麼是要遺忘的方面是如何做決定的。
然後應用到AI，就像人一樣，人工智慧應該記住重要和有用的資訊，同時忘記低價值，無關緊要的知識。然而，確定什麼是相關和有價值的資訊，除了手頭的任務之外，還加入包括如倫理，法律和隱私問題等因素。
學會遺忘是人工智慧面臨的重大挑戰之一。雖然它仍然是一個新的領域，但科學家最近已經探索了一些關於如何克服這一侷限的常識性理論，比如迴圈神經網路LSTM，它使用特定的學習機制來決定要記住哪些資訊，要更新哪些資訊，以及在任何時候注意。
還有谷歌DeepMind的研究人員提出的EWC演算法，該演算法模仿突觸合併的神經運作過程。在神經網路中，使用多個連線（如神經元）來執行任務。EWC將某些連線編碼為關鍵，從而保護它們不被覆蓋/遺忘。
我們都會遺忘，但是遺忘的過程是什麼樣子的？從一閉眼就能浮現的那張清晰的臉龐到那一團模糊不清的影子，是眉毛先消失還是眼睛先不見？
最近，一位藝術家想用AI展現這個過程。
她建立了一張演算法生成的臉，然後透過逐漸關閉個別神經元，讓AI慢慢忘記這張臉，並把這個過程視覺化為了一段影片。
一層一層撥開AI的心
忘記的過程可能是醜陋的
影片的名字叫做"What I saw before the darkness“，為我們展示了一個AI的心靈運作過程。
影片中最開始展現的面孔由生成對抗網路（GAN）生成，GAN是一種機器學習程式，可以從現有照片中學習以產生新事物。透過這種方式GAN訓練了數以百萬計的肖像，可以生成逼真的人臉。
網路相互連線的神經元決定了這張臉的特徵：眼睛，膚色，形狀，頭髮，類似於人類大腦使用神經元網路來構建面部的心理影象。
影片展現的效果有點讓人毛骨悚然。起初看起來好像是生成的人臉正在迅速老化。無數細小的線條出現在她的眼睛下方和臉部周圍，她的頭髮開始變薄和變淡。
幾秒鐘後，出現了一些完全不同的東西。她的面板逐漸變成綠色的色調，而隨著神經元繼續變暗，她的特徵開始消失。
六十秒內，這張臉完全腐爛了，只剩下一些白色和棕色的色調。
最後會變成線條然後完全變黑。
透過AI看人類腦海中的橡皮擦
印象派畫家莫奈的代表畫作《議會大廈》
克勞德·莫奈的畫作在他的晚年風格發生了變化，他晚期的畫筆觸逐漸變得模糊，而且色調會偏向混亂的綠色和黃色。人類的眼睛和大腦以及連線它們的網路隨時間會經歷變化或者說是惡化，而通常我們人類不會注意到這一變化。
雖然說大腦裡有一個全新的被建構的世界，但是它不是空中樓閣，憑空捏造的。在某些方面，深度神經網路與視覺系統非常相似，神經網路是非常神秘的東西，他們作出的一些決定可能連創造它們的專家都無法解釋。
關於記憶
遺忘是一種能力
一個比較流行的比喻解釋了為什麼人們會忘記：人們的大腦的容量會飽和，因此，我們需要忘記一些東西給大腦騰出更多的儲存空間。
遺忘不僅僅是一次失敗的記憶，這是一個積極的過程，可以幫助大腦獲取新資訊並更有效地做出決策，遺忘是人的能力。
記憶幫助我們瞭解這個世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價值的和相關的記憶，同時忘記了低價值的資訊。對於人類而言，遺忘可以透過減少過時資訊對我們決策的影響來增強靈活性。還可以防止過度擬合特定的過去事件，促進概括（神經元）有效值。為了地適應生活，人類需要能夠戰略性地忘記。
忘記可能是AI進步的關鍵
儘管忘記有時候會使我們感到沮喪，但人類忘記的能力正是我們優於人工智慧的地方。計算機記憶即電腦記憶體，通常是指儲存資訊和找回資訊的容量，以及儲存這些資訊的計算機物理元件。當計算機的某些記憶體不再被任務需要時，計算機將“忘記”這些資料，釋放空間供其他任務源。
AI儲存記憶的一種方法是象徵性的記憶表徵，其中，知識是由邏輯事實來表示的（如“鳥會飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結構化的人造表示雖然可以很容易地刪除，就像在電腦上刪除一個檔案。但是機器學習演算法不知道需要什麼時候保留舊資訊，什麼時候拋棄過時的資訊。不僅如此，它還會面臨著與“遺忘”有關的幾個問題。
一個是“過學習”的問題。“過學習”指的是當一個學習機器儲存了源於以往經驗的過於詳細的資訊時，阻礙了其概括和預測未來事件的能力。另外有時人造神經網路的神經元在學習過程的早期採用不良的啟用模式，會損害AI的未來學習能力。
還有一個問題是“災難性遺忘”。 比如如果教一個說英語的孩子學習西班牙語，孩子會很容易把學習英語的方法應用到西班牙語的學習中，比如名詞，動詞時態，句子構建，同時忘記那些不相關，比如口音，喃喃自語，語調。人類可以同時進行遺忘和學習。
倫理方面的考量也是一個問題。人類死後他們的資料要怎麼處理？一旦那個人死了，是否能夠用這些資料再訓練AI然後複製出另一個他？缺乏適用的法律、規則，沒有設定好的邊界，我們留下了一個沒有人控制的分散系統。演算法不能選擇忘記什麼，而負責它們的人可能沒有權利或解決問題的能力。
廉價的資訊儲存代價和AI無窮的容量相結合，打造出了一個看似非常有吸引力的工具，但背後的問題是大量資料持續的收集，而沒有簡單的方法來“忘記”資料。
教會AI遺忘
要創造更好的人工智慧，首先要了解我們的大腦在關於什麼是值得記住的，什麼是要遺忘的方面是如何做決定的。
然後應用到AI，就像人一樣，人工智慧應該記住重要和有用的資訊，同時忘記低價值，無關緊要的知識。然而，確定什麼是相關和有價值的資訊，除了手頭的任務之外，還加入包括如倫理，法律和隱私問題等因素。
學會遺忘是人工智慧面臨的重大挑戰之一。雖然它仍然是一個新的領域，但科學家最近已經探索了一些關於如何克服這一侷限的常識性理論，比如迴圈神經網路LSTM，它使用特定的學習機制來決定要記住哪些資訊，要更新哪些資訊，以及在任何時候注意。
還有谷歌DeepMind的研究人員提出的EWC演算法，該演算法模仿突觸合併的神經運作過程。在神經網路中，使用多個連線（如神經元）來執行任務。EWC將某些連線編碼為關鍵，從而保護它們不被覆蓋/遺忘。