回覆列表
  • 1 # 恪守公誠禮信

    應該是肯定的。計算方式上,機器是01邏輯閘串聯計算,人腦卻是神經網路間各臨近神經元的平行計算。舉個例子,看到一張照片,機器會掃描所有畫素,傳到雲端,發出類似是什麼的對比搜尋命令,連線雲的其他計算單元接受輸入資訊,執行搜尋,查到相似性達到標準的返回,所有返回值再取相似度排序最高值優先顯示。期間只有搜尋可以完全並行。人腦卻可以根據眼睛對照片的一掃,立刻清楚是什麼,如果是人,還會確定是否認識,如果認識還會立刻聯想到此人的性格喜好,甚至和此人關聯的其他資訊。人腦會同時啟用神經網路中就近的所有神經計算單元,越是最近發生的印象深刻的,越快越精確。人腦不能和機器比的就是,人腦的快取有限,只能選擇性記憶。機器網路現在也在學人腦儲存機制,儘量存在靠近計算單元的快取裡,有命令經過時,可以最快返回相關結果。當模擬人腦計算的晶片被髮明出來,真正做到完全平行計算,估計人類滅絕的原因不是機器毀滅人類,而是人類因為不需要動腦,腦發生退化,最後笨死了。

  • 2 # 創意風向標

    IBM正在嘗試在它的TrueNorth神經形態晶片上執行深度學習程式。

    深度學習的強大功能依賴於卷積神經網路演算法,這個演算法由多層節點(也稱之為神經元)組成。這種神經網路可以透過“深”層節點篩選海量資料,以此在自動識別人臉或理解不同的語言等方面變得更加智慧。谷歌、facebook、亞馬遜和微軟等公司所提供的網路服務已經在運用這些能力了。

    IBM在最近的研究中證明,深度學習演算法可以在仿人腦硬體上執行,而後者通常支援的是一種完全不同形式的神經網路。

    2016年9月9日,《美國國家科學院院刊》 (Proceedings of the National Academy of Sciences)刊登了IBM的研究論文。美國國防高階研究計劃局(tDARPA)給該項研究提供了不到100萬美金的資助。這筆資助是DARPA皮質處理器專案(Cortical Processor Program)的一部分,該專案旨在研究能辨認複雜模式並適應不斷變化的環境的仿人腦人工智慧系統。

    位於加利福尼亞州聖何塞的IBM Almaden研究實驗室的仿人腦計算領域首席科學家Dharmendra Modha 表示:“新的里程碑研究清楚地證明,仿人腦計算的效率能是可以與深度學習的效果相融合的,進而為新一代更高效和更有效的晶片和演算法的誕生鋪平了道路。”

    2011年,IBM首次詳細描述了TrueNorth,並推出了原型晶片。因此,TrueNorth的誕生早於2012年開始的基於卷積神經網路的深度學習革命,當然也不是為了深度學習而專門設計出的。相反,TrueNorth支援的是脈衝神經網路,後者能更加細緻地模仿生物體大腦中神經元的活動。

    脈衝神經網路中的神經元不會在每個迴圈都放電,而是必須在放電之前逐漸積累電壓。通常情況下,為在深度學習任務上達到所需的精確度,脈衝神經網路不得不經過多個迴圈以得到平均結果。這實際上減慢了諸如影象識別或語言處理任務的整體計算速度。

    深度學習專家普遍認為脈衝神經網路在深度學習方面的效率較低——至少與卷積神經網路相比是這樣的。Facebook人工智慧研究所主任、深度學習領域的先驅者Yann LeCun,之前就批評過IBM的TrueNorth晶片,因為其最初就是為脈衝神經網路設計的。

    加利福尼亞大學聖地亞哥分校人工智慧組的深度學習研究者Zachary Chase Lipton表示,IBM TrueNorth的設計可能更符合神經形態計算的目標,即專注於細緻地模仿和理解生物大腦。相比較而言,深度學習研究者對獲取人工智慧服務和產品的實際結果更感興趣。他解釋了這一差別:“這讓我們想到關於鳥類和飛機之間的老套比喻,你可能會說計算機神經科學/神經形態領域更關注研究鳥類,而機器學習領域更關注理解航空動力學(不管是否有生物學的幫助)。通常情況下,深度學習領域看好專業化硬體帶來的益處。神經形態晶片所關注的脈衝神經網路在深度學習領域並不熱門,所以人們對它們也沒有很大的興趣。”

    為使TrueNorth晶片更好地適應深度學習,IBM必須開發一種新演算法,讓卷積神經網路在神經形態計算硬體上良好地執行。這種聯合的方式在8個數據集(包括視覺和語音)上達到了IBM所謂的“幾乎是最高水準的”分類準確度。在最好的情況下,準確度在65~97%之間。

    當僅使用一個TrueNorth晶片時,它只能在8個數據集中的一個上超越最佳準確率。然而,IBM研究者可以透過使用8個晶片來提升深度學習技術下硬體的準確率。這使得TrueNorth能在其中3個數據集上達到或超越最佳準確度。

    TrueNorth在測試中也能做到每秒處理1200~1600影片幀資訊,這意味著單獨一個TrueNorth晶片可以同時對多達100個照相機拍攝的影片實時進行模式識別。在這種情況下,我們假設每個相機使用1024個彩色畫素(32*32)及24幀頻的標準電視資料流資訊。

    Lipton表示,TrueNorth在深度學習領域首次測試所得的這些結果也許令人印象深刻,但是還應該謹慎看待。他指出視覺資料集中的32 x 32畫素影象還有些小問題。

    儘管如此,IBM的Modha似乎對繼續在深度學習應用中測試TrueNorth充滿熱情。他和他的同事希望在所謂的“不受約束的深度學習”上測試晶片,這意味著在訓練神經網路的過程中逐步引入硬體限制,而非在一開始就採用限制措施。

    Modha也指出,TrueNorth的總體設計比深度學習專屬硬體更具有優勢,後者僅在卷積神經網路上執行。而TrueNorth有希望讓多種形式的人工智慧網路在同樣的晶片上運作。

    Modha表示:“TrueNorth不僅能夠實現卷積網路的功能(儘管這並不是設計它們的初衷),而且還能夠支援多樣的連線形式(反饋、橫向反饋和正向反饋),並能同時執行各種不同的其他演算法。”

    Lipton說,這樣的生物型晶片只有在深度學習上的表現超越其他硬體,才可能變得流行。但是他也建議說IBM可以利用其硬體專長,與谷歌和英特爾合作,共同研發深度學習領域的新型專業晶片。

    Lipton表示:“我認為某些神經形態晶片製造商將會利用他們在硬體加速方面的專長,來開發深度學習的應用型晶片,而非僅在進行生物模仿。”

  • 中秋節和大豐收的關聯?
  • 王者榮耀神奇女俠剛上架,百萬玩家搶著要入手,你怎麼看?