-
1 # 醉花音
-
2 # 智東西
故事要從1992年開始說起。
1992年,在美國紐澤西州霍姆德爾市,一處離海岸只有24公里的寧靜小鎮上,屹立著大半個世紀以來全球最著名的科學實驗室之一——AT&T貝爾實驗室。
▲AT&T貝爾實驗室
在這個傳奇的實驗室裡,不僅誕生了7位諾貝爾獎獲得者,還是誕生了世界上第一個電晶體、蜂窩式電話系統、通訊衛星、有聲電影、太陽能電池、C/C++語言、UNIX系統……
不僅如此,世界上第一塊人工智慧晶片也同樣誕生於此。
1992年,馬克·扎克伯格只有8歲,離他後來創辦世界第一大社交網路Facebook還有12年時間,離“卷積神經網路之父”Yann LeCun加入Facebook人工智慧研究院還有21年。
就在這一年,世界上第一塊——同時也被當時研究頻頻受挫的Yann LeCun稱為“可能是世界上最後一塊”——神經網路晶片ANNA,就誕生AT&T貝爾實驗室裡。
眾所周知,無論是“人工智慧”、“深度學習”還是“神經網路”,這些近年來大火的概念其實都可以追溯到幾十年前。但由於這些演算法對於資料與計算量都有著極大的要求,當時的軟硬體條件都無法滿足,因而這類研究一直到近些年才大火起來。
不過,即便在眾人並不看好深度學習的年月裡,依然有一小群在“神經網路寒冬”裡也堅持信念的科學家們,Yann LeCun就是其中一個。
1988年10月,在學習完神經科學、晶片設計,並師從多倫多大學深度學習鼻祖Geoffrey Hinton後,年僅27歲的年輕博士後Yann LeCun來到美國紐澤西州,正式成為傳奇的AT&T貝爾實驗室的一員。
在當時的貝爾實驗室裡,已經有一組研究員在進行英文字母識別的研究,並且積累下了一個擁有5000個訓練樣本的USPS資料集——這在當時已經是一個非常龐大的資料集。
在這個資料集的幫助下,Yann LeCun在三個月內便打造並訓練了第一個版本的卷積神經網路LeNet one,在字母識別上取得了有史以來最高的準確率,也正式標誌著卷積神經網路的誕生。
不過,Yann LeCun的研究並沒有止步在軟體層面。1989年,Yann LeCun與實驗室的其他實驗員Bernhard Boser、Edi Sackinger等人共同撰寫了一篇新論文,介紹了他們所研製的一款名為“ANNA”的神經網路晶片。
▲“ANNA”神經網路晶片
ANNA中包括64個計算單元,專門針對卷積神經網路進行了最佳化,其峰值吞吐量為每秒40億次加法。
雖然在此之前,神經網路作為一個新興的研究方向已然小有名氣,有不少研究人員也嘗試打造過神經網路晶片,但它們都無法放在板級(Board-Level)測試環境中,也就無法在真實世界中應用。
除了ANNA之外,貝爾實驗室還曾在1991年打造過一款Net32K晶片。在Yann LeCun等人隨後釋出了一系列論文中,他們不僅介紹了ANNA在板級測試中的優秀表現,還展示了ANNA在利用卷積神經網路在文字傾斜檢測、手寫數字識別等應用上的優異表現(比單獨的DSP快10到100倍),讓ANNA當之無愧地成為了世界上第一塊“能用的”人工智慧晶片。
▲搭載ANNA的測試板原理示意圖
不過,天有不測風雲。1996年,AT&T公司進行了一輪拆分,通訊運營業務保留在新AT&T中,一部分貝爾實驗室和AT&T的裝置製造部門被剝離出來形成了朗訊科技,另一部分負責計算機業務的部門則組建了NCR公司。
▲Yann LeCun(後排中間)與新AT&T實驗室成員,攝於2002年
Yann LeCun留在了新AT&T的實驗室裡,擔任AT&T實驗室影象處理研究部門負責人,然而極其不幸的是,卷積神經網路的專利卻被律師團隊最終決定分給了NCR公司(這一專利在2007年過期)。
用Yann LeCun的話來說,“當時NCR手握卷積神經網路的專利,卻完全沒有人知道卷積神經網路到底是什麼”,而自己卻因為身處另一家公司而無法繼續進行相關研究。
然而,在1996年後的時間裡,科學界對神經網路的興趣逐漸走向衰微,越來越少人進行相關研究,一直到2010年以後才重新興起。
回覆列表
在1925年的一月,AT&T的Quattroporte華特·基佛德在收購了西方的一家電子公司的研究部門後,就成立了一個叫做“貝爾電話實驗室”的公司,這就是貝爾實驗室的前身。貝爾實驗室是一家集基礎理論研究和現實產品開發的服務於人類社會的研究部門。
1:貝爾實驗室在鐳射器,電晶體,發光二極體,太陽能電池,通訊衛星,數字交換機,電子數字計算機,立體電影,模擬語言等方面都有涉及;期間,貝爾實驗室總共獲得兩萬五千多項專利。一個只搞理論的研究部門做不出對生活有用的東西,同樣,一個只搞產品開發的部門沒有了理論支援,做出來的東西就跟不上時代的發展步伐;
2:而貝爾實驗室的基礎理論研究與產品開發的比例是1比10,這樣既有理論支援,又有實踐環節,能夠為社會研究出符合時代特色的產品。貝爾實驗室的涉及領域非常多,系統也非常複雜;所以這裡只列舉世界上幾個著名的發明。第一個是二三十年代在貝爾實驗室推出的遠距離電視傳輸和數字計算機,這兩項技術應用到生活中後,無疑是開創了有聲電視的先河;有聲電視問世後,就在全國慢慢推廣,顯然是推動了社會的進步。
3:第二個是世界上首個電晶體的問世,而電晶體是計算機中不可或缺的元件,這就為計算機的誕生提供了條件。第三個是程式語言的誕生,貝爾實驗室的Ken Thompson在研究出非常接近硬體的BCPL語言之後,就編寫了第一個UNIX作業系統;以後就以該語言的第二個字母來命名,於是就誕生了C語言。
貝爾實驗室對世界的貢獻不止於此,該研究部門一共獲得8次諾貝爾獎。因此也可以看出,在人類技術革命中,貝爾實驗室毫無疑問是扮演了很多行業中領導的角色。