大資料應用推動了“讓記憶體更接近計算資源”的架構需求，而人工智慧和機器學習則進一步證明了硬體和硬體架構在成功部署中發揮的關鍵作用。不過有一個關鍵問題——資料處理應該在哪裡進行。
在Forrester Research近期的一項調查中，有89％的受訪者表示，計算和記憶體在架構上緊密相連是至關重要的。這項調研由美光（Micron Technology）公司委託，調查結果中還發現，記憶體和儲存是如今限制人工智慧和機器學習發展的非常重要的因素。此外，還有超過75％的受訪者指出，他們需要升級或重新構建記憶體和儲存架構以打破這種侷限性。
因為機器學習能夠透過神經網路對龐大的資料矩陣進行多次累積操作，這使得大資料及其分析過程中的很多問題得以解決。同時，隨著更多結果的產生，這樣的操作還會反覆進行，以生成最佳路徑和最佳選擇的演算法，並且這些演算法都是透過處理資料進行反覆學習的。
美光公司企業戰略副QuattroporteColm Lysaght表示，因為資料量非常大，所以解決記憶體問題的常見方案就是增加更多的DRAM（Dynamic Random Access Memory），即動態隨機存取儲存器。這是最為常見的系統記憶體，能夠將效能瓶頸從原始計算轉移到資料所在的位置。“記憶體和儲存就是資料所在的地方。我們必須把資料帶入CPU，然後再返回，如此反覆。因為這些龐大的資料集都需要被處理。”
Lysaght說，如果能夠讓計算和記憶體更緊密地結合在一起，就意味著可以節省更多電力能源，因為在記憶體和計算之間就不需要往返太多次。“這會提高效能，因為資料處理直接發生在它所在的位置。”
▲美光認為，現有記憶體和儲存技術（例如DRAM和3D NAND SSD）為人工智慧架構提供了硬體，同時美光也在研究更新的技術（如記憶體處理器架構）以支援更多初創公司
在Lysaght看來，有很多不同的方法都可以打造出更好的架構。拿神經形態處理器舉例，它在內部使用神經網路，並將內部核心資料分解為更多的較小顆粒。“因為要對大量的資料要進行處理，所以讓更多的核心反覆執行相對簡單的操作是一種更好的解決方案，”Lysaght說。
最近，記憶體公司Crossbar與Gyrfalcon Technology、mtes Neural Networks（mtesNN）、RoboSensing等公司一起，打造了一個致力於提供加速、節能型人工智慧平臺的聯盟——SCAiLE（用於邊緣學習的SCABLE AI）。該聯盟將結合先進的加速硬體、電阻式RAM（ReRAM）和最佳化神經網路，打造就緒的低功耗解決方案，使得整個過程無需進行監督學習。
Crossbar公司戰略營銷和業務開發副QuattroporteSylvain Dubois表示，目前很多企業面臨的挑戰是，他們既希望在裝置上採用人工智慧，但是又不知道該怎麼做，無論是智慧揚聲器、智慧攝像頭還是智慧電視。而該聯盟的目標，就是提供一個將所有必要部分組合在一起的平臺。
Crossbar的主要貢獻在於記憶體（特別是ReRAM），它將透過各種輸入處理機器學習系統中的資料，包括文字、關鍵字、GPS座標、感測器可視資料等大量非結構化資料。
Dubois設想了一種儲存器陣列，它的架構能夠以非常寬且高度並行的方式由例項中的每一個特定處理程式碼讀取，實現在邊緣裝置中並行讀取一千個位元組。“如果匹配了，你就會知道該怎麼做。如果沒有匹配，那麼這就是我們所說的學習曲率。”Dubois說。
例如，對攝像頭感測器來說，該系統將能夠在ReRAM陣列備用位置儲存新事件或一組功能。“下次當有類似事件在這個攝像頭前發生的時候，攝像頭本身就能夠在沒有任何訓練的情況下檢測到該事件。”Dubois舉例說。
這提供了一種完全不同的人工智慧計算方式，因為如果出現需要快速決策的意外事件（例如關注安全性的交通場景）時，它就不再需要依賴於雲中的訓練能力，而能夠在當下快速處理。
Forrester Research的這項研究表明，有越來越多的企業將在公有云和邊緣位置進行資料分析，從而在邊緣完成更多的機器學習能力。有51％的受訪者表示，他們正在公有云中執行分析，預計未來三年這一比例將增加到61％。此外，有44％的人已經在邊緣裝置中進行資料分析，預測到2021年這一比例將增長到53％。
Forrester基礎設施和運營高階分析師Chris Gardner對於硬體的重要性感到驚訝，特別是儲存和記憶體。他表示，一個非常重要的研究結果是，有大量工作是脫離了儲存在記憶體本身進行的。但值得注意的是，這取決於你的需求是什麼。根據Gardner的說法，訓練模型需要大量的記憶體和儲存空間。除外之外，你根本不需要任何東西。
▲Crossbar最近成立了一個打造人工智慧平臺的聯盟，提供針對人工智慧應用的記憶體產品，例如帶有嵌入式ReRAM的P系列MCU
Gardner說，在完美的情況下，企業希望擁有一個數百GB的RAM大型環境。但實際上，他們不得不自己構建或者付費讓供應商來實現，而且這需要的是硬體方面的轉變。“我們需要更多以記憶體為中心的架構，讓計算圍繞記憶體以及儲存來進行，而不是讓計算本身成為中心。“這並不是說當前的計算架構很糟糕，但這可能並不是做人工智慧和機器學習最有效的方式。”Gardner表示。
此外，Gardner還提到了邊緣計算，有一個場景是某個舉行大型體育賽事的體育場內安裝了很多攝像頭，這些攝像頭實時產生了大量需要快速處理的資料，以確定是否存在危險情況。“他們可以把這些資料傳送到雲端並返回，但是他們沒有時間去這麼做，因為他們必須儘快處理這些資料。”
未來還將有一些機器學習是在雲中進行的，然後返回到物聯網裝置，但是其中一些裝置將變得越來越智慧化，並且可以自主地進行機器學習，共享回雲端以及其他裝置。對於記憶體製造商來說，這意味著商用元件製造商要持續進行轉型，而且要重新編譯應用以利用人工智慧和機器學習工作負載所需的、以記憶體為中心的架構。但是現在這些技術還處於實驗階段，還沒有一個真正的採用記憶體為中心、在實驗環境之外有很多延遲表現的架構。
Gardner說：“幾十年來我們一直是用以CPU為中心的心態去構建架構，而想要擺脫這種想法是非常具有革命性的。”
對此，去年秋天美光還宣佈投資1億美元用於人工智慧，並在實驗室中打造了一個類似DRAM的產品，目標是在2021年進行取樣，同時美光的研究人員也在研究處理器記憶體架構，這也是其他很多初創公司正在研究的領域。
大資料應用推動了“讓記憶體更接近計算資源”的架構需求，而人工智慧和機器學習則進一步證明了硬體和硬體架構在成功部署中發揮的關鍵作用。不過有一個關鍵問題——資料處理應該在哪裡進行。
在Forrester Research近期的一項調查中，有89％的受訪者表示，計算和記憶體在架構上緊密相連是至關重要的。這項調研由美光（Micron Technology）公司委託，調查結果中還發現，記憶體和儲存是如今限制人工智慧和機器學習發展的非常重要的因素。此外，還有超過75％的受訪者指出，他們需要升級或重新構建記憶體和儲存架構以打破這種侷限性。
因為機器學習能夠透過神經網路對龐大的資料矩陣進行多次累積操作，這使得大資料及其分析過程中的很多問題得以解決。同時，隨著更多結果的產生，這樣的操作還會反覆進行，以生成最佳路徑和最佳選擇的演算法，並且這些演算法都是透過處理資料進行反覆學習的。
美光公司企業戰略副QuattroporteColm Lysaght表示，因為資料量非常大，所以解決記憶體問題的常見方案就是增加更多的DRAM（Dynamic Random Access Memory），即動態隨機存取儲存器。這是最為常見的系統記憶體，能夠將效能瓶頸從原始計算轉移到資料所在的位置。“記憶體和儲存就是資料所在的地方。我們必須把資料帶入CPU，然後再返回，如此反覆。因為這些龐大的資料集都需要被處理。”
Lysaght說，如果能夠讓計算和記憶體更緊密地結合在一起，就意味著可以節省更多電力能源，因為在記憶體和計算之間就不需要往返太多次。“這會提高效能，因為資料處理直接發生在它所在的位置。”
▲美光認為，現有記憶體和儲存技術（例如DRAM和3D NAND SSD）為人工智慧架構提供了硬體，同時美光也在研究更新的技術（如記憶體處理器架構）以支援更多初創公司
在Lysaght看來，有很多不同的方法都可以打造出更好的架構。拿神經形態處理器舉例，它在內部使用神經網路，並將內部核心資料分解為更多的較小顆粒。“因為要對大量的資料要進行處理，所以讓更多的核心反覆執行相對簡單的操作是一種更好的解決方案，”Lysaght說。
最近，記憶體公司Crossbar與Gyrfalcon Technology、mtes Neural Networks（mtesNN）、RoboSensing等公司一起，打造了一個致力於提供加速、節能型人工智慧平臺的聯盟——SCAiLE（用於邊緣學習的SCABLE AI）。該聯盟將結合先進的加速硬體、電阻式RAM（ReRAM）和最佳化神經網路，打造就緒的低功耗解決方案，使得整個過程無需進行監督學習。
Crossbar公司戰略營銷和業務開發副QuattroporteSylvain Dubois表示，目前很多企業面臨的挑戰是，他們既希望在裝置上採用人工智慧，但是又不知道該怎麼做，無論是智慧揚聲器、智慧攝像頭還是智慧電視。而該聯盟的目標，就是提供一個將所有必要部分組合在一起的平臺。
Crossbar的主要貢獻在於記憶體（特別是ReRAM），它將透過各種輸入處理機器學習系統中的資料，包括文字、關鍵字、GPS座標、感測器可視資料等大量非結構化資料。
Dubois設想了一種儲存器陣列，它的架構能夠以非常寬且高度並行的方式由例項中的每一個特定處理程式碼讀取，實現在邊緣裝置中並行讀取一千個位元組。“如果匹配了，你就會知道該怎麼做。如果沒有匹配，那麼這就是我們所說的學習曲率。”Dubois說。
例如，對攝像頭感測器來說，該系統將能夠在ReRAM陣列備用位置儲存新事件或一組功能。“下次當有類似事件在這個攝像頭前發生的時候，攝像頭本身就能夠在沒有任何訓練的情況下檢測到該事件。”Dubois舉例說。
這提供了一種完全不同的人工智慧計算方式，因為如果出現需要快速決策的意外事件（例如關注安全性的交通場景）時，它就不再需要依賴於雲中的訓練能力，而能夠在當下快速處理。
Forrester Research的這項研究表明，有越來越多的企業將在公有云和邊緣位置進行資料分析，從而在邊緣完成更多的機器學習能力。有51％的受訪者表示，他們正在公有云中執行分析，預計未來三年這一比例將增加到61％。此外，有44％的人已經在邊緣裝置中進行資料分析，預測到2021年這一比例將增長到53％。
Forrester基礎設施和運營高階分析師Chris Gardner對於硬體的重要性感到驚訝，特別是儲存和記憶體。他表示，一個非常重要的研究結果是，有大量工作是脫離了儲存在記憶體本身進行的。但值得注意的是，這取決於你的需求是什麼。根據Gardner的說法，訓練模型需要大量的記憶體和儲存空間。除外之外，你根本不需要任何東西。
▲Crossbar最近成立了一個打造人工智慧平臺的聯盟，提供針對人工智慧應用的記憶體產品，例如帶有嵌入式ReRAM的P系列MCU
Gardner說，在完美的情況下，企業希望擁有一個數百GB的RAM大型環境。但實際上，他們不得不自己構建或者付費讓供應商來實現，而且這需要的是硬體方面的轉變。“我們需要更多以記憶體為中心的架構，讓計算圍繞記憶體以及儲存來進行，而不是讓計算本身成為中心。“這並不是說當前的計算架構很糟糕，但這可能並不是做人工智慧和機器學習最有效的方式。”Gardner表示。
此外，Gardner還提到了邊緣計算，有一個場景是某個舉行大型體育賽事的體育場內安裝了很多攝像頭，這些攝像頭實時產生了大量需要快速處理的資料，以確定是否存在危險情況。“他們可以把這些資料傳送到雲端並返回，但是他們沒有時間去這麼做，因為他們必須儘快處理這些資料。”
未來還將有一些機器學習是在雲中進行的，然後返回到物聯網裝置，但是其中一些裝置將變得越來越智慧化，並且可以自主地進行機器學習，共享回雲端以及其他裝置。對於記憶體製造商來說，這意味著商用元件製造商要持續進行轉型，而且要重新編譯應用以利用人工智慧和機器學習工作負載所需的、以記憶體為中心的架構。但是現在這些技術還處於實驗階段，還沒有一個真正的採用記憶體為中心、在實驗環境之外有很多延遲表現的架構。
Gardner說：“幾十年來我們一直是用以CPU為中心的心態去構建架構，而想要擺脫這種想法是非常具有革命性的。”
對此，去年秋天美光還宣佈投資1億美元用於人工智慧，並在實驗室中打造了一個類似DRAM的產品，目標是在2021年進行取樣，同時美光的研究人員也在研究處理器記憶體架構，這也是其他很多初創公司正在研究的領域。