日前,三星宣佈開發出業界第一款結合了AI能力的HBM晶片——HBM-PIM。作為一款新的記憶體處理(PIM-processing-in-memory)體系結構,由於有了AI計算能力,所以,可以用來提高資料中心、高效能計算(HPC)中的大規模資料處理效率。
三星表示,HBM-PIM是業界第一個可程式設計的PIM解決方案,主要針對各種人工智慧驅動的工作負載而設計,會與人工智慧方案提供商進行合作,開發出先進的PIM應用。
如今,絕大多數計算系統都是基於馮諾依曼體系架構設計的,它採用獨立的儲存和處理單元來執行數百萬複雜的資料處理任務,由於需要讓資料在兩者間不停的來回遷移,所以會帶來一定的系統瓶頸,當需要處理的資料量越來越大時,瓶頸就越來越明顯。
HBM-PIM的做法是在每個記憶體庫(Memory Bank,一個儲存子單元)中放置一個DRAM最佳化的AI引擎,將資料處理能力放到了儲存資料的地方,從而最大化減少了資料移動的操作。
把HBM-PIM應用於三星的HBM解決方案HBM2 Aquabolt時,系統性能提升了兩倍以上,同時,能耗降低了70%以上。
值得一提的是,HBM-PIM無需更改任何硬體或軟體,可以很輕鬆地整合到現有系統中。
目前,AI解決方案合作伙伴正在驗證測試三星的HBM-PIM方案,預計,將在今年上半年完成。
最新評論