1,什麼叫AI晶片
廣義上說,擅長執行人工智慧演算法的晶片即為AI晶片,目前主要有GPU、FPGA和ASIC三種技術路線。
根據承擔的任務和部署位置,大致可以將AI晶片分為雲端訓練晶片、雲端推斷晶片和終端推斷晶片三種。
深度學習演算法與傳統演算法不同,其引數的形成依賴於在大量資料中不斷訓練,這種訓練目前只能在雲端完成;演算法形成後則可以用於推斷,即輸入新資料並獲得相應的智慧輸出,推斷既可以在雲端完成,也可以在終端完成。
雲端訓練:雲端即資料中心,對神經網路而言,訓練過程就是通過不斷更新網路引數,使推斷(或者預測)誤差最小化的過程。
雲端訓練對晶片效能的要求很高,首先,在計算精度,必須支援具有較長字長的浮點數或定點數;其次不僅要具有強大的單晶片計算能力,還要具備很好的擴充套件性,可以通過多晶片系統提供更強大的計算能力;最後,對記憶體數量、訪問記憶體的頻寬和記憶體管理方法的要求都非常高。
雲端推斷:推斷過程是指直接將資料輸入神經網路並評估結果的正向計算過程。相比訓練晶片,推斷晶片考慮的因素更加綜合:單位功耗算力、時延、成本等等。
終端推斷:對於終端推斷任務,由於應用場景多種多樣,晶片部署在各種裝置中,如自動駕駛汽車、智慧家居產品和各類IoT裝置等,其需求和約束也呈現出多樣化的特點。對於多數應用來說,速度、面積、能效、安全和硬體成本是最重要的考慮因素,而模型的準確度和資料精度則可以依據、具體情況適當降低。
總的來說,雲側AI處理主要強調精度、處理能力、記憶體容量和頻寬,同時追求低延時和低功耗;邊緣裝置中的AI處理則主要關注功耗、響應時間、體積、成本和隱私安全等問題。
2,AI晶片技術路線深度學習演算法在2010年前後興起,並逐步掀起本輪人工智慧浪潮。
為了滿足深度學習演算法對高算力的要求,學界和業界針對神經網路的特點對原有的晶片架構進行優化,或提出新的晶片架構,目前主要有GPU、FPGA和ASIC三種技術路線。
GPU最早被用於加速深度學習演算法,是目前應用最成熟的AI晶片。
GPU是顯示卡的核心,最早僅用於圖形渲染,但GPU計算能力強大,逐漸被用於通用計算(即通用GPU)。
由於GPU發展早,應用普遍,軟體生態成熟完善,尤其是其具備良好的矩陣計算能力和平行計算優勢,在執行深度學習演算法時相比CPU有巨大優勢。
但GPU不是專門為了執行AI演算法而設計的,相比AI專用處理器,在執行深度學習演算法時存在能耗較高、效率較低等特點。
在雲端,通用GPU,特別是英偉達系列GPU晶片,被廣泛應用於深度神經網路訓練和推理。
同時,英偉達GPU還有比較完善的軟體開發環境,是目前AI訓練領域使用最廣泛的平臺。
FPGA具備可程式設計性,可支援產品快速上市,同時相比CPU具備更強的計算能力。
FPGA即現場可程式設計門陣列,其利用閘電路直接運算,速度快,而使用者可以自由定義這些閘電路和儲存器之間的佈線,改變執行方案。
近年來,因為FPGA靈活性較好、處理簡單指令重複計算比較強,在深度學習的推理階段有著更高的效率和更低的成本,使得全球科技巨頭紛紛佈局雲端FPGA生態。
相比AI演算法專用晶片ASIC,FPGA的效能和功耗仍有提升空間。FPGA迭代速度快,能夠快速切入剛剛興起的領域,但當這個領域的重要性不斷凸顯,FPGA最終會被專用晶片所替代,因為其運算速度和效能功耗比專用晶片仍有較大差距。
ASIC是專用定製晶片的統稱,與GPU和FPGA相比,不同的ASIC晶片之間在設計、架構、工具鏈等各方面可能存在較大的不同。
ASIC基於人工智慧演算法進行定製,在大規模量產的情況下具備效能更強、體積更小、功耗更低、成本更低、可靠性更髙等優點。
但其缺點在於通用性差,前期研發成本高,研發週期長。在缺乏產量的情況下研發ASIC晶片是不經濟的。
未來當人工智慧技術、平臺和終端的發展達到足夠成熟度,人工智慧應用的普及程度使得專用晶片能夠達到量產水平,ASIC晶片的發展將大有可為。
3,AI晶片企業格局
目前市場上的AI晶片企業主要可以分為三類:
AI晶片初創企業
2015年後密集出現了一批以AI晶片為方向的創業公司,這些企業往往具備擁有豐富晶片開發經驗的團隊,在研發產品上創新能力強,部分企業的技術甚至較傳統晶片企業更優。
AI演算法公司向上遊拓展研發基於自身業務的終端AI晶片公司
這些公司大部分成立於2012年後,自身業務已經初具規模,通過研發晶片配合演算法,使得其在產品優化上具有主導權,並節省委外業務的成本,有利於與現有的客戶加深合作。
傳統晶片巨頭
英偉達已經憑藉其GPU產品成為雲端訓練市場的壟斷者,英特爾、AMD等也在積極發力AI晶片市場。傳統晶片廠商具有豐富的晶片設計經驗,同時強大的資金實力又可以支撐起晶片研發的巨大成本,成為市場競爭中最強大的力量。
在AI專用晶片(ASIC)設計領域,中國與世界處於同一起跑線上,部分中國企業處於世界前列。近年來,在晶片自主可控的呼聲下,中國AI晶片企業在一級市場融資火熱,並誕生了寒武紀、地平線等AI獨角獸。
4,AI晶片的發展計算力的提升是人工智慧市場快速增長的重要驅動力。全球範圍內越來越多的政府和企業組織逐漸認識到人工智慧在經濟和戰略上的重要性,並從國家戰略和商業活動上涉足人工智慧。
全球人工智慧市場將在未來幾年經歷現象級的增長。據推算,世界人工智慧市場將在2020年達到6800億元人民幣,複合增長率達26.2%。
AI晶片市場隨人工智慧發展持續火爆,預計2023年全球AI晶片市場規模將達到343億美元。
根據Gartner的測算和預測,2018年全球AI晶片市場規模達42.7億美元,預計到2023年將達343億美元。
由於專用處理器ASIC根據人工智慧演算法做特殊優化,最能滿足深度學習對算力的要求,未來十年將迎爆發式增長。