首頁>科技>

Sticker系列AI晶片能效最高達140.3 TOPS/W,功耗低於40mW,曾在今年7月底的ISLPED 2019上獲得設計競賽一等獎,已在中石油、中石化、山東雙輪等行業龍頭企業進行了應用,可滿足智慧工業、智慧城市、智慧製造等各類高能效、高效能應用場景的需求。

一、全清華創始團隊,聚焦傳統工業場景

湃方科技正式成立於2018年9月,創始團隊全部來自於清華大學,擁有20多項領先專利技術。

去年11月,湃方科技獲得天使輪融資,由百度風投領投,經緯中國、晨源鴻策、華控基石等跟投。

武通達任湃方科技CEO兼晶片團隊負責人,是清華電子工程系的本碩博“三清”畢業生。在以優異的成績考入清華大學電子系後,他跟隨劉勇攀教授從事AI晶片研究。

清華大學電子工程系教授、電路與系統研究所所長、博士生導師劉勇攀教授,是智慧物聯網、AI晶片專家,擁有二十年低功耗電路設計經驗,曾設計完成世界上首款低功耗非易失處理器、第一款支援全稀疏度AI晶片Sticker,併成為首位獲得DAC under 40技術創新獎的華人。

劉勇攀教授團隊關於Sticker的相關成果相繼發表在ISSCC/VLSI/JSSC上,以具有靈活配置、可擴充套件、多核異構可堆疊的特點,受到了學術界和產業界的廣泛關注。劉勇攀教授在湃方科技任職首席科學家。

▲湃方科技聯合創始人、CEO武通達(左),湃方科技創始人、首席科學家劉勇攀(右)

在晶片技術科研課題不斷取得突破的同時,武通達逐漸開始思考如何將所學的先進AI技術應用到中國傳統工業領域。

武通達是黑龍江大慶人,生長在中國最大、最早的石油城市裡,對中國傳統石油產業中生產裝置管理困難等問題感同身受。而生長於遼寧盤錦的另一位創始人,湃方科技Quattroporte馬君博士和武通達的經歷有相似之處。馬君曾任阿里巴巴達摩院決策智慧實驗室演算法專家、中國石油地球物理公司資料科學家,有7年演算法研發經驗、4年工業實踐經驗。

雙方想法不謀而合,於是兩個團隊帶著晶片技術和演算法技術走到一起。武通達負責晶片團隊,馬君負責軟體團隊。

硬體團隊負責人是李金陽,他的本科和碩士同樣畢業於清華電子系,在監測系統等專案上具有深厚的產品研發和產品運營經驗,他在湃方科技任COO一職。

在劉勇攀教授的指導下,武通達和清華大學的一批志同道合的戰友成立了湃方科技,定位為“晶片+演算法+應用系統”融合的裝置智慧化管理服務提供商,致力於合理幫助中國傳統產業的智慧化升級,為中國製造2025和工業4.0貢獻一份力量。

當前,湃方科技員工由20%以上的博士生構成,50%以上的碩士生構成,96%以上的學士構成。除了來自清華的創始團隊外,其員工來自阿里巴巴、谷歌、中國石油、中科曙光等行業前沿企業。

二、AI晶片全矩陣,佈局終端與邊緣

湃方團隊切入晶片的視角,是看見AI晶片正從雲端到終端,計算逐步下沉。終端高效處理追求更精細的設計、更貼近應用、更高能效比,其需求的瓶頸就越傾向於功耗,通常功耗不超過2W。

雲端巨頭雲集,而終端市場擁有更多細分垂直領域,賦予初創公司巨大的空間,也需要更多玩家去探索。

在市場驅動下,湃方當前的晶片佈局著重在終端晶片和部分邊緣晶片,形成湃方星核“算芯一體”的高能效晶片產品矩陣。

由於不同稀疏度矩陣運算對於計算和儲存電路要求各不相同,如何實現能同時高效處理各種稀疏度人工神經網路矩陣的統一架構,成為橫亙在AI晶片設計面前的一大難題。

面對這一難題,清華大學電子工程系劉勇攀教授團隊提出了高能效推理核心Sticker系列。

該系列基於演算法-架構-電路的聯合創新,系統性探索了在晶片架構層次利用網路稀疏性和低位寬表示以提升晶片推理能效的可能性。

Sticker系列遵循“多位元量化-非結構化稀疏-結構化稀疏-稀疏量化協同”的技術路線,先後打造了7款Sticker相關的不同計算架構以實現不同指標,在晶片推理和片上訓練操作的能效上實現了巨大突破。

目前,其稀疏量化協同的工作成果已被ASSCC 2019接收,經兩種技術融合後,能效值取得了進一步的飛躍。

據武通達介紹,其團隊從2014年開始研究,於2016年正式發表第一篇AI晶片計算架構,隨後根據具體應用、功耗需求,定製了一系列AI晶片。其中,2018年的Sticker-I是一個關鍵突破,是首款全面支援不同稀疏程度網路,且同時支援片上網路引數微調的神經網路加速晶片。

2019年1月,Sticker-T入選了積體電路領域最高水平、最權威的固態電路國際會議學術會議ISSCC。這是中國大陸首篇發表的AI晶片ISSCC論文。儘管AI晶片已經發展了很長時間,但ISSCC的特點是要求有非常堅實的晶片流片驗證結果出來,這將論文釋出的門檻提到很高。

當智東西問道Sticker系列IP核是否會考慮對外交付?武通達表示,目前Sticker系列沒有對外交付,但他們對這件事持開放態度,未來可能考慮開放一部分Sticker相關IP。

▲Sticker-T神經網路處理器硬體架構

基於Sticker核心,湃方打造了兩款產品,一款是面向工業終端應用的AI晶片Tritium 103,另一款是工業視覺邊緣計算平臺Reactor,形成一端一邊的產業佈局。

Tritium 103在7月正式流片,經過測試驗證已經開始在產品中得到應用,並獲得ISLPED設計競賽獎第一名。

該芯片面向低功耗嵌入式視覺應用,採用臺積電65nm工藝,平均功耗不到40mW,平均能效達3.7 TOPS/W,支援卷積神經網路、全聯接網路等主流模型,可支援裝置振噪分析、人臉識別、目標檢測、目標識別等常用一維或二維訊號處理方法,能與智慧MCU匹配,形成“MCU+AI晶片”的硬體架構。

相比英特爾Movidius晶片,Tritium 103的功耗較之減少約80%,同時晶片能效提升3-4倍。

邊緣計算平臺Reactor可對常見工業視覺需求進行處理,在實際應用中,Reactor可以作為資料的匯集點進行資料融合,也可以支援工廠中基於攝像頭的洩漏檢測、入侵檢測等影象處理方法。

圍繞端邊AI晶片,湃方探索了旋轉裝置PdM、胎壓監測系統等解決方案,以及3D結構光識別、無人機視覺與導航、智慧儀表等應用。

為了與計算架構協同優化,湃方還打造了便捷高效的晶片工具鏈產品Axon。

Axon支援前向量化稀疏優化技術,支援TensorFlow、PyTorch、Caffe、ONNX等多種框架,具有超過75%的超高壓縮比,能將執行速度提升5倍以上,同時實現極低的精度損失,還具有一鍵化部署的特點,支援M系列和A系列CPU以及Sticker系列專用加速晶片。

量化通常會造成精度損失,而湃方打造了一款模型自動化重訓練工具,能在保證準確率幾乎不損失的情況下,實現高壓縮比。

三、軟硬協同,四位一體的全棧式產品矩陣

總體來看,湃方科技聚焦於工業領域賽道,形成了四位一體的產品矩陣。

基於高能效AI晶片和高精度AI演算法技術,湃方科技打造湃方星核(AI晶片)、湃方星象(工業智慧物聯平臺)、湃方星雲(工業智慧管理平臺)和湃方星塵(一站式工業智慧演算法管理),為客戶提供了跨品類、全棧式的AIoT智慧管理解決方案。

為什麼晶片團隊出身的湃方科技,會選擇更為複雜的四位一體式產品佈局呢?

武通達認為,工業裝置市場遠未達到成熟狀態,整個裝置運維大約會是十萬億市場,但目前這一領域的產值僅爬升到幾千萬的水平,市場覆蓋率不到10%,市場處於藍海。

湃方從7月正式釋出工業網際網路級產品後,大約在短短几個月的時間內,就拿到石油石化、鋼鐵、軌道交通等行業大量的訂單。武通達在這一領域看到了有足夠需求、空間足夠大的市場。

據他回憶,他們最早的確寄希望於打造足夠好的產品,賦能整個產業。然而隨後他們發現,AI晶片雖然勢頭猛,但在落地一直比較難,AI晶片領域落地好的場景主要在安防和語音,而在更具體的細分領域很難找到落地方向。在他看來,這是因為AI市場本身不是非常成熟。

湃方創始團隊意識到,如果只做晶片產品,面臨的第一個問題就是沒人用、沒人會用。

於是,湃方團隊思考打通一條骨幹,這意味著哪怕所有其他東西都拋開,這條骨幹線依然可以獨立的完成客戶的應用需求。

同時湃方還建立有自己的生態體系,比如在硬體層,湃方與許多IoT廠商合作,由他們提供大量多維度不同行業方向的感測器,與湃方的裝置進行接入。在實際應用中,湃方團隊發現旋轉型裝置最核心的應用來源於振動、磁力、溫度的變化,所以要把這個資料牢牢把握在自己手中,來支援深度學習演算法。

目前,湃方科技已形成了成熟的石油石化、工業、製造、交通、軍工等行業智慧升級解決方案,為中石油、中石化、山東雙輪、北京地鐵等大中型企業提供了智慧升級服務,幫助企業提質、降本、增效、控險的目的。

四、深入了解產業痛點,拒絕“唯技術論”

儘管湃方是一家不滿一歲的年輕公司,但武通達表示,湃方經過了長期積累,厚積薄發,已經形成一系列落地成果。

他主要提及湃方的兩點優勢:一是掌握先進技術,二是應用向行業融合。

儘管出身於學術派,湃方科技不想閉門造車,並不片面追求AI晶片、演算法等技術的高指標。

湃方科技創始團隊早在2014年就開始鑽研AI晶片,但產業化的非常晚,去年9月正式成立公司,今年7月正式出產品。

自2017年開始前期籌備工作,用了一年餘的時間調研客戶的實際痛點和重點需求,探索AI與底層到底如何融合,以客戶需求為驅動打通技術和實際需求的壁壘。

為此,其團隊花了很多時間和精力,深入石油石化等客戶的現場去了解客戶需求,並與泵廠、電機廠等裝置製造商溝通,總結他們最關注的問題是什麼,然後將這些資訊與AI相融合,最終交付實實在在落地且高性價比的產品及解決方案,為客戶帶來實際的效益。

以湃方科技主攻的旋轉機械智慧化業務為例。旋轉型裝置是目前工業界的一個動力核心,每年消耗全國電量超過23%。

這一裝置存在很多痛點。比如其數量非常龐大,僅是水泵裝置就每年新增1.15億臺,資料接近智慧手機的水平,市場存量更是超過了10億臺。

另外,旋轉型裝置的價值分佈範圍很廣,裝置應用最多聚集在單價幾萬到幾十萬元不等。這些裝置的價值不高,很難支援一些幾十萬元甚至上百萬的高額智慧檢測系統部署費用。

同時,現有檢測系統在工廠中部署施工週期數以月計,水泵裝置的型別就有上千種,而應用場景需定製有針對性的模型,導致推廣起來十分困難。

面對這些難題,湃方科技打造了旋轉裝置全生命週期管理系統,通過採集轉動裝置執行產生的振動、噪聲、溫升、磁場變化等資料,做邊緣智慧分析,併發送給雲平臺,客戶可以通過湃方星雲App在手機上直觀了解泵機健康狀態檢測的精確分析結果。

武通達表示,選擇旋轉型裝置行業是經過深思熟慮的,因為晶片市場要求附加值足夠高、量足夠大,而旋轉型裝置市場足以滿足量的需求,如果在這個市場每年佔10%或者20%,那就完全足夠支撐一款晶片的生態。

在他在看來,AI晶片主要做了兩件事:

1、使得邊緣節點從原來資料採集的模組,變成了有計算能力的模組。端雲協同可將響應速度提升10倍以上。

2、當將能耗做的足夠低,裝置壽命會大幅延長。採用其邊緣計算+高能效AI晶片的方式,裝置壽命可從幾周提升至2年。

中石油某場站長期被高昂的裝置管理成本困擾,湃方科技為其精心打造的裝置智慧管理系統,內嵌Sticker系列AI晶片,並搭配高精度工業智慧演算法,場站裝置管理員可以通過湃方星雲APP實時監測管理裝置的執行狀況,對裝置的啟停、工況、故障狀態了然於胸。

經過計算,客戶的裝置管理成本在使用湃方智慧管理系統後比之前減少了近30%。

五、打造工業網際網路領域核心生態圈

在政策支援下,工業網際網路領域基本形成架構,包含泛AI平臺、產業網際網路平臺、垂直應用生態服務上。

武通達表示,湃方的定位於垂直裝置供應及運維廠商,會向客戶提供某類應用的全套解決方案以及技術支援。

從市場架構上來看,湃方是工業網際網路平臺生態的服務提供商之一。

從技術架構上來看,工業網際網路是一個複雜系統,融合了硬體、軟體、演算法、網路、平臺、終端應用等要素。

工業網際網路離不開AIoT大規模的資料支援,需要終端AIoT晶片做資料底層處理,減少冗餘資料的工作負載。武通達認為,AI晶片未來會成為工業網際網路非常大的技術基石。

基於AI晶片,湃方致力於以行業前沿技術和解決方案,和工業網際網路平臺豐富的資料資源和終端客戶資源進行互補,共同為終端客戶打造全產業鏈生態閉環。

目前,湃方科技已先後和樹根互聯、東方國信、海爾COMOSPlat、兆易創新以及中國移動oneNET等行業前沿工業網際網路企業打成戰略合作意向,打造技術雄厚、資源豐富的跨行業服務閉環,保障客戶在生態內實現一站式智慧升級。

結語:學術芯陸續走向落地

學術晶片落地戰鼓已經敲響,包括清華Sticker系列AI晶片IP核在內,國內國外陸續有一批批前沿晶片研究從學術殿堂走向落地。

我們也期待著這些曾在積體電路學術會議上大放異彩的晶片設計,在進入實際應用後,走出差異化路線,發揮產業價值。

最新評論
  • 1 #

    看晶片結構圖,層次低

  • 2 #

    總覺得一個剛成立2年左右就出高階芯的團隊不值得信任

  • 3 #

    沒有光刻機和熟練的技術工人就和紙上談兵一樣!形式大於內容!

  • 4 #

    這個公司的名字聽起來好聽,洋氣

  • 5 #

    買個電路板畫畫的吧

  • 6 #

    電路峰會吧?頂會?

  • 7 #

    成熟的產品已經擺在那兒,給個具體的跑分資料讓我們看看。就怕pia pia被打臉,我都覺得痛

  • 8 #

    你們這樣搞,以後還讓不讓外國人活啊。

  • 整治雙十一購物亂象,國家再次出手!該跟這些套路說再見了
  • 當你不是蘋果時,如何做真無線耳機生意?