首頁>Club>
8
回覆列表
  • 1 # 奇樂多多多

    SoC中所謂AI加速核其實就是針對主流的機器學習演算法所具有的一定特徵,從計算層面對其中的運算過程,透過並行化處理進行加速。

    那麼AI核為什麼能夠實現加速呢?

    這裡就要引入一些通用計算與專用計算的概念了。傳統通用計算處理核心CPU,其執行指令過程中,雖然不同的架構有不同的方式,但都具有以下三個過程:取指、譯碼、執行。對於任意一條指令,即便起操作與上一條指令相同,只是資料不同,也同樣需要經歷這樣幾個步驟。由於通用計算需要支援很多不同的指令,因此具有極其複雜的電路結構,即便當下CPU核心普遍具有多發射/多級流水技術,也都支援SIMD操作,其能夠並行處理的資料量十分有限。換句話說,CPU太過強大不適合用來處理這種大規模、但是操作簡單的計算。

    而專用晶片ASIC其內部電路結構是針對某種特定的計算方式而特製的,其電路驅動方式也由CPU的指令流驅動轉變為資料流驅動,內部電路能夠針對這種計算方式做針對性最佳化,晶片的吞吐率和算力對這種資料流而言,較CPU呈幾何倍數的提升。

    當然,還有一種方式就是可重構計算了。可重構計算陣列由配置流指令驅動,只要結構設計合理,對SIMD操作同樣可以具有很好的效能/效率。

    再回到AI演算法。

    當下所採用的AI演算法普遍基於大規模的矩陣運算,矩陣運算的特點就是運算元巨大,但其計算簡單且單一,具有十分鮮明的結構特點,因此十分適合採用脫離出傳統CPU、GPU架構的方式,採用並行化處理的方式去計算。因此在人工智慧領域,AI演算法基本上不可能在CPU上實現,絕大多數演算法的訓練都是在一些高階顯示卡以及一些基於FPGA專用的加速晶片去完成的。

    因此,在手機端無法負擔如此巨大的功耗限制下,採用基於AISC思路的特殊架構,如麒麟980/990,去提升計算效率的方案得到了普遍的採用。麒麟990達芬奇架構能夠支援超過300個AI運算元,能夠對很多經典、常用AI演算法實現硬體級加速。

    從作業系統層面,針對AI加速核所提供的API可以被任何應用程式所使用,如題主提到的人臉識別但又不僅僅局在這個領域。AI核提供的是一種算力,任何基於人工智慧演算法的應用都能夠得到加速,如系統級的使用者習慣學習、小藝/小愛同學/Bixby等智慧助手的學習、輸入法自動聯想、自動修圖、自動分類、AI攝影場景最佳化等等,都能夠透過這樣硬體級加速去提升使用者的使用體驗。

    從另一種角度去思考,AI算力也為一門尚未得到全面發展的學科:計算攝像學,提供了必要的支撐,從而使得手機攝影質量的提升不再像傳統影像裝置一樣,僅僅停留在硬體層面,順著“底大一級壓死人”的思路去提升效果。各種降噪演算法、運動補償演算法、摳圖演算法、邊緣最佳化、畫素補償演算法,甚至是小到色彩最佳化演算法、AI場景識別的應用、包括蘋果的Deep Fusion,都是基於這樣一種能夠提供強大的人工智慧算力的晶片去實現的。說到這裡就必須要提一下Google去年的Pixel 3L,Pixel3雖然採用了單攝,但其憑藉出色的演算法最佳化,做到了在某些不依賴於焦段的場景下,優於大部分雙攝、甚至三攝手機的拍攝質量和摳圖效果。Pixel 3L在拍攝時所使用到演算法,多到連驍龍845都不足以提供支撐的程度,還在主機板額外集成了一顆加速核來提供算力支撐。和蘋果今年的三攝系統一樣,這是一種影像領域的探索與嘗試,也是一種人工智慧的深度應用,是值得敬佩和學習的。

    因此,如你所見,AI核給手機帶來的不是噱頭,不是AI換臉、AI修圖,也不是像科幻電影那樣強大到成為一個實體的存在,更重要的是帶來了一種透過機器學習去提升使用者體驗的思路,使得手機成為你生活的幫手,而不僅僅是一個工具。

  • 2 # 時光之林間漫步

    人工智慧(Artificial Intelligence),英文縮寫為AI。

    目前AI主要用在:

    影象識別

    語音識別

    模式識別

    深度學習

    判斷使用者行為

    SoC中的所謂AI加速,其實就是針對機器學習演算法所具有的一定特徵,從計算層面對其中的運算過程,透過並行化處理進行加速。

    其實AI也可以CPU來運算,但是划不來。CPU效能很強悍,相應的功耗也大一些。並且做為中心處理器,要做的事情很多。而AI類的資料是矩陣形式的,資料量大,需要分析的演算法相對固定,這樣在soc上專門集成了一塊NPU單元,單獨快速分析深化使用者操作習慣。

    華為、APPLE、聯發科等主流手機晶片都集成了NPU處理AI,華為990/980、Apple A12/A13、高通驍龍845/855等。麒麟9905G的AI效能堪稱最強移動AI處理器,ETH3.0跑分高達76206分,達到了高通驍龍855的2.78倍。

    目前AI效能的強弱最好體現的就是在影象識別,也是目前AI使用最典型的場景。這個是因為AI並沒有統一一些介面,沒有統一的規範,各個廠家根據自己NPU的特點開發一些基礎的功能。

    比如華為手機拍照部分的AI功能很豐富很強大:人像 食物 草地 藍天 白雲 瀑布 沙灘 植物 古董 博物館 檔案 都能匹配對應的模式和曝光方式。

    原本全英文的網頁,在攝像頭下自動轉變成了中文:

    購物模式可以自動找到物品連結:

    識別模式可以識別出是什麼物品:

    隨著未來各個廠商開發的AI模式越來越多,精細化使用者體驗,未來的AI用途會非常廣泛的。

  • 3 # 三葉微風

    目前的主流都是在soc內嵌AI處理器,比如海思麒麟和聯發科處理器, 基本兩家都不約而同地增加soc中AI處理器的效能,並已做到領先高通的地位。

    那SOC中整合AI處理器的好處是什麼呢?其實最早一開始大家基本也是外掛的形式支援AI處理器,比如早期華為海思麒麟晶片就外掛寒武紀的AI處理晶片晶片,那為何後來都轉入整合呢?原因有二:

    1.與SOC整合modem處理器一樣,會使晶片整體體積變小,功耗更少,更易於發揮處理器的效能。

    2.AI處理器的技術對SOC廠商來說,技術門檻並不高,用別人的不如用自己的。這也是寒武紀目前最大的危機,被華為拋棄後,市場重心放在哪會是最棘手的問題。

  • 4 # EVtoday

    我理解你的問題是:

    SOC中的AI晶片起什麼作用?

    這是個有意思的問題,也是現在各大手機廠商喜歡宣傳的亮點。

    下面我來嘗試以華為第一款整合AI功能的SoC晶片麒麟970為例來解答一下。

    1、什麼是SOC?

    SoC,System-on-a-Chip,系統級晶片。SoC上一般集成了手機上最關鍵的部件,比如CPU、GPU、記憶體、還有其他功能晶片去NPU神經網路晶片。

    SoC可以理解為多個功能晶片的一個整合封裝。

    上圖,華為麒麟970就是一塊典型的SoC晶片,集成了處理器CPU、影象GPU、智慧NPU、影象處理ISP、基帶Modem等功能晶片。

    手機功能越做越強,主機板越做越小,體積有限,高整合度的SoC則能很好地提高整合密度,降低廠商開發難度。

    2、什麼是AI(晶片)?

    AI,Artificial Intelligence,人工智慧。英文縮寫為AI。應用包括機器人、語言識別、影象識別、自然語言處理等等。

    圖中的神經網路晶片單元NPU就是AI晶片。

    手機智慧化程度越來越高,需要對語言識別,影象處理等多個方面進行功能拓展和加強,專用獨立的AI應運而生。

    3、手機SoC中整合AI晶片有什麼作用?

    那麼整合AI晶片具體有啥用呢?GPU和CPU協同工作不是也可以實現深度學習和智慧運算嗎?

    有人會說,傳統CPU+GPU能夠實現一定程度的智慧運算,但是效率不高,能耗很高。

    所以獨立的AI晶片的整合,就是為了提升裝置上的機器學習和影象處理的效能等智慧運算能力,降低能耗而生的。

    具體有沒有AI晶片有啥區別呢?

    麒麟 970 的這顆 NPU專門為深度學習而定製,FP16 效能達到了 1.92 TFLOP,差不多是麒麟 960 的 3 倍(0.6 TFLOP 左右)。

    華為在釋出會展示了一張在進行 AI 運算時,NPU 和 CPU、GPU 的對比圖。

    可以看到,效能上NPU 是 CPU 的 25 倍,GPU 的 6.25 倍,能效比上,NPU 更是達到了 CPU 的 50 倍,GPU 的 6.25 倍。

    還提到,在華為內部的測試中,麒麟 970 的 NPU 每分鐘可以識別出 2005 張照片,而不使用 NPU ,使用CPU+GPU組合的話,則每分鐘只能識別 97 張。

    可以看來,搭載獨立AI晶片NPU後,手機的智慧處理效能和能效,結果天壤之別。

    這就是現在智慧手機晶片為什麼SoC必須整合AI晶片的原因和作用。

    上圖是蘋果A13晶片,我們也可以看到集成了Neural Engine神經引擎,也就是AI晶片功能。

    4、手機AI晶片實現的功能應用

    知道了整合AI晶片對手機節能增效有用,那麼具體對手機智慧化應用有哪些意義呢?

    (1)影象處理

    (2)智慧助手

    如蘋果的Siri,安卓的翻譯助手,有了AI晶片加持後,就會效率更高,更加聰明,更加智慧。

    (3)AR應用和遊戲

    (AR虛擬蘋果總部)

    (AR遊戲表情)

    AR也是AI晶片的應用場景之一。

    相信隨著手機AI晶片的發展,智慧化應用的場景會越來越多。

    綜上所述,我們可以看到手機SoC整合AI晶片是當下人工智慧技術在手機領域逐漸應用和普及的表現。

    隨著手機效能的拓展和功能的增強,我們會看到更多、更強大的AI晶片出現在SoC上,這是一種發展趨勢。

  • 中秋節和大豐收的關聯?
  • 古代帝王祭拜哪些神明?