邊緣計算雖然是當下的科技難題，但也為IT架構師和嵌入式開發人員提供了更多的選擇，最終，邊緣計算將會演變出邊緣AI技術，加快決策的效率和質量。

當下，科技應用對人工智慧和機器學習的需求超過了對雲資料庫的需求，因為對重要物聯網感測器資料的處理越來越接近資料最初所在的位置。這一舉措將由新一代人工智慧（AI）晶片實現，其中包括比GPU、FPGA和其他專門的IC型別更窄的記憶體和功耗要求的嵌入式微控制器，以及其他被應用於亞馬遜、微軟和谷歌的雲資料中心的特定IC型別控制器，幫助資料科學家解決問題。

正是因為雲服務，機器學習和相關的神經網路才得以迅猛發展。但由於物聯網的興起造成了資料衝擊，便有了對基於邊緣計算的機器學習技術的需求。現在，雲提供商、物聯網（IoT）平臺製造商和其他公司認為，在將資料移交給雲進行分析之前，在邊緣網路處理資料會存在一定的優勢，比如基於AI的決策可以減少延遲，使感測器資料的實時響應更加可行和適用。儘管如此，人們稱之為的“邊緣AI”的形式仍然有很多種，如何利用下一代物聯網為其提供支援，在呈現高質量的可行資料方面提出了挑戰。

1、邊緣計算工作量的增長

基於邊緣網路的機器學習可以推動物聯網市場中AI應用的顯著增長，Mordor Intelligence估計，到2026年，人工智慧將以27.3%的複合年增長率增長。EclipseFoundationIoT Group research在2020年支援了這一點，該研究認為人工智慧佔物聯網開發人員最常引用的邊緣計算工作量的30%。對於許多應用程式來說，在雲端無休止地複製並啟用並行機器學習的伺服器機架是不可行的。而人工智慧在邊緣網路解析影象資料的應用已被證明是一個有著無限潛力的領域。但是，使用物聯網裝置收集的資料進行事件處理有許多複雜的處理需求。

2、邊緣計算的價值

Hyperion Research高階顧問史蒂夫·康威(Steve Conway)表示，基於雲端的物聯網分析仍將持續下去。但是，資料的遠距離傳輸必然帶來處理延遲，因為將資料移入和移出雲端會因為往返時間產生滯後。“我們不可能將解決問題的重心放在超過光速上，”史蒂夫說“所以處理資料的層次正在往邊緣網路發展。” 除了裝置和板級實施之外，此層次結構還包括製造中的IoT閘道器和資料中心，這些擴充套件了可用於下一代IoT系統開發的架構選項。SAS已經建立了經過驗證的邊緣物聯網參考架構，客戶可以在此基礎上構建AI和分析應用，這些應用是不可能在雲端高效且低成本的進行使用和分析的。所以為了在雲和邊緣AI之間取得平衡，我們必須要考慮到資料量的規模性，而這就是基於邊緣的人工智慧處理器在資料發到其他地方之前進行本地處理的意義所在。

3、關於AI邊緣晶片的市場競爭力

基於雲的機器學習技術的興起受到高記憶體頻寬GPU興起的影響。這項成功引起了其他晶片製造商的關注。內部AI專用處理器緊隨其後的是超大規模雲服務玩家Google、AWS和Microsoft。AI晶片之戰使得AMD、Intel、Qualcomm和ARM Technology(去年被NVIDIA收購)等領先企業並駕齊驅。反過來，Maxim Integrated、NXP Semiconductors、Silicon Labs、STM Microelectronics等嵌入式微處理器和片上系統的主流開始致力於將AI功能新增到邊緣網路。如今，物聯網和邊緣處理需求吸引了包括EdgeQ、Graphcore、Hailo、Mythic等在內的AI晶片初創公司。目前，邊緣處理還受到限制。Hyperion的Steve Conway強調說，障礙包括可用記憶體、能耗和成本。

4、軟硬體的配合

Maxim Integrated公司的微控制器和軟體演算法業務執行董事克里斯·阿迪斯(Kris Ardis)建議，資料移動是邊緣能耗的一個因素。例如，Maxim Integrated公司釋出了MAX78000，該器件將低功耗控制器與神經網路處理器配對，可在電池供電的物聯網裝置上執行，進而節省頻寬和通訊消耗。與此同時，基於該晶片的單個物聯網裝置可以為物聯網閘道器提供支援，物聯網閘道器也可以發揮重要作用，將來自裝置的資料彙總起來，並進一步過濾可能流向雲的資料，以分析整體操作。為簡化視覺系統的開發，NVIDIA推出了Jetson JetPack 4.5，其中包括其視覺程式設計介面(VPI)的首個生產版本。隨著時間的推移，邊緣的AI開發瑣事將更多地由IT部門來處理，而對機器學習有深入瞭解的AI研究人員將減少處理。

5、Tiny Machine Learning的興起

在終端和邊緣側的微處理器上實現的機器學習過程就叫做tiny Machine Learning(即tinyML)。這項技術以更低的功耗完成工作並使用有限的記憶體，實現了以秒為單位的推理速度。縮小神經網路處理的規模是這裡的主要目標，並且這些技術有很多種，大家致力於將邊緣機器學習的複雜性抽象提取出來。雖然研究的方向是越來越複雜的大規模AI模型，但隨著機器學習達到的黃金時段，效率又成了新的關注重心。

6、展望未來

在邊緣網路中，採用多層神經網路和無監督學習來識別影象的機器視覺技術已成為AI的重要應用案例，位於最靠近資料採集處的智慧攝像頭透過嵌入式硬體為深度學習增加了處理能力。雖然一些解決方案存在固有的風險，但是高的投資回報率提高了模式識別的應用可行性。所以即使物聯網本身具有一定的侷限性，但是藉助人工智慧和機器學習、深度學習，物聯網將會被普及並且被賦予更高的價值。