隨著城市治理和公共安全的智慧化建設及數字化應用的需求日益增長,如何更加高效地利用海量的資料為城市建設服務,成為了城市智慧化升級的關鍵。
E企研究院AI加速季本期聚焦城市場景,解讀格靈深瞳軟硬一體的城市級以圖搜圖解決方案,探究格靈深瞳如何運用領先的深度學習及高效能計算技術,對人臉、車輛、非機動車、人體等目標的圖片提供快速檢索服務,來實現“一臺裝置支撐城市級的影象檢索需求”。
細分場景
隨著計算機視覺和深度學習技術的迅速發展,透過計算機視覺能力檢測、識別影象如今 已經被零售、智慧交通等各個領域接受並廣泛應用。例如,在智慧交通領域,交通管理部門常常需要透過一張機動車圖片檢索目標資訊,並在省市級的範圍內追蹤目標軌跡。
格靈深瞳的以圖搜圖引擎適配智慧城市各類典型場景,可針對不同的場景應用和覆蓋範圍提供針對性的解決方案:
• 對於較小規模(資料量1億以內)特徵儲存、超高頻率的特徵比對場景(例如:動態人臉布控),可提供基於第二代英特爾®至強®可擴充套件處理器 + 記憶體的解決方案,滿足使用者的高頻比對需求;
• 對於超大規模特徵儲存、低頻比對場景(例如:抓拍庫的以圖搜圖、城市級的智慧化分析等典型場景),可提供基於第二代英特爾®至強®可擴充套件處理器 + 英特爾®傲騰™固態盤/資料中心級持久記憶體的解決方案,滿足使用者的超大規模特徵儲存比對需求;
• 單機支援30億人臉或80億人體/車輛/非機動車的檢索和儲存。同時支援最大 100 臺機器的橫向擴充套件,最大支援 3000 億目標(人體/車輛/非機動車)或 1000 億人臉的以圖搜圖在30秒內返回結果。
從硬體架構來看,格靈深瞳以圖搜圖解決方案採用第二代英特爾®至強®可擴充套件處理器,該處理器效能優異,同時支援 AVX2、AVX-512 指令集,每處理器六通道的 DRAM 提供了充足的記憶體頻寬,同時經過高度最佳化的英特爾® 數學核心庫(英特爾® MKL)提供了優越的函式計算能力和多執行緒支援。
下圖為格靈深瞳基於英特爾技術的分散式以圖搜圖引擎架構圖:
單機超大規模熱資料檢索
針對大規模特徵比對,格靈深瞳提供的三類不同場景的解決方案主要如下(以人臉特徵作為檢索目標描述檢索效能引數,人/車/非機動車特徵為人臉效能的3倍):
傳統方案A:一億特徵,一秒返回檢索結果,一億特徵需要記憶體容量50G;
傲騰固態盤方案B:五億特徵,三秒返回檢索結果,並且價格優於傳統方案A;
傲騰虛擬記憶體方案C:十億特徵,十秒返回,單機支援30億熱資料,價格更便宜。
下表格為三類方案的效能實測結果
資料載入時間短 斷電不易失
相比 DRAM 解決方案,英特爾®傲騰™ 持久記憶體解決方案還提供了更快的應用啟動時間。對於DRAM 解決方案,將1億個資料片段從硬碟載入至記憶體以及為這些資料構建關係所需的時間約為15分鐘,這意味著10億個資料片段約花費2個半小時。透過將構建的資料直接放在持久記憶體,每1億個資料片段花費的時間將縮短為3分鐘,10億個資料片段僅需10分鐘。
格靈深瞳以圖搜圖採用安擎AI伺服器EG630G-G20,可滿足對空間部署和高效能要求的2U機架式伺服器, 該系統基於英特爾資料中心方案集團最佳化設計的2312WF系統開發。在2U空間中支援2片計算加速卡,最大支援2顆最新一代英特爾® 至強® 可擴充套件處理器,可提供強大的計算能力。可實現更高密度的整合,將效能、拓展性、維護性相融合。
作為最早一批在中國把人工智慧投入到商業應用的創業企業,格靈深瞳專注於人工智慧演算法技術和應用的開發,致力於把先進的人工智慧、物聯網和大資料技術轉化為智慧的產品和服務,針對客戶不同的場景需求提供包含應用軟體、智慧硬體以及雲服務在內的產品及解決方案,目前,格靈深瞳的客戶已經覆蓋智慧金融、智慧城市、智慧商業等多個領域,加快客戶智慧升級步伐。