資料資產管理面臨的挑戰與需求
隨著5G、人工智慧、物聯網的快速發展,資料資產管理領域也逐步進入到了深水區,資料情況越來越錯綜複雜,需要管理的資料量越來越大,異構資料來源越來越多,分散式的資料環境在快速增長,涉及的實時重要業務也越來越多,資料呈現出多樣性、複雜性、分佈性的特徵。
同時,對於資料需求方(即資料管理者、資料工程師及資料消費者)來說,需要資料資產管理的過程更為敏捷,具備規範化的快速的資料處理流程能力,可以低成本的“可看”資料、“可用”資料、“可管”資料,也需要我們從業者提供資料管理的全生命週期服務,包括頂層設計、產品服務、培訓賦能及可持續運營等。
增強型資料資產管理VS資料資產管理其中,產品基座由DTSphere資料管理平臺產品提供技術支撐,作為一站式自動化資料流水線的產品工具,包括了類似低程式碼的開發元件(透過“配置”生成資料加工邏輯,白屏化展示)及全鏈路的資料血緣、資料對賬和執行監控能力。同時,基於產品基座統一服務於資料管理的4個階段,從資料整合、資料處理和管控、資料共享服務及資料質量評估的閉環,最佳化提升資料加工及交付過程,提升資料質量。
增強型資料資產管理的特點增強型的資料資產管理主要有以下三個特點:
互動式的資料資產視窗系統提供資料資產的全景展示能力,解決資料資產“看”的問題;在這個系統中,使用者可以自由進行互動式的資料資產情況的檢視,我們可以看整體看區域性,呈現總體的資產概覽,提供多種層級和維度的資產統計的相關分析。
端到端的資料質量管理方案提升資料資產的質量管理能力,從資料質量角度重點解決對資料資產“管”的問題。我們透過統一的責任清單,統一的資料標準,統一的資料報告,統一的資料流程,這四個統一很好地解決了資料質量管理中面臨的相關問題。
增強型元資料管理的技術支撐透過增強型元資料管理的技術支撐, 提升資料管理的效率、質量和精度 ,凸顯“智”能資料管理的能力。
(相關情況我們在下個章節單獨介紹☟)
增強型資料資產管理的技術支撐基於增強的元資料管理技術,管理資料資產的“全息檔案”和“關係圖譜”,使得資料管理者、資料工程師、資料消費者能在統一的平臺上協同工作,持續完善資料資產的業務屬性、技術屬性和管理屬性,持續完善資料資產質量。主要體現在如下四方面。
1、全量採集
增強了資料架構支援能力,支援結構化/非結構化多種型別、相容適配實時/離線數倉、資料湖等各種資料架構,形成全域性統一的資料資源檢視。
2、同步採集
元資料採集在資料加工過程中同步、自動進行,保證元資料採集的完整性和一致性。避免了資料加工過程和元資料採集分離,避免了透過手工或者指令碼的方式事後補錄元資料,保證資料質量。
3、欄位粒度
對加工過程血緣關係,可以支援到資料欄位粒度的採集。特別在大型資料資源池建設場景下資料交付的可運維性最為關鍵,完整準確的資料血緣記錄至關重要。
4、自動繼承
業務元資料在資料生命週期內可以智慧自動繼承,實現“一次錄入,全域性一致”。使得“不同處理過程中不同角色對於資料的一致理解”成為可能,同時,也避免了業務類元資料在資料加工鏈路上需要多次維護,提升資料質量。
增強型資料資產管理的應用成效增強型資料資產管理在城市大腦、應急管理、數字政府等行業中應用成效顯著。