圖片
#如圖所示,未進行資料資產化建置時,資料可能呈現離散狀態,資料生產和消費不統一,容易出現資料孤島或零利益的情況。
建構數據資產化後,我們整合不同通路數據,建構統一的數據來源,或數據採集、儲存、分析的流程鏈路,進而統一對應的數據結構、數據關係和消費出口。
營運資料經過採集、整編後,可服務於自身決策及業務流程。
圖片
上圖以場景為例,介紹了數據資產的分類。要理解資料資產,需要理解資料資產的三個要素,即資料類型、資料形式和資料載體的對應關係。
業務指標層面,SRE專注於交易耗時、交易訂單量等資訊;操作軟體層面,SRE專注於用戶IP、介面呼叫情況等資訊;基礎設施層面,則關注對應的網路丟包率、記憶體佔用或CPU使用率等資訊;再深入,SRE會更關注變更事件、發布試點或緊急變更的數量等資料。
我們根據日誌類別、關聯類別及監控類別等資料的不同表現形式,選擇對應儲存方式,例如關係型資料庫、持續性資料庫、訊息佇列或日誌檔案等。
圖片
根據所獲得的運維數據,首先建立一個資產化平台,例如後文提到的CMDB。利用這些平台,根據消費場景對大量的運維資料進行分解和管理,從而實現資產化。
另外,我們可以利用數位資產平台快速建立和改進與SRE穩定性相關的平台,如SLO和容量管理平台。一旦平台建立成功,我們將持續探索資料的潛在價值,並提升SRE所關注的穩定性。
圖片
運維資料標準化面臨的問題,和大數據場景下資料品質的問題類似,主要包括資料孤島、資料品質不高、資料不可知、資料服務不夠、取得資料的開發耗時長等。
這些問題導致,資料消費場景難以快速迭代,無法滿足業務需求。當人力資源、伺服器資源、中介軟體資源等不足時,資料標準化建置將帶來災難性的影響。
維運資料天生是不標準的,例如,日誌和日誌監控的資料儲存方式不同。而我們要在資源有限的情況下,進行最大化闡述,完成標準化。
針對近期業界比較火的概念,例如DataOps、AIOps等模型或場景,我們也缺乏成熟、全面的資料建模方法論。
將維運資料提升為資料資產,需圍繞治理方法、治理過程與技術平台三部分展開。
圖片
治理過程包括策略、建設與營運。整體建設方面,需要建造平台和工具,輔助自身運作。
建立技術平台的主要目的是,透過工具支撐存量和增量資料。
資料治理的關鍵要素主要圍繞在四個面向:組織保障、制度建構、專案落地和平台支撐。
CMDB設定管理處,主要圍繞著四面進行建置:基礎備案的技術台帳、詳細自然屬性、自然關聯關係、資源消費圖譜。我們需要分層建立對應業務的模型,再透過自動化感知或標準化流程,即時推送配置動態。
對應配置也需要有對應的視覺化介面,激發協作力量,最終,這些數據透過APP或對應離線場景,促進數據的消費場景。
個人理解,CMDB是元資料中心。如上圖所示,我們配置管理的資料庫CMDB,會對組織、人員、決策、權限、流程等相關資料進行清洗或組裝作業。
下層對接的平台很多,像是監控平台、郵件、簡訊、維運的資料庫等。這些資料組裝完畢後,會交由上層(類似服務管理階層的平台)進行資料輸出,完成資產管理、配置管理等一系列服務,並進行平台建置。
、
以應用為中心,可以實現組織-專案-人員的關聯關係,並與應用程式綁定。
應用在運作過程中,使用對應資源(伺服器資源、配置中心、可觀測指標等),再依照公司的組織架構形成從屬關係,最終把組織架構視角引用到微服務視角,形成資源及其資源的關係-拓撲,其中包括應用拓樸、物理拓樸。
圖片
圖片
上圖所示為CMDB,它會將基礎測試設施的元數據、Paas相關數據及運行數據,提供給上層(CI平台、CD平台、服務運作平台和服務運作平台)使用,圖中所示的下層平台就形成服務資源支撐平台。
這樣建造的好處是,為應用的全生命週期提供基本的資料支撐,包括應用創建、應用運行時態(建置、發布、擴容、計費)、回收應用下線後資源。
圖片
上圖是建造CMDB的四大階段,我們目前處於從服務導向到價值導向的第四階段。
部門導向:
資料導向:
場景導向:
服務導向:
價值導向:
圖片
綜上所述,我們要以資料全生命週期為出發點,確定屬性、理清關係、明確消費場景,借助自動化流程來保障資料的即時性與準確性。
圖片
圖片
標準化先行是,落地之前的所有事項,都圍繞著標準化進行建設。其中包括一些強要求,例如規劃要求、流程要求、組織要求和平台要求。
規格要求:
流程需求:
組織要求:
平台需求:
#首先,確定應用屬性。應用的屬性可能包括,應用程式的中英文名稱、應用程式等級、唯一ID、歸屬業務和業務領域等,屬性內容主要取決於個人定義。定義應用後,應用可能與其他CI產生關係,需進一步整理。
其次,明確應用的屬性負責人。應用具有對應的負責人、研發和SRE等,針對應用程式建置、發布、變更,以及圍繞使用者進行的其他動作,我們都有對應流程,以保障應用程式的配置和變更審核。
最後,進行定時的採集任務,以確保應用最終的資料準確性。
上圖提到的「資源」還是傳統意義上的資源,例如伺服器資源。透過一定方式採集這些資源,最終上報到資源管理平台。
以上是不會建造數據資產體系的SRE,不是一名好運維的詳細內容。更多資訊請關注PHP中文網其他相關文章!