首頁 常見問題 資料倉儲需要什麼技術

資料倉儲需要什麼技術

May 07, 2019 am 10:24 AM
資料倉儲

資料倉儲技術(Data Warehousing)是基於資訊系統業務發展的需要,基於資料庫系統技術發展而來,並逐步獨立的一系列新的應用技術。資料倉儲主要有兩大技術:OLTP和OLAP,我們來分析:

資料倉儲需要什麼技術

一、OLTP和OLAP

資料倉儲需要什麼技術

# OLTP的全名為Online Transaction Processing, OLTP主要用傳統的關係型資料庫來進行交易處理。 OLTP最核心的需求是單一記錄的高效快速處理,索引技術、分庫分錶等最根本的訴求就是解決此問題。

OLAP的全名是Online Analytical Processing,OLAP能夠處理和統計大量的數據,不像OLTP數據庫需要考慮數據的增刪改查和並發控制等,OLAP數據一般只需要處理數據查詢請求,數據導入批量導入的,因此透過列存儲,列壓縮和位圖索引等技術可以大大加快響應請求的速度。

二、OLTP與OLAP資料的簡單比較

#三、資料倉儲邏輯架構設計

離線資料倉儲通常基於維度建模理論來構建,離線資料倉儲通常從邏輯上進行分層,分詞主要出於以下考慮:######1、隔離性:使用者使用的應該是數據團隊精心加工後的數據,而不是來自於業務系統的原始數據,這樣做的好處一是,用戶使用的是精心準備過的、規範的、乾淨的、從業務視角的數據。非常容易理解和使用。二是如果上游業務系統發生變革甚至重構(例如表格結構、欄位、業務意義等),資料團隊會負責處理所有這些變化,最小化對下游使用者的影響。 ######2、性能和可為維護性: 專業的人做專業的事,數據分層使得數據的加工基本上都在數據團隊,從而相同的業務邏輯不用重複執行,節省了相應的存儲和計算開銷。此外資料分層也使得資料倉儲的維護變得清晰且便捷,每層只負責各自的任務,某層的資料加工出現問題,只需要修改該層即可。 ######3、規範:對一個公司和組織來說,數據的口徑非常重要,大家談論一個指標的時候,必須基於一個明確的、公認i的口徑,此外表、字段以及指標必須進行規範。 ######4、ODS層:資料倉儲來源系統的資料表通常會原封不動地儲存一份,這稱為ODS(Operation Data Store)層, ODS層也常會被稱為準備區( Staging area),它們是後續資料倉儲層(即基於Kimball維度建模產生的事實表和維度表層,以及基於這些事實表和明細表加工的匯總層資料)加工資料的來源,同時ODS層也儲存著歷史的增量資料或全量資料。 ######5、DWD和DWS層:資料倉儲明細層(Data Warehouse Detail , DWD)和資料倉儲匯總層(Data Warehouse Summary, DWS)是資料倉儲的主題內容。 DWD和DWS層的資料是ODS層經過ETL清洗、轉換、載入產生的,而且它們通常都是基於Kimball的維度建模理論來建構的,並透過一致性維度和資料匯流排來保證各個子主題的維度一致性。 ######6、應用層(ADS):應用層主要是各個業務放或部門基於DWD和DWS建立的資料集市(Data Mart,DM),資料集市DM是相對於DWD和DWS的資料倉儲(Data Warehouse, DW)來說的。一般來說,應用層的資料來自DW層,但原則上不允許直接存取ODS層。此外,相較於DW層,應用層只包含部門或因為方自己關心的明細層和總計層資料。 ###

以上是資料倉儲需要什麼技術的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

透過MySQL開發實現資料加工與資料倉儲的專案經驗分享 透過MySQL開發實現資料加工與資料倉儲的專案經驗分享 Nov 03, 2023 am 09:39 AM

在當今數位化時代,數據已被普遍認為是企業決策的基礎與資本。但是,處理大量數據並將其轉化為可靠的決策支援資訊的過程並不容易。這時,資料加工和資料倉儲開始發揮重要作用。本文將分享一個透過MySQL開發實現資料加工和資料倉儲的專案經驗。一、專案背景本專案是基於一個商業企業資料化建設的需要,旨在透過資料加工和資料倉儲實現資料匯聚、一致性、清洗和可靠性。本次實施的數據

在Go語言中使用Hive實現高效率的資料倉儲 在Go語言中使用Hive實現高效率的資料倉儲 Jun 15, 2023 pm 08:52 PM

近年來,資料倉儲成為了企業資料管理中不可或缺的一部分。直接使用資料庫進行資料分析可以滿足簡單的查詢需求,但當我們需要進行大規模資料分析時,單一資料庫已經無法滿足需求,這時我們需要使用資料倉儲來處理大量資料。而Hive則是資料倉儲領域中最受歡迎的開源元件之一,它可以將Hadoop分散式運算引擎和SQL查詢整合在一起,並支援大量資料的平行處理。同時,在Go語言中使

使用統一資料倉儲打破資料孤島:基於Apache Doris的CDP 使用統一資料倉儲打破資料孤島:基於Apache Doris的CDP Mar 20, 2024 pm 01:47 PM

隨著企業資料來源日益多樣化,資料孤島問題變得普遍。保險公司在建構客戶資料平台(CDP)時,面臨資料孤島導致的元件密集型運算層,資料儲存分散的問題。為了解決這些問題,他們採用了基於 Apache Doris 的 CDP 2.0,利用 Doris 的統一資料倉儲能力,打破資料孤島,簡化資料處理管道,提升資料處理效率。

Go語言如何支援雲端上的資料倉儲與資料分析應用? Go語言如何支援雲端上的資料倉儲與資料分析應用? May 17, 2023 pm 04:51 PM

近年來,隨著雲端運算技術的不斷發展,雲端上的資料倉儲和資料分析已經成為了越來越多企業所關注的領域。作為一種高效且易於學習的程式語言,Go語言如何支援雲端上的資料倉儲和資料分析應用呢? Go語言的雲端資料倉儲開發應用在雲端上開發資料倉儲應用,Go語言可以使用多種開發框架和工具,開發過程通常非常簡單。其中,重要的幾個工具包括:1.1GoCloudGoCloud是一

資料倉儲相對於操作型資料庫來說其突出特點是什麼 資料倉儲相對於操作型資料庫來說其突出特點是什麼 Jul 19, 2022 pm 04:15 PM

突出特點是“海量資料支援”和“快速檢索技術”。資料倉儲是決策支援系統和線上分析應用資料來源的結構化資料環境,而資料庫是整個資料倉儲環境的核心,是資料存放的地方和提供對資料檢索的支援;相對於操縱型資料庫來說其突出的特點是對大量資料的支援和快速的檢索技術。

PHP與資料倉儲的集成 PHP與資料倉儲的集成 May 16, 2023 pm 11:10 PM

隨著網路和大數據的快速發展,越來越多的企業開始將資料倉儲(datawarehouse)作為支撐業務發展的重要基礎設施。而作為一種流行的程式語言,PHP也逐漸成為了許多企業和組織的首選,那麼如何將PHP與資料倉儲整合呢?一、資料倉儲概述資料倉儲是指以主題為核心,依照一定的資料模型與資料架構建立起來的大型資料儲存系統。其目的是為了提高資料的存取速度和查詢效率

如何確保人工智慧和分析專案不會失敗? 如何確保人工智慧和分析專案不會失敗? May 08, 2023 pm 06:40 PM

2023年是經濟危機和氣候風險不斷升級的一年,因此需要數據驅動的見解來推動效率、彈性和其他關鍵舉措,這將是企業在2023年的首要任務。許多企業一直在嘗試採用先進的分析技術和人工智慧來滿足這項需求。現在,他們必須把概念的驗證轉化為投資回報。許多企業正在取得巨大進步,投入了大量人才和合適的軟體。然而,也有許多企業的人工智慧和分析專案遭遇失敗,因為他們沒有採用正確的基礎技術來支援人工智慧和進階分析工作負載。有些企業依賴過時的傳統硬體系統,有些企業則受到利用公有雲帶來的成本和控制問題的阻礙。大多數企

如何使用Java開發一個基於Hive的資料倉儲應用 如何使用Java開發一個基於Hive的資料倉儲應用 Sep 21, 2023 pm 04:48 PM

如何使用Java開發一個基於Hive的資料倉儲應用引言:在當今大數據時代,資料倉儲是企業儲存和處理大量資料的重要工具。 Hive作為Hadoop生態系統中的一員,提供了資料倉儲解決方案。本文旨在介紹如何使用Java開發一個基於Hive的資料倉儲應用,並提供詳細的程式碼範例。一、準備工作在開始之前,我們需要確保以下幾點:安裝Hadoop和Hive,並確保其正常運作