Rumah pangkalan data tutorial mysql HBase优化案例分析:Facebook Messages系统问题与解决方案

HBase优化案例分析:Facebook Messages系统问题与解决方案

Jun 07, 2016 pm 04:34 PM
facebook hbase message pengoptimuman Kajian kes

HDFS设计的初衷是为了存储大文件(例如日志文件),面向批处理、顺序I/O的。然而架设在HDFS之上的HBase设计的初衷却是为了解决海量数据的随机读写的请求。把这两种设计初衷截然相反的组件怎么揉在一起的呢?这种分层的结构设计主要是为了使架构更清晰,HBase

HDFS设计的初衷是为了存储大文件(例如日志文件),面向批处理、顺序I/O的。然而架设在HDFS之上的HBase设计的初衷却是为了解决海量数据的随机读写的请求。把这两种设计初衷截然相反的组件怎么揉在一起的呢?这种分层的结构设计主要是为了使架构更清晰,HBase层和HDFS层各司其职;但是却带来了潜在的性能下降。在很多业务场景中大家使用HBase抱怨最多的两个问题就是:Java GC相关的问题和随机读写性能的问题。Facebook Messages(以下简称FM系统)系统可以说是HBase在online storage场景下的第一个案例(《Apache Hadoop Goes Realtime at Facebook》, SIGMOD 2011),最近他们在存储领域顶级会议FAST2014上发表了一篇论文《Analysis of HDFS Under HBase: A Facebook Messages Case Study》分析了他们在使用HBase中遇到的一些问题和解决方案,使用HBase做online storage的同学们可以参考下。

该论文首先讲了Facebook的分析方法包括tracing/analysis/simulation,FM系统的架构和文件与数据构成等,接下来开始分析FM系统在性能方面的一些问题,并提出了解决方案。

http://www.infoq.com/cn/articles/hbase-casestudy-facebook-messages

Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

AI Hentai Generator

AI Hentai Generator

Menjana ai hentai secara percuma.

Artikel Panas

R.E.P.O. Kristal tenaga dijelaskan dan apa yang mereka lakukan (kristal kuning)
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Tetapan grafik terbaik
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Cara Memperbaiki Audio Jika anda tidak dapat mendengar sesiapa
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Cara Membuka Segala -galanya Di Myrise
3 minggu yang lalu By 尊渡假赌尊渡假赌尊渡假赌

Alat panas

Notepad++7.3.1

Notepad++7.3.1

Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina

SublimeText3 versi Cina

Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1

Hantar Studio 13.0.1

Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6

Dreamweaver CS6

Alat pembangunan web visual

SublimeText3 versi Mac

SublimeText3 versi Mac

Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Pengoptimuman program C++: teknik pengurangan kerumitan masa Pengoptimuman program C++: teknik pengurangan kerumitan masa Jun 01, 2024 am 11:19 AM

Kerumitan masa mengukur masa pelaksanaan algoritma berbanding saiz input. Petua untuk mengurangkan kerumitan masa program C++ termasuk: memilih bekas yang sesuai (seperti vektor, senarai) untuk mengoptimumkan storan dan pengurusan data. Gunakan algoritma yang cekap seperti isihan pantas untuk mengurangkan masa pengiraan. Hapuskan berbilang operasi untuk mengurangkan pengiraan berganda. Gunakan cawangan bersyarat untuk mengelakkan pengiraan yang tidak perlu. Optimumkan carian linear dengan menggunakan algoritma yang lebih pantas seperti carian binari.

Bagaimana untuk mengoptimumkan item permulaan sistem WIN7 Bagaimana untuk mengoptimumkan item permulaan sistem WIN7 Mar 26, 2024 pm 06:20 PM

1. Tekan kombinasi kekunci (kekunci win + R) pada desktop untuk membuka tetingkap jalankan, kemudian masukkan [regedit] dan tekan Enter untuk mengesahkan. 2. Selepas membuka Registry Editor, kami klik untuk mengembangkan [HKEY_CURRENT_USERSoftwareMicrosoftWindowsCurrentVersionExplorer], dan kemudian lihat jika terdapat item Serialize dalam direktori Jika tidak, kami boleh klik kanan Explorer, buat item baharu dan namakannya Serialize. 3. Kemudian klik Serialize, kemudian klik kanan ruang kosong dalam anak tetingkap kanan, cipta nilai bit DWORD (32) baharu dan namakannya Bintang

Konfigurasi parameter Vivox100s didedahkan: Bagaimana untuk mengoptimumkan prestasi pemproses? Konfigurasi parameter Vivox100s didedahkan: Bagaimana untuk mengoptimumkan prestasi pemproses? Mar 24, 2024 am 10:27 AM

Konfigurasi parameter Vivox100s didedahkan: Bagaimana untuk mengoptimumkan prestasi pemproses? Dalam era perkembangan teknologi yang pesat hari ini, telefon pintar telah menjadi bahagian yang amat diperlukan dalam kehidupan seharian kita. Sebagai bahagian penting telefon pintar, pengoptimuman prestasi pemproses berkaitan secara langsung dengan pengalaman pengguna telefon mudah alih. Sebagai telefon pintar berprofil tinggi, konfigurasi parameter Vivox100s telah menarik banyak perhatian, terutamanya pengoptimuman prestasi pemproses telah menarik banyak perhatian daripada pengguna. Sebagai "otak" telefon bimbit, pemproses secara langsung mempengaruhi kelajuan berjalan telefon bimbit.

Apakah beberapa cara untuk menyelesaikan ketidakcekapan dalam fungsi PHP? Apakah beberapa cara untuk menyelesaikan ketidakcekapan dalam fungsi PHP? May 02, 2024 pm 01:48 PM

Lima cara untuk mengoptimumkan kecekapan fungsi PHP: elakkan penyalinan pembolehubah yang tidak perlu. Gunakan rujukan untuk mengelakkan penyalinan berubah-ubah. Elakkan panggilan fungsi berulang. Fungsi mudah sebaris. Mengoptimumkan gelung menggunakan tatasusunan.

'Black Myth: Wukong ' Versi Xbox telah ditangguhkan kerana 'kebocoran memori', pengoptimuman versi PS5 sedang dijalankan 'Black Myth: Wukong ' Versi Xbox telah ditangguhkan kerana 'kebocoran memori', pengoptimuman versi PS5 sedang dijalankan Aug 27, 2024 pm 03:38 PM

Baru-baru ini, "Mitos Hitam: Wukong" telah menarik perhatian besar di seluruh dunia. Bilangan pengguna dalam talian serentak pada setiap platform telah mencapai tahap tertinggi yang baharu. Versi Xbox "Black Myth: Wukong" telah ditangguhkan Walaupun "Black Myth: Wukong" telah dikeluarkan pada platform PC dan PS5, tidak ada berita pasti tentang versi Xboxnya. Difahamkan, pegawai itu mengesahkan bahawa "Mitos Hitam: Wukong" akan dilancarkan di platform Xbox. Bagaimanapun, tarikh pelancaran khusus masih belum diumumkan. Baru-baru ini dilaporkan bahawa kelewatan versi Xbox adalah disebabkan oleh isu teknikal. Menurut seorang blogger yang berkaitan, dia belajar daripada komunikasi dengan pembangun dan "orang dalam Xbox" semasa Gamescom bahawa versi Xbox "Black Myth: Wukong" wujud.

Bagaimana untuk menggunakan alat dan perpustakaan untuk mengoptimumkan program C++? Bagaimana untuk menggunakan alat dan perpustakaan untuk mengoptimumkan program C++? May 08, 2024 pm 05:09 PM

Dalam pembangunan C++ moden, penggunaan alat dan perpustakaan untuk pengoptimuman adalah penting. Alat seperti Valgrind, Perf dan LLDB mengenal pasti kesesakan, mengukur prestasi dan nyahpepijat. Perpustakaan seperti Eigen, Boost dan OpenCV meningkatkan kecekapan dalam bidang seperti algebra linear, rangkaian I/O dan penglihatan komputer. Contohnya, gunakan Eigen untuk mengoptimumkan pendaraban matriks, Perf untuk menganalisis prestasi program, dan Boost::Asio untuk melaksanakan I/O rangkaian yang cekap.

Bitget Exchange Laman Web Log Masuk Masuk Terkini Bitget Exchange Laman Web Log Masuk Masuk Terkini Feb 18, 2025 pm 02:54 PM

Bitget Exchange menawarkan pelbagai kaedah log masuk, termasuk e -mel, nombor telefon bimbit dan akaun media sosial. Artikel ini memperincikan pintu masuk dan langkah terkini untuk setiap kaedah log masuk, termasuk mengakses laman web rasmi, memilih kaedah log masuk, memasukkan kelayakan log masuk, dan melengkapkan log masuk. Pengguna perlu memberi perhatian untuk menggunakan laman web rasmi semasa log masuk dan betul menyimpan kelayakan log masuk.

Senarai harga sejarah sejak kelahiran carta Trend Harga Sejarah Bitcoin BTC (Ringkasan Terkini) Senarai harga sejarah sejak kelahiran carta Trend Harga Sejarah Bitcoin BTC (Ringkasan Terkini) Feb 11, 2025 pm 11:36 PM

Sejak penciptaannya pada tahun 2009, harga Bitcoin telah mengalami beberapa turun naik utama, meningkat kepada $ 69,044.77 pada November 2021 dan jatuh ke $ 3,191.22 pada Disember 2018. Sehingga Disember 2024, harga terkini telah melebihi $ 100,204.

See all articles