


Mengapa Menambah Klausa `WHERE master_id IS NOT NULL` Meningkatkan `COUNT(*)` dalam Hive?
Pengecualian hive count: WHERE klausa menyebabkan kiraan meningkat
Semasa penerokaan data Hive, fenomena aneh telah diperhatikan. Apabila mengira menggunakan pernyataan ringkas select count(*) as c from mytable
, hasilnya ialah 1,129,563. Walau bagaimanapun, penambahan penapis select count(*) as c from mytable where master_id is not null
secara tidak dijangka meningkatkan kiraan kepada 1,134,041.
Siasatan lanjut mendedahkan bahawa lajur master_id
sentiasa mengandungi nilai bukan nol. Ini membawa kepada soalan: Bagaimana untuk menerangkan bahawa pelaksanaan syarat pengecualian nilai nol sebenarnya meningkatkan bilangan baris?
Penjelasan yang mungkin: Statistik sarang
Jawapannya terletak pada memahami kesan statistik Hive. Secara lalai, Hive menggunakan statistik untuk mengoptimumkan pertanyaan dan meningkatkan prestasi. Apabila melaksanakan pertanyaan select count(*) as c from mytable
(tanpa sebarang penapisan), Hive mungkin bergantung pada statistik yang disimpan untuk menganggarkan kiraan. Walau bagaimanapun, statistik ini tidak selalunya tepat atau terkini.
Dalam kes ini, statistik mungkin menunjukkan bahawa terdapat banyak baris dalam lajur master_id
yang mengandungi nilai nol. Apabila menambahkan penapis master_id is not null
, Hive menilai semula statistik dan mengiktiraf bahawa kebanyakan baris mengandungi nilai bukan nol. Ini menghasilkan kiraan yang lebih tepat, menghapuskan percanggahan yang ketara.
Kaedah untuk menyelesaikan masalah
Untuk mendapatkan kiraan yang tepat, terutamanya apabila bekerja dengan jadual yang telah diubah dengan ketara atau belum dianalisis baru-baru ini, adalah disyorkan:
-
Lumpuhkan statistik: Tetapkan
hive.compute.query.using.stats=false
untuk menghalang Hive daripada menggunakan statistik dan memaksa imbasan jadual penuh. -
Kumpul statistik: Gunakan perintah
ANALYZE TABLE
untuk mengemas kini statistik jadual secara manual dan memastikan ketepatannya. -
Dayakan pengumpulan statistik automatik: Tetapkan
hive.stats.autogather=true
untuk mengumpul statistik secara automatik semasa operasi data sepertiINSERT OVERWRITE
.
Atas ialah kandungan terperinci Mengapa Menambah Klausa `WHERE master_id IS NOT NULL` Meningkatkan `COUNT(*)` dalam Hive?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Alat AI Hot

Undresser.AI Undress
Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover
Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool
Gambar buka pakaian secara percuma

Clothoff.io
Penyingkiran pakaian AI

Video Face Swap
Tukar muka dalam mana-mana video dengan mudah menggunakan alat tukar muka AI percuma kami!

Artikel Panas

Alat panas

Notepad++7.3.1
Editor kod yang mudah digunakan dan percuma

SublimeText3 versi Cina
Versi Cina, sangat mudah digunakan

Hantar Studio 13.0.1
Persekitaran pembangunan bersepadu PHP yang berkuasa

Dreamweaver CS6
Alat pembangunan web visual

SublimeText3 versi Mac
Perisian penyuntingan kod peringkat Tuhan (SublimeText3)

Topik panas











Peranan utama MySQL dalam aplikasi web adalah untuk menyimpan dan mengurus data. 1.MYSQL dengan cekap memproses maklumat pengguna, katalog produk, rekod urus niaga dan data lain. 2. Melalui pertanyaan SQL, pemaju boleh mengekstrak maklumat dari pangkalan data untuk menghasilkan kandungan dinamik. 3.MYSQL berfungsi berdasarkan model klien-pelayan untuk memastikan kelajuan pertanyaan yang boleh diterima.

InnoDB menggunakan redolog dan undologs untuk memastikan konsistensi dan kebolehpercayaan data. 1. Pengubahsuaian halaman data rekod untuk memastikan pemulihan kemalangan dan kegigihan transaksi. 2.UNDOLOGS merekodkan nilai data asal dan menyokong penggantian transaksi dan MVCC.

Kedudukan MySQL dalam pangkalan data dan pengaturcaraan sangat penting. Ia adalah sistem pengurusan pangkalan data sumber terbuka yang digunakan secara meluas dalam pelbagai senario aplikasi. 1) MySQL menyediakan fungsi penyimpanan data, organisasi dan pengambilan data yang cekap, sistem sokongan web, mudah alih dan perusahaan. 2) Ia menggunakan seni bina pelanggan-pelayan, menyokong pelbagai enjin penyimpanan dan pengoptimuman indeks. 3) Penggunaan asas termasuk membuat jadual dan memasukkan data, dan penggunaan lanjutan melibatkan pelbagai meja dan pertanyaan kompleks. 4) Soalan -soalan yang sering ditanya seperti kesilapan sintaks SQL dan isu -isu prestasi boleh disahpepijat melalui arahan jelas dan log pertanyaan perlahan. 5) Kaedah pengoptimuman prestasi termasuk penggunaan indeks rasional, pertanyaan yang dioptimumkan dan penggunaan cache. Amalan terbaik termasuk menggunakan urus niaga dan preparedStatemen

Berbanding dengan bahasa pengaturcaraan lain, MySQL digunakan terutamanya untuk menyimpan dan mengurus data, manakala bahasa lain seperti Python, Java, dan C digunakan untuk pemprosesan logik dan pembangunan aplikasi. MySQL terkenal dengan prestasi tinggi, skalabilitas dan sokongan silang platform, sesuai untuk keperluan pengurusan data, sementara bahasa lain mempunyai kelebihan dalam bidang masing-masing seperti analisis data, aplikasi perusahaan, dan pengaturcaraan sistem.

MySQL sesuai untuk perusahaan kecil dan besar. 1) Perniagaan kecil boleh menggunakan MySQL untuk pengurusan data asas, seperti menyimpan maklumat pelanggan. 2) Perusahaan besar boleh menggunakan MySQL untuk memproses data besar dan logik perniagaan yang kompleks untuk mengoptimumkan prestasi pertanyaan dan pemprosesan transaksi.

Cardinality Indeks MySQL mempunyai kesan yang signifikan terhadap prestasi pertanyaan: 1. Indeks kardinaliti yang tinggi dapat lebih berkesan menyempitkan julat data dan meningkatkan kecekapan pertanyaan; 2. Indeks kardinaliti yang rendah boleh membawa kepada pengimbasan jadual penuh dan mengurangkan prestasi pertanyaan; 3. Dalam indeks bersama, urutan kardinaliti yang tinggi harus diletakkan di depan untuk mengoptimumkan pertanyaan.

Operasi asas MySQL termasuk membuat pangkalan data, jadual, dan menggunakan SQL untuk melakukan operasi CRUD pada data. 1. Buat pangkalan data: createdatabasemy_first_db; 2. Buat Jadual: CreateTableBooks (Idintauto_IncrementPrimaryKey, Titlevarchar (100) NotNull, Authorvarchar (100) NotNull, Published_yearint); 3. Masukkan Data: InsertIntoBooks (Tajuk, Pengarang, Published_year) VA

MySQL sesuai untuk aplikasi web dan sistem pengurusan kandungan dan popular untuk sumber terbuka, prestasi tinggi dan kemudahan penggunaan. 1) Berbanding dengan PostgreSQL, MySQL melakukan lebih baik dalam pertanyaan mudah dan operasi membaca serentak yang tinggi. 2) Berbanding dengan Oracle, MySQL lebih popular di kalangan perusahaan kecil dan sederhana kerana sumber terbuka dan kos rendah. 3) Berbanding dengan Microsoft SQL Server, MySQL lebih sesuai untuk aplikasi silang platform. 4) Tidak seperti MongoDB, MySQL lebih sesuai untuk data berstruktur dan pemprosesan transaksi.
