Heim Datenbank MySQL-Tutorial 利用udf函数将Hive统计结果直接插入到MySQL

利用udf函数将Hive统计结果直接插入到MySQL

Jun 07, 2016 pm 05:28 PM
hive

result为mysql数据库名,dc为数据库result中的表名 dc(code,size)括号中的字段为mysql表dc字段,values(?,?)对应hive统计结果的值

大部分利用hive做数据分析的步骤是先用hive将统计结果导出到本地文件或者Hive的其他表中,再将本地文件导入到mysql或者利用sqoop将Hive表导入到mysql中。
 
今天同事给推荐了一个利用udf函数直接将统计结果导入mysql的方法。
 
步骤为
 
hive>add jar /usr/lib/hive/lib/hive-contrib-0.9.0-cdh4.1.2.jar;
 
Added /usr/lib/hive/lib/hive-contrib-0.9.0-cdh4.1.2.jar to class path
 Added resource: /usr/lib/hive/lib/hive-contrib-0.9.0-cdh4.1.2.jar
 
hive>add jar /usr/share/java/mysql-connector-java-5.1.17.jar;
 
Added /usr/share/java/mysql-connector-java-5.1.17.jar to class path
 Added resource: /usr/share/java/mysql-connector-java-5.1.17.jar
 

hive>CREATE TEMPORARY FUNCTION dboutput AS 'org.apache.Hadoop.hive.contrib.genericudf.example.GenericUDFDBOutput';
 
hive>select dboutput('jdbc:mysql://localhost/result','root','123456','INSERT INTO dc(code,size) VALUES (?,?)',code,size) from accesslog limit 10;
 
注:result为mysql数据库名,dc为数据库result中的表名 dc(code,size)括号中的字段为mysql表dc字段,,values(?,?)对应hive统计结果的值 后面的code,size为hive表中的字段,accesslog表示hive中的表名称。
 
通过以上步骤即可将hive统计结果直接导入到mysql数据库中。

linux

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Clothoff.io

Clothoff.io

KI-Kleiderentferner

AI Hentai Generator

AI Hentai Generator

Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

R.E.P.O. Energiekristalle erklärten und was sie tun (gelber Kristall)
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Beste grafische Einstellungen
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. So reparieren Sie Audio, wenn Sie niemanden hören können
3 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25: Wie man alles in Myrise freischaltet
4 Wochen vor By 尊渡假赌尊渡假赌尊渡假赌

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Verwenden Sie die Sprache Hive in Go, um ein effizientes Data Warehouse zu implementieren Verwenden Sie die Sprache Hive in Go, um ein effizientes Data Warehouse zu implementieren Jun 15, 2023 pm 08:52 PM

In den letzten Jahren sind Data Warehouses zu einem integralen Bestandteil des Unternehmensdatenmanagements geworden. Die direkte Verwendung der Datenbank für die Datenanalyse kann einfache Abfrageanforderungen erfüllen. Wenn wir jedoch umfangreiche Datenanalysen durchführen müssen, kann eine einzelne Datenbank diese Anforderungen nicht mehr erfüllen. Derzeit müssen wir ein Data Warehouse verwenden, um große Datenmengen zu verarbeiten . Hive ist eine der beliebtesten Open-Source-Komponenten im Data-Warehouse-Bereich. Es kann die verteilte Hadoop-Computing-Engine und SQL-Abfragen integrieren und die parallele Verarbeitung großer Datenmengen unterstützen. Verwenden Sie gleichzeitig in der Go-Sprache

Erste Schritte mit PHP: PHP und Hive Erste Schritte mit PHP: PHP und Hive May 20, 2023 am 08:33 AM

PHP ist eine weit verbreitete serverseitige Programmiersprache, die in fast allen Branchen eingesetzt wird. In diesem Artikel werden wir die besondere Rolle von PHP bei der Verarbeitung großer Datenmengen untersuchen. Unter bestimmten Umständen kann PHP mit ApacheHive zusammenarbeiten, um eine Datenverarbeitung und -analyse in Echtzeit zu erreichen. Lassen Sie uns zunächst Hive vorstellen. Hive ist eine Hadoop-basierte Data Warehouse-Lösung. Es kann strukturierte Daten in SQL-Abfragen abbilden und die Abfragen als MapReduce-Aufgaben ausführen.

PHP implementiert die Open-Source-Big-Data-Analyseplattform Hive PHP implementiert die Open-Source-Big-Data-Analyseplattform Hive Jun 18, 2023 pm 02:47 PM

Da die Datenverarbeitung immer wichtiger wird, wird die Big-Data-Analyse immer häufiger. Allerdings möchten viele Unternehmen möglicherweise nicht viel Geld für eine Business-Analytics-Plattform ausgeben. Open-Source-Lösungen bieten diesen Unternehmen eine sinnvolle Option. In diesem Artikel besprechen wir, wie man die Open-Source-Big-Data-Analyseplattform Hive mit PHP implementiert. Hive ist ein Hadoop-basiertes Data-Warehouse-System, das große Datensätze auf Hadoop über SQL abfragen und verwalten kann. Für die Abfrage wird die SQL-ähnliche HiveQL-Sprache verwendet

Microsoft veröffentlicht einen Fix für den Fehler „Behavior:Win32/Hive.ZY' in Windows Defender Microsoft veröffentlicht einen Fix für den Fehler „Behavior:Win32/Hive.ZY' in Windows Defender Apr 28, 2023 pm 04:01 PM

Ein Microsoft-Beamter bestätigte weit verbreitete Berichte, dass Google Chrome, ChromiumEdge, Discord und mehrere andere Anwendungen von Microsofts integrierter Antivirensoftware „WindowsDefender“ als „Behavior:Win32/Hive.ZY“ gekennzeichnet wurden. Der Technologieriese bestätigte in einer Erklärung, dass er an einer Lösung arbeitet, die in den nächsten Stunden für alle bereitgestellt wird. Was genau ist „Behavior:Win32/Hive.ZY“? Laut einem auf dem Sicherheitsportal von Microsoft veröffentlichten Dokument ist jede mit „Behavior:Win32/Hive.ZY“ gekennzeichnete Datei dies

Microsoft Exchange Server von Hives „windows.exe'-Ransomware betroffen Microsoft Exchange Server von Hives „windows.exe'-Ransomware betroffen Apr 16, 2023 pm 01:28 PM

Während die Aktualisierung der Software und das Herunterladen von Dateien nur von vertrauenswürdigen Quellen zu den Standardpraktiken der Cybersicherheit gehören, ist angesichts der jüngsten Zunahme von Malware-Angriffen klar, dass in diesem Bereich mehr Aufklärung erforderlich ist. Zu diesem Zweck hat das Forensik-Team von Varonis einige Hinweise dazu gegeben, wie Angreifer, die Hive-Ransomware verwenden, in ihrer neuesten Angriffsserie auf Microsoft Exchange Server abzielen. Für diejenigen, die es nicht wissen: Hive folgt einem Ransomware-as-a-Service-Modell. Obwohl Microsoft E im Jahr 2021 wegen bekannter Schwachstellen ins Visier nimmt,

So beheben Sie das Verhalten von Windows Defender: Win32/Hive.ZY-Warnung So beheben Sie das Verhalten von Windows Defender: Win32/Hive.ZY-Warnung May 06, 2023 am 08:04 AM

Viele Benutzer von Windows 11 und 10 sind beunruhigt, wenn sie Warnmeldungen von Windows Defender sehen, die besagen, dass die Bedrohung „Verhalten: Win32/Hive.ZY“ erkannt wurde. Berichten zufolge wird diese Windows Defender-Warnung oder -Warnung ausgelöst, wenn Benutzer versuchen, einige häufig verwendete Anwendungen wie Google Chrome oder Chromium Edge, WhatsApp, Discord und Spotify zu öffnen. Selbst wenn Sie diese Bedrohung auf Ihrem PC blockiert haben, wird beim nächsten Öffnen dieser betroffenen Anwendung die Meldung MicrosoftDefenderAntivi angezeigt

Centos7-Installations- und Konfigurations-Hive-Tutorial. Centos7-Installations- und Konfigurations-Hive-Tutorial. Feb 19, 2024 pm 02:21 PM

Bei der Installation und Konfiguration von Hive unter CentOS7 können Sie die folgenden Schritte ausführen: Stellen Sie sicher, dass Java installiert ist: Stellen Sie zunächst sicher, dass Java auf CentOS7 installiert ist. Mit dem folgenden Befehl können Sie überprüfen, ob Java installiert ist: java-version. Wenn Java nicht installiert ist, installieren Sie bitte die entsprechende Java-Version entsprechend Ihren Anforderungen. Laden Sie Hive herunter: Besuchen Sie die offizielle Website von ApacheHive () und laden Sie die neueste stabile Version von Hive herunter. Dekomprimieren Sie das komprimierte Hive-Paket: Verwenden Sie den folgenden Befehl, um das komprimierte Hive-Paket zu dekomprimieren: tarxvfzhive-x.x.x.tar.gz Dadurch wird Hive in das aktuelle Verzeichnis dekomprimiert. Umgebungsvariablen konfigurieren: Terminal öffnen,

Wie lese ich eine Hive-Datenbank mit Python? Wie lese ich eine Hive-Datenbank mit Python? May 09, 2023 pm 04:28 PM

实际业务读取hive数据库的代码importloggingimportpandasaspdfromimpala.dbapiimportconnectimportsqlalchemyfromsqlalchemy.ormimportsessionmakerimportosimporttimeimportosimportdatetimefromdateutil.relativedeltaimportrelativedeltafromtypingimportDict, Listimportloggingi

See all articles