Python での HBase 操作サンプル コード分析

黄舟
リリース: 2017-05-07 11:02:51
オリジナル
1668 人が閲覧しました


HBase をインストールする

HBase は、HDFS 上に構築された分散カラム ストレージ システムで、主に大規模な構造化データ ストレージに使用されます。ここでの目標は、Pythonが HBase にアクセスするための基本的な環境を提供することだけなので、バイナリ パッケージを直接ダウンロードして 1 台のマシンにインストールします。ダウンロード後、解凍し、設定ファイルを変更して、HBase を直接起動します。使用したシステムバージョンはubuntu14.04です。

ダウンロード

wget https://mirrors.tuna.tsinghua.edu.cn/apache/hbase/1.2.4/hbase-1.2.4-bin.tar.gz tar zxvf hbase-1.2.4-bin.tar.gz
ログイン後にコピー

設定

hbase-env.shを変更し、JAVA_HOMEを設定します。

export JAVA_HOME=/usr/lib/jvm/java-8-oracle
ログイン後にコピー

hbase-site.xmlを変更し、データを保存するルートディレクトリを設定します。

<configuration>
    <property>
        <name>hbase.rootdir</name>
        <value>file:///home/mi/work/hbase/data</value>
    </property></configuration>
ログイン後にコピー

スタート

bin/start-hbase.sh  # 启动bin/hbase shell  # 进入hbase交互shell
ログイン後にコピー

Thriftをインストールする

HBaseをインストールした後、Thriftもインストールする必要があります。他の言語でHBaseを呼び出す場合はThrift経由で接続する必要があるためです。

Thrift の依存関係をインストールする

sudo apt-get install automake bison flex g++ git libboost1.55 libevent-dev libssl-dev libtool make pkg-config
ログイン後にコピー

PS: libboost1.55-all-dev、ubuntu14.04 でのインストールに問題があったため、libboost1.55 をインストールしました。

コンパイルしてインストール

ソースコードをダウンロードし、解凍してコンパイルしてインストールします。 Thrift のダウンロード アドレス

tar zxf thrift-0.10.0.tar.gzcd thrift-0.10.0/./configure 
--with-cpp --with-boost --with-python --without-csharp --with-java 
--without-erlang --without-perl --with-php --without-php_extension --without-ruby --without-haskell  
--without-gomake  # 编译耗时较长sudo make install
ログイン後にコピー

HBase の Thrift サービスを開始します

bin/hbase-daemon.sh start thrift
ログイン後にコピー

システム プロセスを確認します

~/work/hbase/hbase-1.2.4/conf$ jps3009 ThriftServer4184 HMaster5932 Jps733 Main
ログイン後にコピー

ThriftServer が正常に開始されていることがわかり、複数の言語を使用して Thrift 経由で HBase にアクセスできるようになります。

Python は HBase を操作します

以下では、例として Python を使用して、HBase にアクセスする方法を示します。

依存関係パッケージのインストール

sudo pip install thriftsudo pip install hbase-thrift
ログイン後にコピー

デモプログラム

from thrift import Thriftfrom thrift.transport 
import TSocketfrom thrift.transport import TTransportfrom thrift.protocol 
import TBinaryProtocolfrom hbase import Hbasefrom hbase.ttypes import *

transport = TSocket.TSocket(&#39;localhost&#39;, 9090)

transport = TTransport.TBufferedTransport(transport)
protocol = TBinaryProtocol.TBinaryProtocol(transport)

client = Hbase.Client(protocol)
transport.open()

contents = ColumnDescriptor(name=&#39;cf:&#39;, maxVersions=1)# client.deleteTable(&#39;test&#39;)client.createTable(&#39;test&#39;, [contents])print client.getTableNames()# insert datatransport.open()

row = &#39;row-key1&#39;mutations = [Mutation(column="cf:a", value="1")]
client.mutateRow(&#39;test&#39;, row, mutations)
# get one rowtableName = &#39;test&#39;rowKey = &#39;row-key1&#39;result = client.getRow(tableName, rowKey)
print resultfor r in result:    
print &#39;the row is &#39;, r.row    
print &#39;the values is &#39;, r.columns.get(&#39;cf:a&#39;).value
ログイン後にコピー

実行結果:

[&#39;test&#39;]
[TRowResult(columns={&#39;cf:a&#39;: TCell(timestamp=1488617173254, value=&#39;1&#39;)}, row=&#39;row-key1&#39;)]
the row is  row-key1
the values is  1
ログイン後にコピー

以上がPython での HBase 操作サンプル コード分析の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

関連ラベル:
ソース:php.cn
このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
最新の問題
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート
私たちについて 免責事項 Sitemap
PHP中国語ウェブサイト:福祉オンライン PHP トレーニング,PHP 学習者の迅速な成長を支援します!