Heim > Datenbank > MySQL-Tutorial > Hauptteil

ChukWa入门1

WBOY
Freigeben: 2016-06-07 16:26:12
Original
1495 Leute haben es durchsucht

Chukwa 是什么? 在印度神话中Chukwa是一只最古老的龟。它支撑着世界。在它的背上还支撑着一种叫做Maha-Pudma的大象,在大象的背上顶着这个地球。呵呵,大象?Hadoop?不难理解为什么在Hadoop中的这个子项目叫做Chukwa了,或许Chukwa的其中一位开发者是印度

Chukwa 是什么?
  在印度神话中Chukwa是一只最古老的龟。它支撑着世界。在它的背上还支撑着一种叫做Maha-Pudma的大象,在大象的背上顶着这个地球。呵呵,大象?Hadoop?不难理解为什么在Hadoop中的这个子项目叫做Chukwa了,或许Chukwa的其中一位开发者是印度人?呵呵,我瞎猜的,神话中的Chukwa的,貌似是这样的,如图所示:
http://niaklq.bay.livefilestore.com/y1p8eCdLVS25INTbYWaYUDSFwSt9hfpEVCXZHlIASw-wozM_bC7Z5Jpfnxwxr8siBG5WrW8iPPoqbr6Sywc3ueCZHUoM68BZ87v/indiaplant.jpg?psid=1

 Chukwa是由Yahoo贡献,基于Hadoop的大集群监控系统,可以用他来分析和收集系统中的数据(日志)。Chukwa运行HDFS中存储数据的收集器和MapReduce框架之上,并继承了Hadoop的可扩展性和鲁棒性, Chukwa使用MapReduce来生成报告,他还包括一个用于监测和分析结果显示的web-portal工具,通过web-portal工具使这个收集数据的更佳具有灵活性,这点有点像是类似 linux工具,例如:awk 。这几乎是一个日志处理/分析的full stack solution,国内用hadoop做日志分析的,或者将要做日志分析的可以关注下。

   搭建、运行Chukwa要在Linux环境下,要安装MySQL数据库,在Chukwa/conf目录 中有2个SQL脚本 aggregator.sql、database_create_tables.sq l 导入MySQL数据库,此外还要有Hadoo的HDSF运行环境,Chukwa的整个系统架构如图所示:
 
http://niaklq.bay.livefilestore.com/y1p58UGaCioDWZCD5T_To2jnjZccitA-9LbtNNmA5rSLRS8kxHu8D4ikTZomNGryONjCvI9YzM2Zw-Z1f9bd_o2D7hQeuh3nKqd/components.gif?psid=1
 

Chukwa 由哪几个组件组成的? 
    Chukwa是Yahoo开发的Hadoop之上的数据采集/分析框架,主要用于日志采集/分析。该框架提供了采集数据的Agent,由Agent采集数据通过HTTP发送数据给Cluster的Collector,collector把数据sink进Hadoop,然后通过定期运行Map reducer来分析数据,将结果呈现给用户。
Chukwa 有以下4个主要的组成部分:
    Agent 收集各服务器的数据
    Collectors 接收agent的数据;并写进存储
    MapReduce jobs  归档数据
    HICC 就是 Hadoop Infrastructure Care Center的四个英文单词的缩写,简单来说是个Web工程用于ChukWa的内容展示。 

几个部件大致的处理流程如下:

http://niaklq.bay.livefilestore.com/y1p58UGaCioDWZ9dX9OL6lD2qMfPo9GuJcEHC14HRWP6DdXs4tRU_bUS58ZdMaMgGVwP9QCP0US17Av4hTQmMOpxnZt9vjhMTBC/datapipeline.png?psid=1
在这个Blog中后续会对ChukWa有进一步的描述,再次感谢你的阅读。

–end–

Verwandte Etiketten:
Quelle:php.cn
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage
Über uns Haftungsausschluss Sitemap
Chinesische PHP-Website:Online-PHP-Schulung für das Gemeinwohl,Helfen Sie PHP-Lernenden, sich schnell weiterzuentwickeln!