Flume监控之Ganglia

前言

Ganglia是UC Berkeley发起的一个开源集群监视项目,设计用于测量数以千计的节点。Ganglia的核心包含gmond、gmetad以及一个Web前端。主要是用来监控系统性能,如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到重要作用。今天我们来看看如何用Ganglia来监控我们的flume集群数据。

Ganglia的安装与部署

1.安装httpd服务与php

1
[root@bigdata107 flume]# sudo yum -y install httpd php

2.安装其他依赖

1
2
[root@bigdata107 flume]# sudo yum -y install rrdtool perl-rrdtool rrdtool-devel
[root@bigdata107 flume]# sudo yum -y install apr-devel

##3.安装ganglia

1
2
3
4
5
[root@bigdata107 flume]# rpm -Uvh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm

[root@bigdata107 flume]# yum -y install ganglia-gmetad
[root@bigdata107 flume]# yum -y install ganglia-web
[root@bigdata107 flume]# yum install -y ganglia-gmond

4.修改配置文件

1
[root@bigdata107 flume]# vim /etc/httpd/conf.d/ganglia.conf

图片说明

1
[root@bigdata107 flume]# vim /etc/ganglia/gmetad.conf

图片说明

1
[root@bigdata107 flume]# vim /etc/ganglia/gmond.conf

图片说明

图片说明

1
[root@bigdata107 flume]#  vim /etc/selinux/config

图片说明

5.selinux本次生效关闭必须重启,如果此时不想重启,可以临时生效

1
[root@bigdata107 flume]#  sudo setenforce 0

启动Ganglia

1
2
3
4
5
6
[root@bigdata107 flume]# service httpd start
正在启动 httpd:
[root@bigdata107 flume]# service gmetad start
Starting GANGLIA gmetad: [确定]
[root@bigdata107 flume]# service gmond start
Starting GANGLIA gmond: [确定]

1.打开web UI

2.通过Ganglia监控Flume

1
[root@bigdata107 flume]# vim flume-env.sh

添加如下内容:
export JAVA_OPTS="-Dflume.monitoring.type=ganglia -Dflume.monitoring.hosts=192.168.216.107:8649 -Xms100m -Xmx200m"

3.启动flume任务

1
2
3
4
5
6
7
[root@bigdata107 flume]# bin/flume-ng agent 
--conf conf/
--name agent1
--conf-file job/flume_telnet_logger.conf
-Dflume.root.logger==INFO,console
-Dflume.monitoring.type=ganglia
-Dflume.monitoring.hosts=192.168.216.107:8649

4.发送数据查看Ganglia监测图

1
[root@bigdata107 flume]# telnet bigdata107 44444

图片说明

图片说明

文章目录
  1. 1. 前言
  2. 2. Ganglia的安装与部署
    1. 2.1. 1.安装httpd服务与php
    2. 2.2. 2.安装其他依赖
    3. 2.3. 4.修改配置文件
    4. 2.4. 5.selinux本次生效关闭必须重启,如果此时不想重启,可以临时生效
  3. 3. 启动Ganglia
    1. 3.1. 1.打开web UI
    2. 3.2. 2.通过Ganglia监控Flume
    3. 3.3. 3.启动flume任务
    4. 3.4. 4.发送数据查看Ganglia监测图
,