阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Ganglia的Python扩展模块开发

399次阅读
没有评论

共计 7300 个字符,预计需要花费 19 分钟才能阅读完成。

注:本文涉及到的代码都在 CentOS 6.5 64bit 系统上通过验证,Ganglia 版本为 3.1,通过 yum 安装具体步骤请参考:http://www.linuxidc.com/Linux/2015-08/121300.htm

1. 概述

Ganglia 项目是由加州大学发起的,现在已经成为一个应用非常广泛集群监控软件。可以监视和显示集群中的节点的各种状态信息,比如如:cpu、mem、硬盘利用率,I/ O 负载、网络流量情况等,同时可以将历史数据以曲线方式通过 php 页面呈现。同时具有很好的扩展性,允许用户加入自己所要监控的状态信息。根据可视化的相关数据,很容易知道集群的健康状态,并且也可以分析出集群的可优化的地方。

所有这些数据收集会多次影响节点性能。网络中的“抖动(Jitter)”发生在大量小消息同时出现,通过 ntp 服务将节点的时钟保持一致,就可以避免这个问题。

Ganglia 的工作原理如下图

Ganglia 的 Python 扩展模块开发

更多关于 Ganglia 工作原理请参考 http://www.linuxidc.com/Linux/2015-08/121296p2.htm,本文重点是讲述如何使用 Ganglia 提供的 Python 接口开发自己想要的 metric。

2. Ganglia 的 Metrics

何为 metric,在字典中其翻译为标准,度量之意。在 ganglia 的 Web 界面中我们看得最多的是如下这些图:

Ganglia 的 Python 扩展模块开发

这些图还不能算是真正的 metric,其只是各个种类的 metric 的汇总后通过 rrdtool 画出来的图,便于总体观察。下面这些才是本文要讲述的 metric(CPU 的 metrics):

Ganglia 的 Python 扩展模块开发

每一个小图表代表着 cpu 相关信息的一个数据类型,这些数据都是通过对应的部署在各个集群节点的程序模块搜集,而这个搜集模块的开发就是本文要重点讲解的。

3. 自定义 metrics 开发

向 ganglia 加入自定义 metric 有两种方法,一种是通过命令行的方式运行 gmetric,另一种是通过 ganglia 提供的面向 c 和 python 的扩展模块,加入自定义的模块支持。下面使用 Python 开发一个简单的 metric 实例:

在 /usr/lib64/ganglia/python_modules/ 中创建 random_number.py 并添加如下代码

#!/usr/bin/env python
# -*- coding: utf-8 -*-
import random
import time
descriptors = list()
def random_number_1(name):
    return int(random.uniform(5, 100)) + 10
def random_number_2(name):
    return int(random.randrange(50, 500))
def metric_init(params):
    global descriptors
    random.seed()
    print params
    d1 = {
        ‘name’: ‘random_number_1’,
        ‘call_back’: random_number_1,
        ‘time_max’: 90,
        ‘value_type’: ‘uint’,
        ‘units’: ‘C’,
        ‘slope’: ‘both’,
        ‘format’: ‘%u’,
        ‘description’: ‘Random a number’,
        ‘groups’: ‘example random’
    }
    d2 = {
        ‘name’: ‘random_number_2’,
        ‘call_back’: random_number_2,
        ‘time_max’: 90,
        ‘value_type’: ‘uint’,
        ‘units’: ‘C’,
        ‘slope’: ‘both’,
        ‘format’: ‘%u’,
        ‘description’: ‘Random a number’,
        ‘groups’: ‘example random’
    }
    descriptors = [d1, d2]
    return descriptors
def metric_cleanup():
    pass

#This code is for debugging and unit testing
if __name__ == ‘__main__’:
    metric_init({})
    while True:
        for d in descriptors:
            v = d[‘call_back’](d[‘name’])
            print (‘value for %s is ‘+d[‘format’]) % (d[‘name’], v)
        time.sleep(5)

在上面的代码中 Ganglia 运行的时候会调用 metric_init 和 metric_cleanup 两个函数,从这两个函数的名字我们就能得知前一个是做初始化工作,后面一个是做结束资源清理工作的。在 Ganglia 加载相关模块来运行时,只会调用这两个函数。这里的 main 函数入口只是为了做调试而写在这里的。

在 /etc/ganglia/conf.d/ 中创建 random_number.conf 文件,并添加如下代码

modules {

  module {

# 这里的 name 值一定要与 /usr/lib64/ganglia/python_modules/random_number.py 的文件名保持一致,否则将无法正确运行

    name = “random_number”

    language = “python”

  }

collection_group {

  collect_every = 2

  time_threshold = 90

 

  metric {

    #这里的 name 值要与 random_number.py 中的 d1 里的 name 保持一致

    name = “random_number_1”

    title = “random number 1”

    value_threshold = 0

  }

 

  metric {

    #这里的 name 值要与 random_number.py 中的 d2 里的 name 保持一致

    name = “random_number_2”

    title = “random number 2”

    value_threshold = 0

  }

}

配置好文件后重启服务

service gmond restart

service gmetad restart

service httpd restart

更多详情见请继续阅读下一页的精彩内容 :http://www.linuxidc.com/Linux/2015-08/121301p2.htm

————————————– 分割线 ————————————–

使用 Ganglia 监控 Hadoop 集群 http://www.linuxidc.com/Linux/2012-05/61349.htm

在 VMware Workstation 的 Ubuntu 下安装和配置 Hadoop 与 Ganglia http://www.linuxidc.com/Linux/2013-06/85856.htm

Ganglia 安装部署之一建立 Grid http://www.linuxidc.com/Linux/2013-05/83673.htm

Ganglia 极其简单安装教程 yum 版 http://www.linuxidc.com/Linux/2012-12/76536.htm

Ganglia 快速开始向导(翻译自官方 wiki)http://www.linuxidc.com/Linux/2013-11/92747.htm

CentOS 集群上安装 Ganglia-3.6.0 监控 Hadoop-2.2.0 和 HBase-0.96.0 http://www.linuxidc.com/Linux/2014-01/95804.htm

Ganglia 在 CentOS 6.5 的安装 http://www.linuxidc.com/Linux/2014-05/102024.htm

在 Ubuntu 14.04 Server 上安装 Ganglia http://www.linuxidc.com/Linux/2014-08/105838.htm

————————————– 分割线 ————————————–

4. 效果

在浏览器中输入 127.0.0.1/ganglia 即可看到监控效果,如果不出问题,则在 Metric 下拉框中会有如下两个选项:

Ganglia 的 Python 扩展模块开发

选择其中一项则在当前页面的最下端显示如下信息:

Ganglia 的 Python 扩展模块开发

5. 总结

本文只是讲述了最为简单的 Ganglia metric 开发,如果想深入了解可以参考 Ganglia 的官方文档,或者去 https://github.com/ganglia 上直接查看源码,其中 gmond_Python_modules 项目里提供了大量常见项目的 metrics 示例。

Ganglia 为集群提供了高可视化的监控,不仅能让运维人员快速的清楚集群当前的状态,而且还能让开发人员清楚系统的相关运行状态,从而针对性的做出更好的优化。

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2015-08/121301.htm

注:本文涉及到的代码都在 CentOS 6.5 64bit 系统上通过验证,Ganglia 版本为 3.1,通过 yum 安装具体步骤请参考:http://www.linuxidc.com/Linux/2015-08/121300.htm

1. 概述

Ganglia 项目是由加州大学发起的,现在已经成为一个应用非常广泛集群监控软件。可以监视和显示集群中的节点的各种状态信息,比如如:cpu、mem、硬盘利用率,I/ O 负载、网络流量情况等,同时可以将历史数据以曲线方式通过 php 页面呈现。同时具有很好的扩展性,允许用户加入自己所要监控的状态信息。根据可视化的相关数据,很容易知道集群的健康状态,并且也可以分析出集群的可优化的地方。

所有这些数据收集会多次影响节点性能。网络中的“抖动(Jitter)”发生在大量小消息同时出现,通过 ntp 服务将节点的时钟保持一致,就可以避免这个问题。

Ganglia 的工作原理如下图

Ganglia 的 Python 扩展模块开发

更多关于 Ganglia 工作原理请参考 http://www.linuxidc.com/Linux/2015-08/121296p2.htm,本文重点是讲述如何使用 Ganglia 提供的 Python 接口开发自己想要的 metric。

2. Ganglia 的 Metrics

何为 metric,在字典中其翻译为标准,度量之意。在 ganglia 的 Web 界面中我们看得最多的是如下这些图:

Ganglia 的 Python 扩展模块开发

这些图还不能算是真正的 metric,其只是各个种类的 metric 的汇总后通过 rrdtool 画出来的图,便于总体观察。下面这些才是本文要讲述的 metric(CPU 的 metrics):

Ganglia 的 Python 扩展模块开发

每一个小图表代表着 cpu 相关信息的一个数据类型,这些数据都是通过对应的部署在各个集群节点的程序模块搜集,而这个搜集模块的开发就是本文要重点讲解的。

3. 自定义 metrics 开发

向 ganglia 加入自定义 metric 有两种方法,一种是通过命令行的方式运行 gmetric,另一种是通过 ganglia 提供的面向 c 和 python 的扩展模块,加入自定义的模块支持。下面使用 Python 开发一个简单的 metric 实例:

在 /usr/lib64/ganglia/python_modules/ 中创建 random_number.py 并添加如下代码

#!/usr/bin/env python
# -*- coding: utf-8 -*-
import random
import time
descriptors = list()
def random_number_1(name):
    return int(random.uniform(5, 100)) + 10
def random_number_2(name):
    return int(random.randrange(50, 500))
def metric_init(params):
    global descriptors
    random.seed()
    print params
    d1 = {
        ‘name’: ‘random_number_1’,
        ‘call_back’: random_number_1,
        ‘time_max’: 90,
        ‘value_type’: ‘uint’,
        ‘units’: ‘C’,
        ‘slope’: ‘both’,
        ‘format’: ‘%u’,
        ‘description’: ‘Random a number’,
        ‘groups’: ‘example random’
    }
    d2 = {
        ‘name’: ‘random_number_2’,
        ‘call_back’: random_number_2,
        ‘time_max’: 90,
        ‘value_type’: ‘uint’,
        ‘units’: ‘C’,
        ‘slope’: ‘both’,
        ‘format’: ‘%u’,
        ‘description’: ‘Random a number’,
        ‘groups’: ‘example random’
    }
    descriptors = [d1, d2]
    return descriptors
def metric_cleanup():
    pass

#This code is for debugging and unit testing
if __name__ == ‘__main__’:
    metric_init({})
    while True:
        for d in descriptors:
            v = d[‘call_back’](d[‘name’])
            print (‘value for %s is ‘+d[‘format’]) % (d[‘name’], v)
        time.sleep(5)

在上面的代码中 Ganglia 运行的时候会调用 metric_init 和 metric_cleanup 两个函数,从这两个函数的名字我们就能得知前一个是做初始化工作,后面一个是做结束资源清理工作的。在 Ganglia 加载相关模块来运行时,只会调用这两个函数。这里的 main 函数入口只是为了做调试而写在这里的。

在 /etc/ganglia/conf.d/ 中创建 random_number.conf 文件,并添加如下代码

modules {

  module {

# 这里的 name 值一定要与 /usr/lib64/ganglia/python_modules/random_number.py 的文件名保持一致,否则将无法正确运行

    name = “random_number”

    language = “python”

  }

collection_group {

  collect_every = 2

  time_threshold = 90

 

  metric {

    #这里的 name 值要与 random_number.py 中的 d1 里的 name 保持一致

    name = “random_number_1”

    title = “random number 1”

    value_threshold = 0

  }

 

  metric {

    #这里的 name 值要与 random_number.py 中的 d2 里的 name 保持一致

    name = “random_number_2”

    title = “random number 2”

    value_threshold = 0

  }

}

配置好文件后重启服务

service gmond restart

service gmetad restart

service httpd restart

更多详情见请继续阅读下一页的精彩内容 :http://www.linuxidc.com/Linux/2015-08/121301p2.htm

————————————– 分割线 ————————————–

使用 Ganglia 监控 Hadoop 集群 http://www.linuxidc.com/Linux/2012-05/61349.htm

在 VMware Workstation 的 Ubuntu 下安装和配置 Hadoop 与 Ganglia http://www.linuxidc.com/Linux/2013-06/85856.htm

Ganglia 安装部署之一建立 Grid http://www.linuxidc.com/Linux/2013-05/83673.htm

Ganglia 极其简单安装教程 yum 版 http://www.linuxidc.com/Linux/2012-12/76536.htm

Ganglia 快速开始向导(翻译自官方 wiki)http://www.linuxidc.com/Linux/2013-11/92747.htm

CentOS 集群上安装 Ganglia-3.6.0 监控 Hadoop-2.2.0 和 HBase-0.96.0 http://www.linuxidc.com/Linux/2014-01/95804.htm

Ganglia 在 CentOS 6.5 的安装 http://www.linuxidc.com/Linux/2014-05/102024.htm

在 Ubuntu 14.04 Server 上安装 Ganglia http://www.linuxidc.com/Linux/2014-08/105838.htm

————————————– 分割线 ————————————–

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计7300字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7996907
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
星哥带你玩飞牛NAS-2:飞牛配置RAID磁盘阵列

星哥带你玩飞牛NAS-2:飞牛配置RAID磁盘阵列

星哥带你玩飞牛 NAS-2:飞牛配置 RAID 磁盘阵列 前言 大家好,我是星哥之前星哥写了《星哥带你玩飞牛 ...
恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击

恶意团伙利用 PHP-FPM 未授权访问漏洞发起大规模攻击 PHP-FPM(FastCGl Process M...
终于收到了以女儿为原型打印的3D玩偶了

终于收到了以女儿为原型打印的3D玩偶了

终于收到了以女儿为原型打印的 3D 玩偶了 前些日子参加某网站活动,获得一次实物 3D 打印的机会,于是从众多...
升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新SSL证书系统、申请godaddy的APIKEY

升级自动部署更新 SSL 证书系统、申请 godaddy 的 APIKEY 公司之前花钱购买的 ssl 证书快...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装 Black 群晖 DSM7.2 系统安装教程(在 Vmware 虚拟机中、实体机均可)! 前言 大家好,...
星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定!

星哥带你玩飞牛 NAS-9:全能网盘搜索工具 13 种云盘一键搞定! 前言 作为 NAS 玩家,你是否总被这些...
开源MoneyPrinterTurbo 利用AI大模型,一键生成高清短视频!

开源MoneyPrinterTurbo 利用AI大模型,一键生成高清短视频!

  开源 MoneyPrinterTurbo 利用 AI 大模型,一键生成高清短视频! 在短视频内容...
把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地

把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地

把小米云笔记搬回家:飞牛 NAS 一键部署,小米云笔记自动同步到本地 大家好,我是星哥,今天教大家在飞牛 NA...