zabbix 自定义LLD-低调大师

zabbix 自定义LLD

2017-11-20 720

线上部分实时job是用storm开发的，为了监控数据的延迟，在storm处理日志的时候会把日志的时间插入到redis中，然后通过zabbix做延迟的监控。由于经常有新的job上线，手动配置监控项就变得比较麻烦，为了解放生产力，还是需要搞成自动化。

之前添加网卡和分区监控的时候用了LLD的功能，并用了其内置的宏变量，新版本的zabbix是支持custom LLD的，实现步骤如下：

1.在模板中设置一个discovery rule ( UserParameter Key)，调用脚本，返回zabbix规定的json数据（返回自定义的宏变量），并正确设置的discovery（比如filter等）

这里通过官方文档并结合线上的agent日志，可以看到zabbix规定的数据格式

 
        143085:20141127:000548.967 Requested [vfs.fs.discovery]
       
        143085:20141127:000548.967 Sending back [{
       
        "data"
        :[ 
       
        { 
       
        "{#FSNAME}"
        :
        "\/"
        , 
       
        "{#FSTYPE}"
        :
        "rootfs"
        }, 
       
        { 
       
        "{#FSNAME}"
        :
        "\/proc\/sys\/fs\/binfmt_misc"
        , 
       
        "{#FSTYPE}"
        :
        "binfmt_misc"
        }, 
       
        { 
       
        "{#FSNAME}"
        :
        "\/data"
        , 
       
        "{#FSTYPE}"
        :
        "ext4"
        }]}]

比如线上返回json数据的key:

 
        UserParameter
        =
        storm.delay.discovery,python2.
        6 
        /
        apps
        /
        sh
        /
        zabbix_scripts
        /
        storm
        /
        storm_delay_discovery.py

并通过

 
        zabbix_get  -s 127.0.0.1 -k storm.delay.discovery

验证返回数据的准确性

storm_delay_discovery.py内容如下：

 
        #!/usr/bin/python2.6
       
        #for storm job delay monitor auto discovery
       
        #edit by ericni.ni
       
        #2014-11-27
       
        import 
        sys 
       
        import 
        redis 
       
        import 
        exceptions 
       
        import 
        traceback 
       
        _hashtables 
        = 
        [] 
       
        _continue 
        = 
        True 
       
        _alllist 
        = 
        [] 
       
        class 
        RedisException(Exception): 
       
        def 
        __init__(
        self
        , errorlog): 
       
        self
        .errorlog 
        = 
        errorlog 
       
        def 
        __str__(
        self
        ): 
       
        return 
        "error log is %s" 
        % 
        (
        self
        .errorlog) 
       
        def 
        scan_one(cursor,conn): 
       
        try
        : 
       
        cursor_v 
        =  
        conn.scan(cursor) 
       
        cursor_next 
        = 
        cursor_v[
        0
        ] 
       
        cursor_value 
        = 
        cursor_v[
        1
        ] 
       
        for 
        line 
        in 
        cursor_value: 
       
        if 
        (line.startswith(
        "com-vip-storm"
        ) 
        or 
        line.startswith(
        "stormdelay_"
        )): 
       
        _hashtables.append(line) 
       
        else
        : 
       
        pass 
       
        return 
        cursor_next 
       
        except 
        Exception,e: 
       
        raise 
        RedisException(
        str
        (e)) 
       
        def 
        scan_all(conn): 
       
        try
        : 
       
        cursor1 
        = 
        scan_one(
        '0'
        ,conn) 
       
        global 
        _continue 
       
        while 
        _continue: 
       
        cursor2 
        = 
        scan_one(cursor1,conn) 
       
        if 
        int
        (cursor2) 
        =
        = 
        0
        : 
       
        _continue 
        = 
        False 
       
        else
        : 
       
        cursor1 
        = 
        cursor2 
       
        _continue 
        = 
        True 
       
        except 
        Exception,e: 
       
        raise 
        RedisException(
        str
        (e)) 
       
        def 
        hget_fields(conn,hashname): 
       
        fields 
        = 
        conn.hkeys(hashname) 
       
        re 
        = 
        "[" 
       
        #print "hashname %s"%(hashname) 
       
        #print fields 
       
        for 
        field 
        in 
        fields: 
       
        aline 
        = 
        "" 
       
        aline 
        +
        = 
        """{"{#STORMHASHNAME}": "%s", "{#STORMHASHFIELD}": "%s"}"""
        %
        (hashname,field) 
       
        _alllist.append(aline) 
       
        if 
        __name__ 
        =
        = 
        '__main__'
        : 
       
        re 
        = 
        "" 
       
        try
        : 
       
        r
        =
        redis.StrictRedis(host
        =
        'xxx'
        , port
        =
        xxx, db
        =
        0
        ) 
       
        scan_all(r) 
       
        for 
        hashtable 
        in 
        _hashtables: 
       
        hget_fields(r,hashtable) 
       
        re 
        +
        = 
        """{"data": """ 
       
        re 
        +
        = 
        str
        (_alllist).replace(
        "'",'') 
       
        re += "}" 
       
        print re.replace("'"
        ,'"') 
       
        except 
        Exception,e: 
       
        print  
        -
        1

2.设置item/graph/trigger prototypes：

这里以item为例，定义item prototypes (同样需要定义key),key的参数为宏变量

比如Free inodes on {#FSNAME} (percentage)--->vfs.fs.inode[{#FSNAME},pfree]

本例中，在item中使用上面返回的宏变量即可，

 
        storm_delay[hget,{
        #STORMHASHNAME},{#STORMHASHFIELD}]

最后，把包含LLD的template链接到host上即可。

最后再配合screen.create/screenitem.update api就可以实现监控添加/screen添加,更新的自动化了。

本文转自菜菜光 51CTO博客，原文链接：http://blog.51cto.com/caiguangguang/1583536，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/434373

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

使用python来访问Hadoop HDFS存储实现文件的操作

在调试环境下，咱们用hadoop提供的shell接口测试增加删除查看，但是不利于复杂的逻辑编程查看文件内容 www.xiaorui.cc 用python访问hdfs是个很头疼的事情。。。。这个是pyhdfs的库 1 2 3 4 5 6 7 import pyhdfs fs = pyhdfs.connect( "192.168.1.1" , 9000 ) pyhdfs. get (fs, "/rui/111" , "/var/111" ) f = pyhdfs.open(fs, "/test/xxx" , "w" ) pyhdfs.write(fs, f, "fuck\0gfw\n" ) pyhdfs.close(fs, f) pyhdfs.disconnect(fs) pyhdfs的安装过程很吐血 1 2 3 4 5 6 7 svn checkout http: //libpyhdfs.googlecode.com/svn/trunk/ libpyhdfs cd libpyhdfs cp /usr/lib/hadoop- 0.20 /hadoop-core- 0.20 . 2 -c...

2017-11-21

503

yarn oom问题一例

线上部分job运行失败，报OOM的错误: 因为是maptask报错，怀疑是map数量过少，导致oom，因此调整参数，增加map数量，但是问题依然存在。看来和map的数量没有关系。通过jobid查找jobhistory中对应的日志信息，定位到出错的task id和对应的host.通过日志查看出问题的containerid. 由于container是由RM进行分配的，查看RM的日志，可以看到container的分配情况：比如下面的例子： 1 2014-05-06 16:00:00,632 INFO org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FSSchedulerNode: Assigned container container_1399267192386_43455_01_000037 of capacity <memory:1536, vCores:1> on host xxxx:44614, which currently has 4 containers, <memory:6144...

2017-11-21

577

发表评论

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。