Filebeat 日志收集器 logstash-forwarder 的替代品-低调大师

Filebeat 日志收集器 logstash-forwarder 的替代品

2016-09-07 654 89

Filebeat是一个开源的文件收集器，主要用于获取日志文件，并把它们发送到logstash或elasticsearch。与libbeat lumberjack一起替代logstash-forwarder。

在logstash-forwarder项目上，看到下面一些信息“The filebeat project replaces logstash-forwarder. Please use that instead.No further development will occur on this project. Major bug fixes or security fixes may be worked on through 2016, at which point this repository and its project will be abandoned.The replacement is filebeat which receives new features and fixes frequently. ”

说明了啥？简单而言logstash-forwarder寿终正寝了，将由filebeat替代了。

前面一文《ELK部署指南》是用logstash-forwarder来收集日志的，当时刚刚研究ELK，没有细读文档，凭借之前的了解来研究的。后面将logstash-forwarder换成filebeat，请关注。

filebeat介绍

filebeat最初是基于logstash-forwarder源码的日志数据shipper。Filebeat安装在服务器上作为代理来监视日志目录或特定的日志文件，要么将日志转发到Logstash进行解析，要么直接发送到Elasticsearch进行索引。

Filebeat 架构如下：

安装Filebeat

deb：

 
        1
       
        2
       
        curl
         
        -
        L
         
        -
        O
         
        https
        :
        //download.elastic.co/beats/filebeat/filebeat_1.0.0-rc1_amd64.deb 
       
        sudo 
        dpkg
         
        -
        i
         
        filebeat_1
        .
        0.0
        -
        rc1_amd64
        .
        deb

rpm:

 
         1
       
         2
       
        curl
        
        -
        L
        
        -
        O
        
        https
        :
        //download.elastic.co/beats/filebeat/filebeat-1.0.0-rc1-x86_64.rpm 
       
        sudo
        rpm
        
        -
        vi
        filebeat
        -
        1.0.0
        -
        rc1
        -
        x86_64
        .
        rpm

mac:

 
        1
       
        2
       
        curl
         
        -
        L
         
        -
        O
         
        https
        :
        //download.elastic.co/beats/filebeat/filebeat-1.0.0-rc1-darwin.tgz 
       
        tar 
        xzvf 
        filebeat
        -
        1.0.0
        -
        rc1
        -
        darwin
        .
        tgz

配置Filebeat

filebeat 默认预定了适应大部分场景的配置参数。对于最基本的Filebeat配置，可以定义一个单一路径的单一prospector，如：

 
         1
       
         2
       
         3
       
         4
       
         5
       
        filebeat
        : 
       
        prospectors
        : 
       
        - 
       
        paths
        : 
       
        -
        
        "/var/log/*.log"

该配置将获取/va/log/目录下的所有以.log结尾的文件。

如果要获取子目录下的所有文件可以这么设置/var/log/*/*.log。只会收集到/var/log/目录的子目录以.log结尾的文件，不包括 /var/log自身目录下的以.log结尾的文件。同时，也不会递归的去获取子目录的子目录下的文件。

一个配置文件可以包含多个prospector和每个prospector多个路径，如：

 
        1
       
        2
       
        3
       
        4
       
        5
       
        6
       
        7
       
        8
       
        9
       
        filebeat
        : 
       
        prospectors
        : 
       
        - 
       
        paths
        : 
       
        -
         
        /
        var
        /
        log
        /
        system
        .
        log 
       
        -
         
        /
        var
        /
        log
        /
        wifi
        .
        log 
       
        - 
       
        paths
        : 
       
        -
         
        "/var/log/apache/*"

该配置文件启动两个prospector，第一个prospector具有两个harvester，一个获取system.log文件另一个获取wifi.log文件。第二个prospector启动一个harvester获取/var/log/apache目录下的每个文件。

向Elasticsearch加载索引模板

在启动filebeat之前，需要向elasticsearch加载索引模板，以让Elasticsearch知道哪些字段应以何种方式进行分析。

推荐的模板文件已经由Filebeat软件包提供，使用下面的命令进行加载：

 
         1
       
         2
       
         3
       
         4
       
        # curl -XPUT 'http://10.1.19.18:9200/_template/filebeat?pretty' -d@/etc/filebeat/filebeat.template.json 
       
        { 
       
        "acknowledged"
        
        :
        
        true 
       
        }

es地址换成你自己的。

导出的字段

由Filebeat导出的字段，包括下面两类:

Common Fields
Log File Content Fields

common fields

包含所有事件可用的类型。

shipper
类型：字符串
@timestamp
类型：日期
例如：2015年1月24日14：06：05.071000
格式：YYYY-MM-DDTHH：MM：SS.milliZ
必须：是
日志读取的时间戳。精度为毫秒。时区是UTC。
type
必须：是
日志事件的名称，设置为prospectors document_type 配置选项。
input_type
必须：是

Log File Content Fields

包含日志文件行。

source
类型：字符串
必须：是
offset
类型：int
必须：否
line
类型：int
必须：是
message
类型：字符串
必须：是
fields Fields
包含用户可配置的领域。
fileinfo Fields
操作系统特定文件的信息用于标识源文件。例如在Linux上inode可能会报告。

配置选项

Filebeat的配置文件使用YAML格式。配置前看看默认设置以及描述信息。filebeat.yml 包含下面几个部分：

Shipper
Output
Filebeat
Logging (optional)
Run options (optional)

具体请看文档：https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-configuration-details.html

https://www.elastic.co/guide/en/beats/libbeat/1.0.0-rc1/configuration.html#configuration

命令行选项

 
         1
       
         2
       
         3
       
         4
       
         5
       
         6
       
         7
       
         8
       
         9
       
         10
       
         11
       
         12
       
         13
       
         14
       
         15
       
         16
       
         17
       
        # filebeat -h 
       
        Usage
        of
        filebeat
        : 
       
        -
        N
            
        Disable
        actual
        publishing
        for
        
        testing 
       
        -
        c
        
        string 
       
        Configuration
        file
        
        (
        default
        
        "/etc/filebeat/filebeat.yml"
        ) 
       
        -
        cpuprofile
        string 
       
        Write
        cpu
        profile
        to
        
        file 
       
        -
        d
        
        string 
       
        Enable
        certain
        debug
        selectors 
       
        -
        e
            
        Log
        to
        
        stderr
        and
        
        disable
        syslog
        /
        file
        output 
       
        -
        memprofile
        string 
       
        Write
        memory
        profile
        to
        
        this
        
        file 
       
        -
        test 
       
        Test
        configuration
        and
        
        exit
        . 
       
        -
        v
            
        Log
        at
        INFO
        level 
       
        -
        version 
       
        Print
        version
        and
        
        exit

所有的配置参数需要写入到配置文件中。

转自：http://www.ttlsa.com/elk/filebeat-replacement-logstash-forwarder/

微信关注我们

原文链接：https://yq.aliyun.com/articles/66264

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

storm如何部署拓扑

storm集群搭建比较简单，参考官方文档即可http://storm.apache.org/releases/1.0.2/Setting-up-a-Storm-cluster.html 启动Nimbus ./bin/storm nimbus & 启动Storm UI，方便对集群状态的监控。 ./bin/storm ui & 启动supervisor ./bin/storm supervisor & 更新git代码 git pull --rebase maven命令打包，xxx-0.0.1-SNAPSHOT.jar mvn package 提交拓扑上传jar包并部署到Nimbus主机，并执行如下命令， ./bin/storm jar myTopology/xxx-0.0.1-SNAPSHOT.jar com.oplan.storm.topology.InsightTopology 201609071857 查看监控图，在Topology Summary栏目下能看到刚刚部署的拓扑的状态，Supervisor Summary则是supervisor的状态。可以...

727

Filebeat 日志收集器安装和配置

Filebeat 风来了.fox 1.下载和安装 https://www.elastic.co/downloads/beats/filebeat 目前最新版本 1.3.0 这里选择 LINUX 64-BIT 即方式一方式一：源码 wget https://download.elastic.co/beats/filebeat/filebeat-1.3.0-x86_64.tar.gz tar -zxvf filebeat-1.3.0-x86_64.tar.gz 方式二：deb curl -L -O https://download.elastic.co/beats/filebeat/filebeat_1.3.0_amd64.deb sudo dpkg -i filebeat_1.3.0_amd64.deb 方式三：rpm curl -L -O https://download.elastic.co/beats/filebeat/filebeat-1.3.0-x86_64.rpm sudo rpm -vi filebeat-1.3.0-x86_64.rpm 方式四：MAC curl -L ...

595

发表评论

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。