ELK菜鸟手记 (二) - 高级配置之多应用索引过滤-低调大师

ELK菜鸟手记 (二) - 高级配置之多应用索引过滤

2017-04-12 617

我们在实际的场景中，经常是多个网站或者服务端在一台服务器上，但是如果这些应用全部

记录到一台logstash服务器，大家日志都混在一起不好区分。

有人说，我可以在日志中打项目名，但是这样并不方便。

其实，我们可以在索引上做文章。

配置如下：

input {
    file {  
        path => ["/Users/KG/Documents/logs/app-a/*.log"]  
        type => "app-a"
    }  
    file {  
        path => ["/Users/KG/Documents/logs/app-b/*.log"] 
        type => "app-b"
    }  
}

output {
    stdout {
      codec => rubydebug
    }
    if [type] == "app-a" {  
       elasticsearch { 
            hosts => "你的elastic服务器地址:9200"  
            index =>  "app-a-%{+YYYY.MM.dd}"
            document_type => "log4j_type"
        }  
    }  
    else if [type] == "app-b" {  
        elasticsearch { 
            hosts => "你的elastic服务器地址:9200"  
            index => "app-b-%{+YYYY.MM.dd}"
            document_type => "log4j_type"
        }  
    }  
}

从上面的代码可以看出，我们配置了2个索引app-a表示应用A, 而app-b表示应用B。

我们利用了type和path属性，然后对不同路径的日志进行监控，将输入定向到不同的索引。

微信关注我们

原文链接：https://yq.aliyun.com/articles/303376

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

创业公司如何做数据分析（三）用户行为数据采集系统

作为系列文章的第三篇，本文将重点探讨数据采集层中的用户行为数据采集系统。这里的用户行为，指的是用户与产品UI的交互行为，主要表现在Android App、iOS App与Web页面上。这些交互行为，有的会与后端服务通信，有的仅仅引起前端UI的变化，但是不管是哪种行为，其背后总是伴随着一组属性数据。对于与后端发生交互的行为，我们可以从后端服务日志、业务数据库中拿到相关数据;而对于那些仅仅发生在前端的行为，则需要依靠前端主动上报给后端才能知晓。用户行为数据采集系统，便是负责从前端采集所需的完整的用户行为信息，用于数据分析和其他业务。举个例子，下图所示是一次营销活动(简化版)的注册流程。如果仅仅依靠后端业务数据库，我们只能知道活动带来了多少新注册用户。而通过采集用户在前端的操作行为，则可以分析出整个活动的转化情况：海报页面浏览量—>

2017-04-13

696

注意：重要的是每行必须是一个完整的JSON，一个JSON不能跨越多行，也就是说，serde不会对多行的Json有效。因为这是由Hadoop处理文件的工作方式决定，文件必须是可拆分的，例如，Hadoop将在行尾分割文本文件。 // this will work { "key" : 10 } // this will not work { "key" : 10 } 2. 下载Jar 使用之前先下载jar： http://www.congiu.net/hive-json-serde/ 如果要想在Hive中使用JsonSerde，需要把jar添加到Hive类路径中： add jar json-serde-1.3.7-jar-with-dependencies.jar; 3. 与数组使用源数据： {"country":"Switzerland","languages":["German","French","Italian"]} {"country":"China","languages":["chinese"]} Hive表： CREATE TABLE tmp_json_array ( ...

2017-04-14

478

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。