开源日志收集软件fluentd 转发(forward)架构配置-低调大师

开源日志收集软件fluentd 转发(forward)架构配置

2017-11-11 590

需求：

通过开源软件fluentd收集各个设备的apache访问日志到fluentd的转发服务器中，然后通过webHDFS接口，写入到hdfs文件系统中。

软件版本说明：

hadoop版本：1.1.2

fluentd版本：1.1.21

测试环境说明：

node29服务器上安装了apache，以及fluentd，作为fluentd的客户端；

node1服务器，为hadoop服务器的namenode；

node29服务器上fluentd配置文件：

 
        <
        source
        > 
       
        type 
        tail 
       
        format 
        apache2 
       
        path 
        /var/log/httpd/access_log 
       
        pos_file 
        /var/log/td-agent/access_log
        .pos 
       
        time_format %Y-%m-%d %H:%M:%S 
       
        localtime 
       
        tag apache.access 
       
        <
        /source
        > 
       
        #Log Forwarding to node1 server
       
        <match apache.access>
       
        type 
        forward 
       
        #  time_slice_format %Y%m%d
       
        #  time_slice_wait 10m
       
        #  localtime
       
        #定义日志入库日志的时间；
       
        time_format %Y-%m-%d %H:%M:%S 
       
        #localtime非常重要，不设置日志时间和系统时间相差8小时；  
       
        localtime 
       
        #定义入库日志的时间；
       
        <server> 
       
        host node1 
       
        port 24224 
       
        <
        /server
        > 
       
        flush_interval 1s 
       
        <
        /match
        >

node1服务器配置，这个服务器上配置了hadoop的namenode，以及作为fluentd的转发角色，具体配置文件如下：

 
        <
        source
        > 
       
        type 
        forward 
       
        port 24224 
       
        <
        /source
        >

type webhdfs

host node1.test.com

port 50070

path /apache/%Y%m%d_%H/access.log.${hostname}

time_slice_format %Y%m%d

time_slice_wait 10m

#定义日志入库日志的时间；

time_format %Y-%m-%d %H:%M:%S

localtime

flush_interval 1s

</match>

配置好以后，重启fluentd服务；

开始测试，在node29用ab命令开始访问apache，生成访问日志；

然后，到node1服务器上去查看HDFS文件系统中，是否生成了相关文件及目录：

查看生成的目录：

查看文件里面具体日志：

hadoop fs -cat /apache/20150106_16/access.log.node1.test.com

如上图所示，fluentd已经通过转发模式，把node29服务器上apache日志收集到hdfs文件系统中了，方便下一步用hadoop进行离线分析。

本文转自 shine_forever 51CTO博客，原文链接:http://blog.51cto.com/shineforever/1599771

微信关注我们

原文链接：https://yq.aliyun.com/articles/477255

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

微服务是否使SOA变得无关紧要?

服务导向架构（简称SOA，service-oriented architecture）已经死亡?你可能会这么想。但其实不然。的确，随着新技术的出现，SOA本身的价值可能已经大不如前，但是SOA的遗产仍在推动微服务市场发展。将SOA原则纳入微服务的设计和构建是确保您的产品或服务长期处于有利地位的最佳方式。从此意义上讲，理解SOA，对于在微服务世界中取得成功至关重要。在本文中，我将解释设计微服务应用程序时应采用哪些SOA原则。介绍如今，在移动终端开发环境中，代码为王，构建具有RESTful界面的服务变得前所未有的容易，将其连接到数据存储就可以了。如果你想要更进一步，就把几个公共软件服务（免费或付费）整合在一起，这样你就可以拥有一个满足需求的持续交付流水线。欢迎来到现代Web和完全buzzworthy兼容的应用程序开发过程。在许多方面，微服务是SOA的直接产物，有点像服务世界的朋克摇滚。没有严格的规则，只是一些基本原则让所有人保持大体想法一致。就像朋克摇滚，微服务最初信奉的是一种按自己的节奏来的行业伦理。此后微服务一直在不断发展，一些架构方式开始让微服务转变为主流。不光是...

2017-11-12

544

SMB多通道是微软Windows Server 2012时新增的一项功能，微软SMB3.0协议的一部分，主要用于SMB文件传输时，检测到多张可通信网卡，自动使用多张网卡进行传输，提高吞吐量，链路容错。 Windows Server 2012和之前的服务器操作系统最大的一个不同点就在于，2012利用操作系统本身实现了很多原来只有硬件才能做的技术，同时又和各大硬件厂商合作，使各大硬件厂商的设备能够在微软OS上面发挥出最好的性能，例如，2012实现了原生的SMB 多通道，NIC teaming，可以和存储设备感知，实现ODX技术，等等 SMB多通道，很多人可能没有关心过，其实这是一项很好用的技术，我们不需要额外配置什么，Windows Server 2012 /Win8 之后的OS原生自带，只要你有两台机器，它们之间要进行SMB传输，机器1上面有两张网卡 192.168.1.1和192.168.2.1 ，机器二上面有两张网卡 192.168.1.2 192.168.2.2，那么SMB多通道技术就会自动聚合两站网卡的带宽，进行协议传输，一旦其中一张网卡坏掉，自动使用单条通道进行传输通过...

2017-11-12

580

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。