首页 文章 精选 留言 我的

精选列表

搜索[实时etl],共10000篇文章
优秀的个人博客,低调大师

云端技能包 | 百亿级日志之云原生实时流实战(2)

上一期内容中,我们简单为大家介绍了fluentd、docker和日志采集器的架构。现在,我们开始实操。 【 SpotMax 解决方案充分利用了云原生特性,基于微服务架构,可在保障用户服务稳定的同时充分利用Spot实例,实现云端降本增效。戳链接了解SpotMax】 首先来看一下dockerfile,我们可以去fluentd的官网上(docs.fluentd.org)获取基础镜像: 然后我们可以通过run加上一些命令,对容器做初始化: 有了docker file,我们就可以通过docker build,来创建一个镜像。-t后面是镜像名称,冒号:后面是一个版本: 创建完镜像之后,我们可以通过docker image,获取镜像列表: 我们也可以把镜像推到远程docker hub里。Docker hub是官网的远程管理功能,可以免费注册: 我们通过docker login登录之后,再通过docker push就可以把镜像推送到远程了: 现在已经有了一个镜像,我们来run一个container。 首先,跑一个临时的容器。--rm代表运行临时容器,--network host代表用一个host的网络连接模式;-v代表把本地的一个目录,挂载到容器上的目录;最后面跟的是一个命令,指的是fluentd的client端的配置,server端同理: 我们来看一下client端的配置写了些什么: source代表来源; @type后面是插件名称(tail) Path后面是我们要去读的本地日志,以及相应的pos_file、日志tag(这里取名为test) 接下来,我们match tag,就可以利用forward(output插件),通过tcp、udp的方式打到另外一个服务集群。 现在,我们再来看一下fluentd的server端配置: 通过forward插件,我们可以监听24224端口,拿到日志流,再通过match tag (即前面的test),用stdoutput直接输出,我们也可以把它打到kafka,或者运行自己的插件等。 现在来运行一下看看效果: 首先我们跑一下fluentd的server端,可以看到已经在监听了: 再看看fluentd的client端,如图,可以看到它现在已经在读容器里面的一个日志文件: 由于这个容器的目录,已经绑定在宿主机的一个目录上,我们可以通过下图中标示出的这条命令(每秒钟打一个just for fun),往日志中打一些消息: 可以看到,server端已经能够正常接收到消息(just for fun): 我们整个演示都是跑在docker容器上的,我们可以通过docker ps去看容器的列表:如图所示,已经起了两个容器,我们可以用docker kill,去kill一个容器: 未来的节目中,我们将会介绍怎么样把日志采集器部署到k8s上面去,下次我们再见。

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册