首页 文章 精选 留言 我的

精选列表

搜索[网站开发],共10000篇文章
优秀的个人博客,低调大师

15【在线日志分析】之基于Spark Streaming+Saprk SQL开发OnLineLogAanlysis2(Final)

1.influxdb创建database [root@sht-sgmhadoopdn-04 app]# influx -precision rfc3339 Connected to http://localhost:8086 version 1.2.0 InfluxDB shell version: 1.2.0>create database online_log_analysis 2.项目中原本想将 influxdb-java https://github.com/influxdata/influxdb-java的InfluxDBTest.java 文件的加到项目中,所以必须要引入 influxdb-java 的包;但是由于GitHub的上的class文件的某些方法,是版本是2.6,而maven中的最高也就2.5版本,所以将Github的源代码下载导入到idea中,编译导出2.6.jar包;可是 引入2.6jar包,其在InfluxDBTest.class文件的 无法import org.influxdb(百度谷歌很长时间,尝试很多方法不行)。最后索性将 influx-java的源代码全部添加到项目中即可,如下图所示。3.运行OnLineLogAanlysis2.java https://github.com/Hackeruncle/OnlineLogAnalysis/blob/master/online_log_analysis/src/main/java/com/learn/java/main/OnLineLogAnalysis2.java 比如 logtype_count,host_service_logtype=hadoopnn-01_namenode_WARN count=12 logtype_count 是表 host_service_logtype=hadoopnn-01_namenode_WARN 是tag--标签,在InfluxDB中,tag是一个非常重要的部分,表名+tag一起作为数据库的索引,是“key-value”的形式。count=12是field--数据,field主要是用来存放数据的部分,也是“key-value”的形式。

优秀的个人博客,低调大师

书评:《Docker——容器与容器云(第2版)》docker从小白到开发

首先,简单介绍我的docker的入门过程,我是在大二的时候开始研究hadoop这个大数据领域的框架,然后开始在自己win8.1上面部署了VMware wokerstation,一款比docker耗内存和启动时间缓慢的虚拟机软件,接着就是按照官网文档开始shell执行安装部署hadoop3节点的环境,这对于学自动化的学生当然不甘心这么机械化操作和手工部署,后来也尝试了oracle 公司的VirtualBox和Vagrant部署hadoop,还是遇到部署好的环境占用资源,5G以上,装了其他的HBase,Hive,Mysql,Redis,流处理框架flume,kafka,storm等之后会更加多,甚至拷贝都有些困难,而且团队内的测试小伙伴,也需要按照部署的脚本(原因之一也是自己shell脚本写得不够好)去一步步修改配置文件修改,总之就是自动化程度低,部署时间长,无法迁移环境,后来就接触到docker这款轻量级的虚拟机,写了Dockerfile之后就会自动化部署,后来运用git+docker hub就可以实现编写Dockerfile push到github,dockerhub 就会自动化部署,只需要pull镜像下来就可以使用,或者build dockerfile。从此开始走上docker的虚拟化的道路。 这本书里面提到了刘斌老师翻译的书,恰巧我之前看了刘斌老师的docker视频,对于一些不是很理解的内容加深了运用,感谢刘斌老师。之后开始尝试使用swarm去部署docker集群,书本上讲到的kubernetes管理还没使用上,迟点对比swarm使用看看效果如何。 后面曾经使用docker搭建过3节点的hadoop,redis服务,还有web服务,感觉就是环境可迁移的能力大,一个Dockerfile就可以完成很多以前手工的任务。 感谢大神的Dockerfile参考: https://github.com/kiwenlau/hadoop-cluster-docker/blob/master/start-container.sh 测试成功 希望大家能在docker这条路一起并肩作战,话说我的师兄用docker搭建深度学习的框架,让我更加蠢蠢欲动了。

资源下载

更多资源
Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册