Linux的企业-Hadoop的多节点配置-低调大师

Linux的企业-Hadoop的多节点配置

2017-11-07 523

一.配置环境

redhat6.5

server1 172.25.29.1 hadoop master nfs

server2 172.25.29.2 nfs

server3 172.25.29.3 nfs

server4 172.25.29.4 nfs

server5 172.25.29.5 高可用备机 nfs

使用 nfs 共享同步配置文件

二.Hadoop单点配置

1.安装hadoop和jdk

使用hadoop用户运行

2.配置hadoop在java上的运行环境

3.算法模块测试

output生成的数据

4.配置单点hadoop

5.给hadoop设置用户密码，设置主机之间免密

6.设置储存节点为1个

7.格式化hdfs

8.启动hadoop

9.设置查看进程的java的命令jps的运行路径

10.查看节点运行状态，测试

11.以文本模式查看结果

创建目录

四.多节点hadoop配置

使用 nfs 共享同步配置文件

1.server1配置nfs服务

2.在server2至server5安装nfs，并新建hadoop用户，并启动rpcbind

3.建立主机之间免密

4.hadoop集群配置

5.格式化hdfs

6.启动hadoop集群

查看节点2，3和状态

7.登陆web 172.25.29.1：50070

8.启动集群管理资源模块

本文转自一百个小排 51CTO博客，原文链接：http://blog.51cto.com/anfishr/1975948，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/530549

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Linux的企业-ELK日志分析

一、简介 1、核心组成 ELK由Elasticsearch、Logstash和Kibana三部分组件组成； Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。 Logstash是一个完全开源的工具，它可以对你的日志进行收集、分析，并将其存储供以后使用 kibana 是一个开源和免费的工具，它可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面，可以帮助您汇总、分析和搜索重要数据日志。 2、四大组件 Logstash: logstash server端用来搜集日志； Elasticsearch: 存储各类日志； Kibana: web化接口用作查寻和可视化日志； Logstash Forwarder: logstash client端用来通过lumberjack 网络协议发送日志到logstash server； 3、ELK工作流程在需要收集日志的所有服务上部署logstash，作为logstash agent（logstash ...

2017-11-08

499

压缩配置： index.codec: best_compression 合并索引： curl –XPOST localhost:9200/hec_test3/_forcemerge’ 配置mapping： curl -XPUT 'http://localhost:9200/hec_test3' -d ' { "mappings": { "hec_type3": { "_source": { "enabled": false }, "_all": { "enabled": false }, "properties": { “fieldxxx": { "type": "string", “norms”: {“enabled”: false}, “store”: false, "doc_values": false, "index_options": "docs" }, …. } } } } ' 注意：同时将原始数据放在DB里，ES里通过doc id去DB里获取。_all搜索时候使用cross_fields。.tim文件较大，可以采用降低shard个数来瘦身。总之，上述设置后可以将es...

2017-11-08

766

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。