Apache Carbondata on Preto
1.download
apache carbondata - 1.5.3
apache carbondata - 1.5.4
apache spark - 2.3.2
apache hadoop - 2.7.2
presto server - 0.210
presto client - 0.210
2.Configurations
mkdir -p etc/catalog -- in presto server
touch carbondata.properties -- in presto server /conf
a).vi config.properties
######## Coordinator Configurations ########## # #coordinator=true #node-scheduler.include-coordinator=false #http-server.http.port=8086 #query.max-memory=5GB #query.max-total-memory-per-node=5GB #query.max-memory-per-node=3GB #memory.heap-headroom-per-node=1GB #discovery-server.enabled=true #discovery.uri=http://hostname:8086 #task.max-worker-threads=4 #optimizer.dictionary-aggregation=true #optimizer.optimize-hash-generation = false # ##############################################
########## Worker Configurations#### # #coordinator=false #http-server.http.port=8086 #query.max-memory=5GB #query.max-memory-per-node=2GB #discovery.uri=<coordinator_ip>:8086 # ####################################
b).vi jvm.config
-server -Xmx16G -XX:+UseG1GC -XX:G1HeapRegionSize=32M -XX:+UseGCOverheadLimit -XX:+ExplicitGCInvokesConcurrent -XX:+HeapDumpOnOutOfMemoryError -XX:OnOutOfMemoryError=kill -9 %p
c).vi log.properties
com.facebook.presto=INFO
d).vi node.properties
node.environment=production node.id=c5a9ab1a-a9fe-11e9-96d8-000c2909bcd1 node.data-dir=/home/carbondata/presto-server-0.210/data
3.plugin
mkdir -p plugin/carbondata -- in presto server
cp apache-carbondata-1.5.3-bin-spark2.3.2-hadoop2.7.2.jar /home/carbondata/presto-server-0.210/plugin/carbondata
4.start server
./presto-server-0.210/bin/launcher start ./presto-server-0.210/bin/launcher run
5.presto-cli
mv presto-cli-0.210-executable.jar presto
./presto
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
即将发版!Apache Flink 1.9 版本有哪些新特性?
2019阿里云峰会·上海开发者大会于7月24日盛大开幕,本次峰会与未来世界的开发者们分享开源大数据、IT基础设施云化、数据库、云原生、物联网等领域的技术干货,共同探讨前沿科技趋势。本文整理自开源大数据专场中阿里巴巴高级技术专家杨克特(鲁尼)先生的精彩演讲,主要讲解了Apache Flink过去和现在的发展情况,同时分享了对Apache Flink未来发展方向的理解。 《Apache Flink 的过去现在和未来》PPT下载 以下内容根据演讲视频以及PPT整理而成。 一、Flink的过去 1.Flink 的出现 Apache Flink项目在捐献给Apache之前,是由柏林工业大学博士生发起的项目,当时的Flink系统还是一个基于流式Runtime的批处理引擎,主要解决的也是批处理的问题。2014年,Flink被捐献给Apache,并迅速成为
- 下一篇
ElasticSearch相关基础汇总
ElasticSearch相关基础汇总: 1、版本演变: 1.x----->2.x----->5.x----->6.x 2、mac电脑上安装elasticsearch命令: brew install elasticsearch 或者直接下载压缩包解压 3、mac上查看已经安装好的services列表: brew services list 4、实用插件head的安装: (1)、下载:git clone git://github.com/mobz/elasticsearch-head.git (2)、cd elasticsearch-head (3)、npm install 或者 cnpm install (4)、npm run start 或者 cnpm run start 5、配置elasticsaerch 和 elasticsearch-head 插件 (1)、停掉elasticsearch-head (2)、停掉elasticsearch: brew services stop elasticsearch (3)、查找elasticsearch.yml文件位置:...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS8安装Docker,最新的服务器搭配容器使用
- 设置Eclipse缩进为4个空格,增强代码规范
- Red5直播服务器,属于Java语言的直播服务器
- SpringBoot2整合Redis,开启缓存,提高访问速度
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- CentOS7,8上快速安装Gitea,搭建Git服务器
- CentOS7安装Docker,走上虚拟化容器引擎之路