Alluxio使用——HBase篇
1.服务启停
Zookeeper
./zookeeper/bin.zkServer.sh start ./zookeeper/conf/zoo.cfg ./zookeeper/bin.zkServer.sh stop
Hadoop
./hadoop/sbin/start-dfs.sh ./hadoop/sbin/stop-dfs.sh
HBase
./hbase/bin/start-hbase.sh ./hbase/bin/stop-hbase.sh
./hbase/bin/hbase-daemon.sh start master ./hbase/bin/hbase-daemon.sh start regionserver 1 ./hbase/bin/hbase-daemon.sh stop master ./hbase/bin/hbase-daemon.sh stop regionserver 1
Alluxio
./alluxio/bin/alluxio local SudoMount
2.HBase配置
Apache HBase可以通过Hadoop文件系统来使用Alluxio
修改配置vi hbase-site.xml
<!-- 修改hbase.rootdir属性,可通过alluxio访问 --> <property> <name>hbase.rootdir</name> <value>alluxio://master_hostname:19998/hbase</value> </property> <!-- 防止HBase以线程不安全的方式刷新Alluxio文件流 --> <property> <name>hbase.regionserver.hlog.syncer.count</name> <value>1</value> </property>
将alluxio的客户端jar复制到hbase的lib中
cp ./alluxio/client/alluxio-2.0.0.client.jar ./hbase/lib
验证
验证HBase
HBase Master URL: http://hbase_master_hostname:16010
验证Alluxio
Alluxio Master URL: http://alluxio_master_hostname:19999
3.测试
测试数据
创建HBase表,并模拟插入10000行数据;然后查询展示10行
编辑: vi alluxio_hbase_test.txt
create 'alluxio_hbase_test', 'cf1' for i in Array(0..9999) put 'alluxio_hbase_test', 'rowid_'+i.to_s , 'cf1:value', 'value_'+i.to_s end list 'alluxio_hbase_test' scan 'alluxio_hbase_test', {LIMIT => 10, STARTROW => 'row1'} get 'alluxio_hbase_test', 'row1'
执行命令
./hbase/bin/hbase shell alluxio_hbase_test.txt
测试结果
使用Hadoop统计行数
./hbase/bin/hbase org.apache.hadoop.hbase.mapreduce.RowCounter alluxio_hbase_test.txt
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
好程序员分享MapReduce全过程解析
好程序员分享MapReduce全过程解析,移动数据与移动计算在学习大数据的时候接触了移动数据和移动计算这两种联系紧密而又有很大不同的概念,其中移动计算也叫做本地计算。在以前的数据处理中时使用的移动数据,其实就是将需要处理的数据传输到存放不同处理数据方式逻辑的各个节点上。这样做的效率很低,特别是大数据中的数据量是很大的,至少都是GB以上,更大的是TB、PB甚至更大,而且磁盘I/O、网络I/O的效率是很低的,这样处理起来就需要很长的时间,远远不能满足我们的要求。而移动计算就出现了。移动计算,也叫做本地计算,是数据就存放在节点上不再变动,而是将处理逻辑程序传输到各个数据节点上。由于处理程序的大小肯定不会特别的大,这样就可以实现很快将程序传输到存放数据的各个节点上去,然后本地执行处理数据,效率高。现在的大数据处理技术都是采用这种方式。 言简意赅的说:Map阶段:1、Read:读取数据源,将数据进行filter成一个个的K/V2、Map:在map函数中,处理解析的K/V,并产生新的K/V3、Collect:输出结果,存于环形内缓冲区4、Spill:内存区满,数据写到本地磁盘,并生产临时文件5、C...
- 下一篇
Alluxio使用——Hive篇
1.服务启停 Zookeeper ./zookeeper/bin.zkServer.sh start ./zookeeper/conf/zoo.cfg ./zookeeper/bin.zkServer.sh stop Hadoop ./hadoop/sbin/start-dfs.sh ./hadoop/sbin/stop-dfs.sh Hive ./hive/bin/hive ./hive/bin/hive --service metastore -p 9083 Alluxio ./alluxio/bin/alluxio local SudoMount 2.Alluxio操作 下载测试数据 稳定的基准数据集。1700部电影的1000名用户获得100,000评级。发布于4/1998。 MovieLens 100K电影收视率 稳定的基准数据集。238,000个用户将27,000个评级和465,000个标签应用程序应用于27,000部电影。包括标签基因组数据,在1,100个标签上有1200万个相关性分数。2015年4月发布; 更新10月2016以更新links.csv并添加标签基因组数据。 ...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- CentOS关闭SELinux安全模块
- CentOS7设置SWAP分区,小内存服务器的救世主
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题