部署Hadoop,需和Linux操作系统位数一致-低调大师

部署Hadoop,需和Linux操作系统位数一致

2016-02-25 707 89

本次实验的环境：linux 64位+hadoop2.7.2 64位.
HADOOP_HOME=/hadoop/hadoop-2.7

点击(此处)折叠或打开

[root@sht-sgmhadoopnn-01 ~]# getconf LONG_BIT
64
[root@sht-sgmhadoopnn-01 ~]# cd /hadoop/hadoop-2.7.2/lib/native/
[root@sht-sgmhadoopnn-01 native]# ll
total 4924
-rw-r--r-- 1 10011 10011 1382764 Jan 26 08:20 libhadoop.a
-rw-r--r-- 1 10011 10011 1632184 Jan 26 08:20 libhadooppipes.a
lrwxrwxrwx 1 10011 10011 18 Feb 22 00:23 libhadoop.so -> libhadoop.so.1.0.0
-rwxr-xr-x 1 10011 10011 807878 Jan 26 08:20 libhadoop.so.1.0.0
-rw-r--r-- 1 10011 10011 476682 Jan 26 08:20 libhadooputils.a
-rw-r--r-- 1 10011 10011 447412 Jan 26 08:20 libhdfs.a
lrwxrwxrwx 1 10011 10011 16 Feb 22 00:23 libhdfs.so -> libhdfs.so.0.0.0
-rwxr-xr-x 1 10011 10011 282396 Jan 26 08:20 libhdfs.so.0.0.0
[root@sht-sgmhadoopnn-01 native]# file libhadoop.so.1.0.0
libhadoop.so.1.0.0: ELF 64-bit LSB shared object, x86-64, version 1 (SYSV), dynamically linked, not stripped

说明64位hadoop部署需在64位操作系统上,同理32位linux上应该部署32位hadoop.

http://blog.csdn.net/wulantian/article/details/38112193
http://blog.csdn.net/wulantian/article/details/38111999

微信关注我们

原文链接：https://yq.aliyun.com/articles/578896

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2016-02-26 00:00:00

MapReduce中的分布式缓存使用

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/qq1010885678/article/details/50751007 MapReduce中的分布式缓存使用 @(Hadoop) 简介 DistributedCache是Hadoop为MapReduce框架提供的一种分布式缓存机制，它会将需要缓存的文件分发到各个执行任务的子节点的机器中，各个节点可以自行读取本地文件系统上的数据进行处理。符号链接可以同在原本HDFS文件路径上+”#somename”来设置符号连接（相当于一个快捷方式）这样在MapReduce程序中可以直接通通过： File file = new File("somename"); 来获得这个文件缓存在本地的目录设置以下为默认值： <property> <name>mapred.local.dir</name> <value>${hadoop.tmp.dir}/mapred/localdir/filecache</value> </property...

587

2016-02-26 00:00:00

ItermCF的MR并行实现

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/qq1010885678/article/details/50751607 ItermCF的MR并行实现 @(Hadoop) ItermCF的基本思想基于物品相似度的协同过滤推荐的思想大致可分为两部分： 1.计算物与物之前的相似度 2.根据用户的行为历史，给出和历史列表中的物品相似度最高的推荐通俗的来讲就是：对于物品 A,根据所有用户的历史偏好,喜欢物品 A 的用户都喜欢物品 C,得出物品 A 和物品 C 比较相似,而用户 C 喜欢物品 A,那么可以推断出用户 C 可能也喜欢物品 C。 ItermCF的算法实现思路对于以下的数据集： UserId ItermId Preference 1 101 5 1 102 3 1 103 2.5 2 101 2 2 102 2.5 2 103 5 2 104 2 3 101 2 3 104 4 3 105 4.5 3 107 5 4 101 5 4 103 3 4 104 4.5 4 106 4 5 101 4 5 102 3 5 103...

630

资源下载

更多资源

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。