win10如何安装Hadoop

1.windows怎么安装hadoop

1、下载安装JDK，以及Eclipse2、新建JAVAProject3、去cloudera网站下载hadoop的CDH3u6版本。

将起解压到win7的某个目录4、选中OperateHDFS，右击，选择“property”，弹出右侧的窗口；选择“JavaBuildPath”——“Libraries”——AddExternalJars5、到上面的画面后，下面就是选择开发hadoop程序时，用到的一些jar包将lib文件夹下的所有的jar包，添加进去；将红框内的jar包，安装进去。6、创建配置文件夹7、将core-site.xml,hdfs-site.xml,mapred-site.xml放入到此文件夹中。

8、右键->属性进行如下操作，添加刚刚创建conf文件夹配置搞定！写代码的过程中要写入的namenode和jobtracker地址（修改为你自己的）在你的代码中，加入如下代码就可以了Configurationconf=newConfiguration();conf.set("fs.default.name","192.1.1.2:9000");conf.set("mapred.job.tracker","192.1.1.2:9001");。

2.如何在windows下安装hadoop

Hadoop三种安装模式：单机模式，伪分布式，真正分布式

一 单机模式standalone

单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

二 伪分布模式安装

tar xzvf hadoop-0.20.2.tar.gz

Hadoop的配置文件：

conf/hadoop-env.sh 配置JAVA_HOME

core-site.xml 配置HDFS节点名称和地址

hdfs-site.xml 配置HDFS存储目录，复制数量

mapred-site.xml 配置mapreduce的jobtracker地址

配置ssh，生成密匙，使到ssh可以免密码连接

(RSA算法，基于因数不对称加密：公钥加密私钥才能解密，私钥加密公钥才能解密)

cd /root

ssh -keygen -t rsa

cd .ssh

cp id_rsa.pub authorized_keys覆盖公钥，就能免密码连接

启动Hadoop bin/start-all.sh

停止Hadoop bin/stop-all.sh

三 完全分布式模式

1. 配置etc/hosts文件，使主机名解析为IP 或者使用DNS服务解析主机名

2. 建立hadoop运行用户： useradd grid>passwd grid

3. 配置ssh密码连入： 每个节点用grid登录，进入主工作目录，ssh -keygen -t rsa生产公钥，然后将每个节点的公钥复制到同一个文件中，再将这个包含所有节点公钥的文件复制到每个节点authorized_keys目录，这个每个节点之间彼此可以免密码连接

4. 下载并解压hadoop安装包

5. 配置namenode，修改site文件

6. 配置hadoop-env.sh

7. 配置masters和slaves文件

8. 向各个节点复制hadoop

9. 格式化namenode

10.启动hadoop

11.用jps检验各后台进程是否成功启动。

3.如何在windows下安装hadoop

Hadoop三种安装模式：单机模式，伪分布式，真正分布式一 单机模式standalone单机模式是Hadoop的默认模式。

当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。

当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。

该模式主要用于开发调试MapReduce程序的应用逻辑。二 伪分布模式安装tar xzvf hadoop-0.20.2.tar.gzHadoop的配置文件：conf/hadoop-env.sh 配置JAVA_HOMEcore-site.xml 配置HDFS节点名称和地址hdfs-site.xml 配置HDFS存储目录，复制数量mapred-site.xml 配置mapreduce的jobtracker地址配置ssh，生成密匙，使到ssh可以免密码连接（RSA算法，基于因数不对称加密：公钥加密私钥才能解密，私钥加密公钥才能解密）cd /rootssh -keygen -t rsacd .sshcp id_rsa.pub authorized_keys覆盖公钥，就能免密码连接启动Hadoop bin/start-all.sh停止Hadoop bin/stop-all.sh三 完全分布式模式1. 配置etc/hosts文件，使主机名解析为IP 或者使用DNS服务解析主机名2. 建立hadoop运行用户： useradd grid>passwd grid3. 配置ssh密码连入： 每个节点用grid登录，进入主工作目录，ssh -keygen -t rsa生产公钥，然后将每个节点的公钥复制到同一个文件中，再将这个包含所有节点公钥的文件复制到每个节点authorized_keys目录，这个每个节点之间彼此可以免密码连接4. 下载并解压hadoop安装包5. 配置namenode，修改site文件6. 配置hadoop-env.sh7. 配置masters和slaves文件8. 向各个节点复制hadoop9. 格式化namenode10.启动hadoop11.用jps检验各后台进程是否成功启动。

4.如何安装hadoop

在Linux上安装Hadoop之前，需要先安装两个程序： 1. JDK 1.6或更高版本； 2. SSH（安全外壳协议），推荐安装OpenSSH。

下面简述一下安装这两个程序的原因： 1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。 2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本（因为Hadoop并没有区分集群式和伪分布式）。

对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost（即为自身），所以对于伪分布式Hadoop,SSH一样是必须的。 一、安装JDK 1.6 安装JDK的过程很简单，下面以Ubuntu为例。

（1）下载和安装JDK 确保可以连接到互联网，输入命令：sudo apt-get install sun-java6-jdk 输入密码，确认，然后就可以安装JDK了。 这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么操作；同时sudo也提供了灵活的管理方式，可以限制用户使用命令。

sudo的配置文件为/etc/sudoers。 apt的全称为the Advanced Packaging Tool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic（中文译名为“新立得”），大家如果有兴趣也可以使用这个程序来安装所需要的软件。

（如果大家想了解更多，可以查看一下关于Debian计划的资料。） （2）配置环境变量 输入命令：sudo gedit /etc/profile 输入密码，打开profile文件。

在文件的最下面输入如下内容：#set Java Environmentexport JAVA_HOME= （你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun）export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"export PATH="$JAVA_HOME/:$PATH" 这一步的意义是配置环境变量，使你的系统可以找到JDK。 (3)验证JDK是否安装成功 输入命令：java -version 查看信息：java version "1.6.0_14"Java(TM) SE Runtime Environment (build 1.6.0_14-b08)Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode) 二、配置SSH免密码登录 同样以Ubuntu为例，假设用户名为u。

1）确认已经连接上互联网，输入命令sudo apt-get install ssh 2）配置为可以无密码登录本机。 首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令：ls -a /home/u 一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。

接下来，输入命令：ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa 解释一下，ssh-keygen代表生成密钥；-t（注意区分大小写）表示指定生成的密钥类型；dsa是dsa密钥认证的意思，即密钥类型；-P用于提供密语；-f指定生成的密钥文件。（关于密钥密语的相关知识这里就不详细介绍了，里面会涉及SSH的一些知识，如果读者有兴趣，可以自行查阅资料。）

在Ubuntu中，~代表当前用户文件夹，这里即/home/u。 这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub（公钥）追加到授权的key里面去。

输入命令：cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys 这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。 至此无密码登录本机已设置完毕。

5.如何安装hadoop

在Linux上安装Hadoop之前，需要先安装两个程序： 1. JDK 1.6或更高版本； 2. SSH（安全外壳协议），推荐安装OpenSSH。

下面简述一下安装这两个程序的原因： 1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。 2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本（因为Hadoop并没有区分集群式和伪分布式）。

对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost（即为自身），所以对于伪分布式Hadoop,SSH一样是必须的。 一、安装JDK 1.6 安装JDK的过程很简单，下面以Ubuntu为例。

（1）下载和安装JDK 确保可以连接到互联网，输入命令：sudo apt-get install sun-java6-jdk 输入密码，确认，然后就可以安装JDK了。 这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么操作；同时sudo也提供了灵活的管理方式，可以限制用户使用命令。

sudo的配置文件为/etc/sudoers。 apt的全称为the Advanced Packaging Tool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic（中文译名为“新立得”），大家如果有兴趣也可以使用这个程序来安装所需要的软件。

（如果大家想了解更多，可以查看一下关于Debian计划的资料。） （2）配置环境变量 输入命令：sudo gedit /etc/profile 输入密码，打开profile文件。

在文件的最下面输入如下内容：#set Java Environment export JAVA_HOME= （你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun） export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH" export PATH="$JAVA_HOME/:$PATH" 这一步的意义是配置环境变量，使你的系统可以找到JDK。 (3)验证JDK是否安装成功 输入命令：java -version 查看信息：java version "1.6.0_14" Java(TM) SE Runtime Environment (build 1.6.0_14-b08) Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode) 二、配置SSH免密码登录 同样以Ubuntu为例，假设用户名为u。

1）确认已经连接上互联网，输入命令 sudo apt-get install ssh 2）配置为可以无密码登录本机。 首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令：ls -a /home/u 一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。

接下来，输入命令：ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa 解释一下，ssh-keygen代表生成密钥；-t（注意区分大小写）表示指定生成的密钥类型；dsa是dsa密钥认证的意思，即密钥类型；-P用于提供密语；-f指定生成的密钥文件。（关于密钥密语的相关知识这里就不详细介绍了，里面会涉及SSH的一些知识，如果读者有兴趣，可以自行查阅资料。）

在Ubuntu中，~代表当前用户文件夹，这里即/home/u。 这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub（公钥）追加到授权的key里面去。

输入命令：cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys 这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。 至此无密码登录本机已设置完毕。

转载请注明出处windows之家 » win10如何安装Hadoop