VMware虚拟机下安装hadoop1.x VMware虚拟机下hadoop1.x的安装方法

软件发布|下载排行|最新软件

当前位置:首页IT学院IT技术

VMware虚拟机下安装hadoop1.x VMware虚拟机下hadoop1.x的安装方法

W.Yentl   2021-03-29 我要评论
想了解VMware虚拟机下hadoop1.x的安装方法的相关内容吗,W.Yentl在本文为您仔细讲解VMware虚拟机下安装hadoop1.x的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:VMware,hadoop,下面大家一起来学习吧。

这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。

先说明一下我的开发环境:

虚拟机:VMware8.0;

操作系统:CentOS6.4;

版本:jdk1.8;hadoop1.2.1

①下载hadoop1.2.1,网盘:链接: http://pan.baidu.com/s/1sl5DMIp 密码: 5p67

下载jdk1.8,网盘:链接: http://pan.baidu.com/s/1boN1gh5 密码: t36h

将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。

②配置jdk及hadoop环境变量:修改/etc/profile文件

vim /etc/profile
//输入I,进入编辑模式
export JAVA_HOME=/home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib
export HADOOP_HOME=/home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
//按Esc,按Shift,输入:wq
source /etc/profile //保存并退出

③测试

java,javac,java -version
hadoop

④修改hadoop配置文件

<!-- hadoop-env.sh -->

export JAVA_HOME=/usr/java/jdk8

<!-- core-site.xml -->

 <property>
 <name>hadoop.tmp.dir</name>
 <value>/hadoop</value>
 </property>
 <property>
 <name>dfs.name.dir</name>
 <value>/hadoop/name</value>
 </property>
 <property>
 <name>fs.default.name</name>
 <value>hdfs://localhost:9000</value>
 </property>

<!-- hdfs-site.xml -->

<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>

<!-- mapred-site.xml -->

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

并在hadoop安装目录下新建data、name、tmp文件夹。

⑤名称节点格式化,并查看运行状态

hadoop namenode -format
//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看
start-all.sh
jps //查看运行状态,运行正常的话需要多次输入密码
//最后结果为:
//  Jps
//  JobTracker
//  NameNode
//  DataNode
//  SecondaryNameNode
//  NodeManager 

⑥测试hdfs

//常用hdfs命令:
hadoop fs -ls /查看目录
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看内容
hadoop fs -rmr /output:删除文件/文件夹

附:linux常用命令:

cd ..  //返回上级目录
cd ~  //返回Home目录
cd /  //返回根目录
cd var/ //进入var/文件夹下(使用tab)

su -  //超级管理员模式
ifconfig //查看ip

附:其他常用linux操作软件:

//windows与虚拟机centos文件传输:
filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)
//脱离虚拟机centos输入命令行:
Xshell 5

Copyright 2022 版权所有 软件发布 访问手机版

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 联系我们