• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

win11安装hadoop3.3.2(当前最新版本

武飞扬头像
缘不易
帮助1

前提Java已经安装

安装准备

下载链接:链接
学新通

解压

  • 将hadoop 到自己想要解压的路径下(这我解压到D盘下)
    学新通

修改配置文件

  1. 进入etc/hadoop/下修改 core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml

core-site.xml

<configuration>
	<property>
	    <name>fs.default.name</name>
	  <value>hdfs://localhost:9000</value>
	 </property>
	 <property>
	  <name>hadoop.tmp.dir</name>
	  <value>/D:/hadoop-3.3.2/data/tmp</value>
	 </property>
</configuration>

hdfs-site.xml

<configuration>
<!--单机启动-->
    <property>
	   <name>dfs.replication</name>
	   <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/D:/hadoop-3.3.2/data/namenode</value>
    </property>
   	<property>
        <name>dfs.datanode.data.dir</name>
        <value>/D:/hadoop-3.3.2/data/datanode</value>
    </property>
	
    <property> 
      <name>dfs.permissions</name> 
      <value>false</value> 
    </property>
</configuration>
学新通

mapred-site.xml

<configuration>
 <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>

yarn-site.xml

<configuration>
    <property>
    	<name>yarn.nodemanager.aux-services</name>
    	<value>mapreduce_shuffle</value>
   </property>
   <property>
      	<name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>  
		<value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>
<!-- nodemanager要求的内存最低为1024  nodemanager 要求的内存最低为1G,所以value至少是1024,否则无法启动nodemanager -->
    <property>
        <name>yarn.nodemanager.resource.memory-mb</name>
        <value>1024</value>
    </property>
    <property>
        <name>yarn.nodemanager.resource.cpu-vcores</name>
        <value>1</value>
    </property>

</configuration>
学新通
  1. 修改 workers 为 localhost
  2. 修改hadoop-env.cmd

set JAVA_HOME=D:\java\jdk\jdk11

替换lib目录下的文件

学新通
如果您双击 winutils.exe 文件闪退,不报错,就说明没有任何问题

配置hadoop环境变量

学新通

格式化hadoop

打开命令行窗口
输入:hadoop namenode -format 看到成功的单词即可

进入hadoop的sbin目录执行start-all.cmd 没有报错后进入hadoop下的bin目录执行

学新通
看到这三个进程即可

注意: 启动可能会报时间错误,需要复制share文件夹下的时间jar到下图bin目录下即可
学新通
学新通

访问web页面

hadoop3.2以上的版本 web访问端口从原来的 50070 改为了 9870

http://localhost:9870/

学新通

http://localhost:8088/

学新通
至此hadoop3.2.2版本 已完成

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhfkhibb
系列文章
更多 icon
同类精品
更多 icon
继续加载