读书人

Hadoop 安装有关问题和解决方案

发布时间: 2012-09-14 11:53:44 作者: rapoo

Hadoop 安装问题和解决方案

?

前几天在Window和Linux主机安装了Hadoop,版本是hadoop-0.21.0,出现了一些环境的问题,记录一下,做下备忘

?

1. cygwin启动Hadoop时候,总是报以下异常:

?java.lang.NoClassDefFoundError: org/apache/hadoop/util/PlatformName

问题分析:出现该错误通常是找不到Main函数,而Hadoop是通过Shell脚本调用Java的Main类的

? ??解决方法:

?a.修改conf/hadoop-env.sh的JAVA_HOME到本机的正确位置

?export JAVA_HOME=/cygdrive/d/Soft/Java/jdk1.6.0_26

b.?将${HADOOP_HOME}/bin/hadoop-config.sh文件中的第190行的以下内容

?

? ? ? ? at org.apache.hadoop.mapred.FileOutputFormat.checkOutputSpecs(FileOutputFormat.java:125)

? ? ? ? at org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs(JobSubmitter.java:375)

? ? ? ? at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:334)

?问题分析:事实上input目录是作为输入,是肯定要的,而Main类已经在jar报中定义了

?处理方法:可以运行的结果命令如下hadoop jar wordcount.jar wordcount/input wordcount/output

?

6、最后是备忘,默认启动的时候NameNode与DataNode管理端口为:

NameNode:http://localhost:50070/,基本功能:列出当前cluster的DataNodes,cluster的基本信息,还可以浏览HDFS文件系统

JobTracker - http://localhost:50030/,基本功能:管理MapReduce

?

更多信息请查看?java进阶网?http://www.javady.com

读书人网 >编程

热点推荐