win10下 eclipse配置hadoop开发环境
作者:Zhan-bin
日期:2018-07-06
本文配置环境
win10
hadoop2.9.1
用到的工具及其下载链接
步骤
windows上安装hadoop
1.将自己的linux虚拟机上的一样的hadoop安装包解压到windows的安装目录
2.在windows上配置hadoop环境变量
配置eclipse
- 把 winutils-master.zip 里面自己对应版本的文件夹里面的bin所有文件拷贝进hadoop安装目录的bin文件夹,选择全部覆盖。
- 将刚刚bin目录里面的hadoop.dll拷贝到 C:\Windows\System32 (弄完最好重启下电脑)
把hadoop-eclipse-plugin-x.x.x.jar包(这里我用的是刚刚hadoop2x-eclipse-plugin-master.zip文件解压后release文件夹里的2.6.0版本的)复制到Eclipse目录下的pluguns目录中。重启Eclipse。打开Window->Open Perspective->Map/Reduce。可以看到多出了Hadoop Map/Reduce项。把它选中点击ok新建一个map/reduce的视图。
下面的控制台多出了Map/Reduce Locations视图。右键Map/Reduce Locations试图的空白处,选择新建,定义Hadoop集群的链接。Location name任起,Host填写Hadoop的mater的IP地址,port是对应的端口号,这个要与集群上core-site.xml文件中的参数一致,确保能连到集群,User name任起。
填写好以上参数后点击Finish。DFS Locations下出现定义的Hadoop连接信息。点开节点会看到集群上的文件信息。看不到则连接失败,检查上步IP地址及端口的配置是否有误。
若有文件的话,点击其中的某节点中的文件确定能查看文件内容。
此时若不能查看文件内容,若提示是editor could not be initialized. org.eclipse.ui.workbench.texteditor类似的问题,则可能是C:\Windows\System32下的hadoop.dll版本和hadoop-2.7.5/bin下的hadoop.dll版本不一致的原因。
至此,window下Eclipse配置Hadoop开发环境搭建完毕。
程序&实例测试
- 配置完成之后运行程序测试下是否可行
- 参考程序链接:Windows上第一个mapreduce程序