欧美一区2区三区4区公司二百,国产精品婷婷午夜在线观看,自拍偷拍亚洲精品,国产美女诱惑一区二区

Web 界面查看 Nodes 信息

Web 界面查看 Nodes 信息

成功啟動后,可以訪問 Web 界面:? 查看 NameNode 和 Datanode 信息,還可以在線查看 HDFS 中的文件。

(6)運行 Hadoop 偽分布式實例(grep 例子)
①創建實例目錄 user/hadoop 上面的單機模式,grep 例子讀取的是本地數據,偽分布式讀取的則是 HDFS 上的數據。 要使用 HDFS,首先需要在 HDFS 中創建用戶目錄:

?./bin/hdfs dfs -mkdir -p /user/hadoop

接著將 ./etc/hadoop 中的 xml 文件作為輸入文件復制到分布式文件系統中,即將 /usr/local/hadoop/etc/hadoop 復制到分布式文件系統中的 /user/hadoop/input 中。
我們使用的是 hadoop 用戶,并且已創建相應的用戶目錄 /user/hadoop ,因此在命令中就可 以使用相對路徑如 input,其對應的絕對路徑就是 /user/hadoop/input

②創建實例目錄 user/hadoop/input,并復制所有的.xml 文件

?./bin/hdfs dfs -mkdir input ./bin/hdfs dfs -put ./etc/hadoop/*.xml input?

復制完成后,可以通過如下命令查看文件列表:
./bin/hdfs dfs -ls input
偽分布式運行 MapReduce 作業的方式跟單機模式相同,區別在于偽分布式讀取的是 HDFS 中的文件(可以將單機步驟中創建的本地 input 文件夾,輸出結果 output 文件夾都刪掉來 驗證這一點)。

③運行實例
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar grep input output 'dfs[a-z.]+'
查看運行結果的命令(查看的是位于 HDFS 中的輸出結果):
?./bin/hdfs dfs -cat output/*?

結果如下,注意到剛才我們已經更改了配置文件,所以運行結果不同。

④下載文件 我們也可以將運行結果取回到本地:

?rm -r ./output ? ?# 先刪除本地的 output 文件夾(如果存在)
?./bin/hdfs dfs -get output ./output ? ? # 將 HDFS 上的 output 文件夾拷貝到本機?
?cat ./output/*?

Hadoop 運 行 程 序 時 , 輸 出 目 錄 不 能 存 在 , 否 則 會 提 示 錯 誤

? ? org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory
? ? hdfs://localhost:9000/user/hadoop/output already exists

,因此若要再次執行,需要執行如 下命令刪除 output 文件夾:

?./bin/hdfs dfs -rm -r output ? ?# 刪除 output 文件夾?

錯誤:運行程序時,輸出目錄不能存在

運行 Hadoop 程序時,為了防止覆蓋結果,程序指定的輸出目錄(如 output) 不能存在,否則會提示錯誤,因此運行前需要先刪除輸出目錄。在實際開發應 用程序時,可考慮在程序中加上如下代碼,能在每次運行時自動刪除輸出目 錄,避免繁瑣的命令行操作:
Configuration conf = new Configuration();?
Job job = new Job(conf);?
/* 刪除輸出目錄 */?
Path outputPath = new Path(args[1]); outputPath.getFileSystem(conf).delete(outputPath, true);?

Configuration conf = new Configuration();?
Job job = new Job(conf);?
/* 刪除輸出目錄 */?
Path outputPath = new Path(args[1]); outputPath.getFileSystem(conf).delete(outputPath, true);?

?

文章鏈接: http://www.qzkangyuan.com/20809.html

文章標題:Web 界面查看 Nodes 信息

文章版權:夢飛科技所發布的內容,部分為原創文章,轉載請注明來源,網絡轉載文章如有侵權請聯系我們!

聲明:本站所有文章,如無特殊說明或標注,均為本站原創發布。任何個人或組織,在未征得本站同意時,禁止復制、盜用、采集、發布本站內容到任何網站、書籍等各類媒體平臺。如若本站內容侵犯了原著者的合法權益,可聯系我們進行處理。

給TA打賞
共{{data.count}}人
人已打賞
建站教程

Hadoop 配置文件說明

2023-5-26 13:17:00

建站教程

docker搭建私有倉庫

2023-5-29 14:27:09

0 條回復 A文章作者 M管理員
    暫無討論,說說你的看法吧
?
個人中心
購物車
優惠劵
今日簽到
有新私信 私信列表
搜索
主站蜘蛛池模板: 张掖市| 贵阳市| 青海省| 大庆市| 西丰县| 恩施市| 广汉市| 沁水县| 德清县| 太仆寺旗| 阿巴嘎旗| 泾阳县| 黄石市| 大连市| 澄江县| 寿宁县| 石嘴山市| 台前县| 灵武市| 平度市| 渭源县| 青阳县| 天峨县| 长阳| 伊金霍洛旗| 利津县| 开封县| 九龙坡区| 阳曲县| 淮南市| 利辛县| 古田县| 凌源市| 鄯善县| 克山县| 江城| 陇南市| 罗源县| 淳化县| 白城市| 手机|