在Docker中跑Hadoop與鏡像制作方法
重復(fù)造輪子，這里使用重新打包生成一個基于Docker的Hadoop鏡像；
Hadoop集群依賴的軟件分別為：jdk、ssh等，所以只要這兩項(xiàng)還有Hadoop相關(guān)打包進(jìn)鏡像中去即可；
配置文件準(zhǔn)備
1、Hadoop相關(guān)配置文件：core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml、slaves、hadoop-env.sh
2、ssh配置文件：ssh_config
3、Hadoop集群啟動文件：start-hadoop.sh
制作鏡像
1、安裝依賴
RUN apt-get update && \ apt-get install -y openssh-server openjdk-8-jdk wget
2、下載Hadoop包
RUN wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.10.0/hadoop-2.10.0.tar.gz && \ tar -xzvf hadoop-2.10.0.tar.gz && \ mv hadoop-2.10.0 /usr/local/hadoop && \ rm hadoop-2.10.0.tar.gz && \ rm /usr/local/hadoop/share/doc -rf
3、配置環(huán)境變量
ENV JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 ENV HADOOP_HOME=/usr/local/hadoop ENV PATH=$PATH:/usr/local/hadoop/bin:/usr/local/hadoop/sbin
4、生成SSH key，用于節(jié)點(diǎn)免密登錄
RUN ssh-keygen -t rsa -f ~/.ssh/id_rsa -P '' && \ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
5、創(chuàng)建Hadoop相關(guān)目錄、復(fù)制相關(guān)配置文件、相關(guān)文件添加執(zhí)行權(quán)限，最后格式化namenode節(jié)點(diǎn)，各個節(jié)點(diǎn)啟動時，啟動ssh服務(wù)；
RUN mkdir -p ~/hdfs/namenode && \ mkdir -p ~/hdfs/datanode && \ mkdir $HADOOP_HOME/logs COPY config/* /tmp/ #復(fù)制ssh、hadoop配置相關(guān) RUN mv /tmp/ssh_config ~/.ssh/config && \ mv /tmp/hadoop-env.sh /usr/local/hadoop/etc/hadoop/hadoop-env.sh && \ mv /tmp/hdfs-site.xml $HADOOP_HOME/etc/hadoop/hdfs-site.xml && \ mv /tmp/core-site.xml $HADOOP_HOME/etc/hadoop/core-site.xml && \ mv /tmp/mapred-site.xml $HADOOP_HOME/etc/hadoop/mapred-site.xml && \ mv /tmp/yarn-site.xml $HADOOP_HOME/etc/hadoop/yarn-site.xml && \ mv /tmp/slaves $HADOOP_HOME/etc/hadoop/slaves && \ mv /tmp/start-hadoop.sh ~/start-hadoop.sh && \ mv /tmp/run-wordcount.sh ~/run-wordcount.sh #添加執(zhí)行權(quán)限 RUN chmod +x ~/start-hadoop.sh && \ chmod +x ~/run-wordcount.sh && \ chmod +x $HADOOP_HOME/sbin/start-dfs.sh && \ chmod +x $HADOOP_HOME/sbin/start-yarn.sh # format namenode RUN /usr/local/hadoop/bin/hdfs namenode -format
在Docker中跑Hadoop集群
通過上面的Dockerfile生成了鏡像后，這里即可使用上面所生成的鏡像搭建Hadoop集群；這里啟動一個master、兩個slave節(jié)點(diǎn)；
添加橋接網(wǎng)絡(luò):
docker network create --driver=bridge solinx-hadoop
啟動Master節(jié)點(diǎn)：
docker run -itd --net=solinx-hadoop -p 10070:50070 -p 8088:8088 --name solinx-hadoop-master --hostname solinx-hadoop-master solinx/hadoop:0.1
啟動Slave1節(jié)點(diǎn)：
docker run -itd --net=solinx-hadoop --name solinx-hadoop-slave1 --hostname solinx-hadoop-slave1 solinx/hadoop:0.1
啟動Slave2節(jié)點(diǎn)：
docker run -itd --net=solinx-hadoop --name solinx-hadoop-slave2 --hostname solinx-hadoop-slave1 solinx/hadoop:0.1
進(jìn)入Master節(jié)點(diǎn)，執(zhí)行啟動Hadoop集群腳本即可:
總結(jié)
以上所述是小編給大家介紹的在Docker中跑Hadoop與鏡像制作，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持！
如果你覺得本文對你有幫助，歡迎轉(zhuǎn)載，煩請注明出處，謝謝！
相關(guān)文章
為運(yùn)行中的docker容器設(shè)置時區(qū)
本文主要介紹了為運(yùn)行中的docker容器設(shè)置時區(qū),主要介紹了2種方式,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2024-05-05
Docker網(wǎng)絡(luò)配置與自定義IP容器通信
IP地址是Docker容器在網(wǎng)絡(luò)中的唯一標(biāo)識,每個Docker都會被分配一個 IP,用于網(wǎng)絡(luò)通信,本文主要介紹了Docker網(wǎng)絡(luò)配置與自定義IP容器通信,感興趣的可以了解一下2024-03-03
Docker學(xué)習(xí)之常用的基礎(chǔ)命令總結(jié)
這篇文章給大家整理了一些Docker常用的基礎(chǔ)命令，對大家日常使用Docker還是很有幫助，通過這些命令可以有效的提高大家的工作效率，有需要的朋友們下面來一起看看吧。2016-10-10
在使用Docker的時候遇到刪不掉image的情況，怎么回事，如何解決呢？下面小編給大家分享下docker image刪不掉的解決辦法，需要的朋友參考下吧2017-01-01
docker容器查看所有沒使用的鏡像并刪除的實(shí)現(xiàn)
本文主要介紹了docker容器查看所有沒使用的鏡像并刪除的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-08-08
這篇文章主要介紹了docker部署apollo詳細(xì)教程，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09
docker+jenkins+gitee配置持續(xù)集成部署方式
這篇文章主要介紹了docker+jenkins+gitee配置持續(xù)集成部署方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-09-09
springboot整合docker部署實(shí)現(xiàn)兩種構(gòu)建Docker鏡像方式
這篇文章主要介紹了springboot整合docker部署實(shí)現(xiàn)兩種構(gòu)建Docker鏡像方式，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-04-04
Docker 通過端口來連接一個容器的實(shí)現(xiàn)
這篇文章主要介紹了Docker 通過端口來連接一個容器的實(shí)現(xiàn)，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-11-11
這篇文章主要介紹了docker之創(chuàng)建MariaDB鏡像,小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-02-02