docker掛載NVIDIA顯卡運行pytorch的方法
寫在前面：
請參考之前的文章安裝好CentOS、NVIDIA相關(guān)驅(qū)動及軟件、docker及加速鏡像。
主機運行環(huán)境
$ uname -a Linux CentOS 3.10.0-514.26.2.el7.x86_64 #1 SMP Tue Jul 4 15:04:05 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux $ cat /usr/local/cuda/version.txt CUDA Version 8.0.61 $ cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2 #define CUDNN_MAJOR 6 #define CUDNN_MINOR 0 #define CUDNN_PATCHLEVEL 21 #define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL) #include "driver_types.h" # NVIDIA 1080ti
一、關(guān)于GPU的掛載
1. 在docker運行時指定device掛載
先查看一下有哪些相關(guān)設(shè)備
$ ls -la /dev | grep nvidia crw-rw-rw- 1 root root 195, 0 Nov 15 13:41 nvidia0 crw-rw-rw- 1 root root 195, 1 Nov 15 13:41 nvidia1 crw-rw-rw- 1 root root 195, 255 Nov 15 13:41 nvidiactl crw-rw-rw- 1 root root 242, 0 Nov 15 13:41 nvidia-uvm crw-rw-rw- 1 root root 242, 1 Nov 15 13:41 nvidia-uvm-tools
電腦上裝了兩個顯卡。我需要運行pytorch，dockerhub中pytorch官方鏡像沒有g(shù)pu支持，所以只能先pull一個anaconda鏡像試試，后面可以編排成Dockerfile。
$ docker run -it -d --rm --name pytorch -v /home/qiyafei/pytorch:/mnt/home --privileged=true --device /dev/nvidia-uvm:/dev/nvidia-uvm --device /dev/nvidia1:/dev/nvidia1 --device /dev/nvidiactl:/dev/nvidiactl okwrtdsh/anaconda3 bash
okwrtdsh的鏡像似乎是針對他們實驗室GPU環(huán)境的，有點過大了，不過勉強運行一下還是可以的。在容器內(nèi)部還需要
安裝pytorch：
$ conda install pytorch torchvision -c pytorch
這里運行torch成功，但是加載顯卡失敗了，可能還是因為驅(qū)動不匹配的原因吧，需要重新安裝驅(qū)動，暫時不做此嘗試；
二、通過nvidia-docker在docker內(nèi)使用顯卡
詳細信息：https://github.com/NVIDIA/nvidia-docker
（1）安裝nvidia-docker
nvidia-docker其實是docker引擎的一個應(yīng)用插件，專門面向NVIDIA GPU，因為docker引擎是不支持NVIDIA驅(qū)動的，安裝插件后可以在用戶層上直接使用cuda。具體看上圖。這個圖很形象，docker引擎的運行機制也表現(xiàn)出來了，就是在系統(tǒng)內(nèi)核之上通過cgroup和namespace虛擬出一個容器OS的用戶空間，我不清楚這是否運行在ring0上，但是cuda和應(yīng)用確實可以使用了（虛擬化的問題，如果關(guān)心此類問題可以了解一些關(guān)于docker、kvm等等虛擬化的實現(xiàn)方式，目前是系統(tǒng)類比較火熱的話題）
下載rpm包：https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker-1.0.1-1.x86_64.rpm
這里也可以通過添加apt或者yum sourcelist的方式進行安裝，但是我沒有root權(quán)限，而且update容易引起docker重啟，如果不是實驗室的個人環(huán)境不推薦這么做，防止破壞別人正在運行的程序（之前公司一個小伙子就是在阿里云上進行了yum update，結(jié)果導致公司部分業(yè)務(wù)停了一個上午）。
$ sudo rpm -i nvidia-docker-1.0.1-1.x86_64.rpm && rm nvidia-docker-1.0.1-1.x86_64.rpm $ sudo systemctl start nvidia-docker
（2）容器測試
我們還需要NVIDIA官方提供的docker容器nvidia/cuda，里面已經(jīng)編譯安裝了CUDA和CUDNN，或者直接run，缺少image的會自動pull。
$ docker pull nvidia/cuda $ nvidia-docker run --rm nvidia/cuda nvidia-smi
在容器內(nèi)測試是可以成功使用nvidia顯卡的：
（3）合適的鏡像或者自制dockerfile
合適的鏡像：這里推薦Floydhub的pytorch，注意對應(yīng)的cuda和cudnn版本。
docker pull floydhub/pytorch:0.3.0-gpu.cuda8cudnn6-py3.22 nvidia-docker run -ti -d --rm floydhub/pytorch:0.3.0-gpu.cuda8cudnn6-py3.22 bash
自制dockerfile
首先，我們需要把要裝的東西想清楚：
1. 基礎(chǔ)鏡像肯定是NVIDIA官方提供的啦，最省事，不用裝cuda和cudnn了；
2. vim、git、lrzsz、ssh這些肯定要啦；
3. anaconda、pytorch肯定要啦；
所以需要準備好國內(nèi)源source.list，否則安裝速度很慢。
deb-src http://archive.ubuntu.com/ubuntu xenial main restricted #Added by software-properties deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted deb-src http://mirrors.aliyun.com/ubuntu/ xenial main restricted multiverse universe #Added by software-properties deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted deb-src http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted multiverse universe #Added by software-properties deb http://mirrors.aliyun.com/ubuntu/ xenial universe deb http://mirrors.aliyun.com/ubuntu/ xenial-updates universe deb http://mirrors.aliyun.com/ubuntu/ xenial multiverse deb http://mirrors.aliyun.com/ubuntu/ xenial-updates multiverse deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse deb-src http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse #Added by software-properties deb http://archive.canonical.com/ubuntu xenial partner deb-src http://archive.canonical.com/ubuntu xenial partner deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted deb-src http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted multiverse universe #Added by software-properties deb http://mirrors.aliyun.com/ubuntu/ xenial-security universe deb http://mirrors.aliyun.com/ubuntu/ xenial-security multiverse
下載anaconda的地址：https://repo.continuum.io/archive/Anaconda3-5.0.1-Linux-x86_64.sh，這里直接在Dockerfile里下了，具體如下：
$ vim Dockerfile
FROM nvidia/cuda
LABEL author="qyf"
ENV PYTHONIOENCODING=utf-8
RUN mv /etc/apt/sources.list /etc/apt/sources.list.bak
ADD $PWD/sources.list /etc/apt/sources.list
RUN apt-get update --fix-missing && \
apt-get install -y vim net-tools curl wget git bzip2 ca-certificates libglib2.0-0 libxext6 libsm6 libxrender1 mercurial subversion apt-transport-https software-properties-common
RUN apt-get install -y openssh-server -y
RUN echo 'root:passwd' | chpasswd
RUN sed -i 's/PermitRootLogin prohibit-password/PermitRootLogin yes/' /etc/ssh/sshd_config
RUN sed -i 's/#PasswordAuthentication yes/PasswordAuthentication yes/' /etc/ssh/sshd_config
RUN echo 'export PATH=/opt/conda/bin:$PATH' > /etc/profile.d/conda.sh && wget --quiet https://repo.continuum.io/archive/Anaconda3-5.0.1-Linux-x86_64.sh -O ~/anaconda.sh && /bin/bash ~/anaconda.sh -b -p /opt/conda && rm ~/anaconda.sh
RUN apt-get install -y grep sed dpkg && \
TINI_VERSION=`curl https://github.com/krallin/tini/releases/latest | grep -o "/v.*\"" | sed 's:^..\(.*\).$:\1:'` && \
curl -L "https://github.com/krallin/tini/releases/download/v${TINI_VERSION}/tini_${TINI_VERSION}.deb"; > tini.deb && \
dpkg -i tini.deb && \
rm tini.deb && \
apt-get clean
ENV PATH /opt/conda/bin:$PATH
RUN conda install pytorch torchvision -c pytorch -y
ENTRYPOINT [ "/usr/bin/tini", "--" ]
CMD [ "/bin/bash" ]
通過docker build構(gòu)造鏡像:
docker build -t pytorch/cuda8 ./
運行成功調(diào)用cuda?！?/p>
三、關(guān)于一些bug
這里有部分debian的配置，我照著dockerhub上anaconda鏡像抄的，這里就不再配置了，反正跑起來后有鏡像也可以用。系統(tǒng)隨后可能會出現(xiàn)錯誤：
kernel:unregister_netdevice: waiting for lo to become free. Usage count = 1
這是一個Ubuntu的內(nèi)核錯誤，截止到到目前為止似乎還沒完全解決。
這個小哥給出了一個解決方案，至少他給出的錯誤原因我是相信的：是由內(nèi)核的TCP套接字錯誤引發(fā)的。這里我給出一些思考，關(guān)于上面的結(jié)構(gòu)圖，在顯卡上，通過nvidia-docker，docker之上的容器可以使用到底層顯卡（驅(qū)動顯然是在docker之下的），而TCP套接字，我猜測也是這種使用方法，而虛擬出來的dockerOS，應(yīng)該是沒有權(quán)限來訪問宿主機內(nèi)核的，至少內(nèi)核限制了部分權(quán)限。這位小哥給出了測試內(nèi)核，如果有興趣可以去幫他測試一下：https://bugs.launchpad.net/ubuntu/+source/linux/+bug/1711407/comments/46。
總結(jié)
以上所述是小編給大家介紹的docker掛載NVIDIA顯卡運行pytorch的方法，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持！
相關(guān)文章
關(guān)于為Windows?Service?2019?使用?Docker的問題
最近收到領(lǐng)導通知，甲方需要將原來的服務(wù)器遷移到新的服務(wù)器，原來的服務(wù)器上安裝了很多的服務(wù)，每次重啟之后總是有很多的問題需要人工大量的進行干預，今天小編通過本文給大家介紹下Windows?Service?2019?使用?Docker的問題，需要的朋友參考下吧2022-05-05
這篇文章主要介紹了docker volumes 文件映射的實例講解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-03-03
Docker網(wǎng)絡(luò)原理及自定義網(wǎng)絡(luò)詳細解析
一般使用自定義網(wǎng)絡(luò)，自定義網(wǎng)絡(luò)使用network創(chuàng)建，創(chuàng)建時可以指定子網(wǎng)網(wǎng)段及網(wǎng)關(guān)等信息，在創(chuàng)建并啟動容器時指定使用的網(wǎng)絡(luò)，今天通過本文給大家介紹Docker網(wǎng)絡(luò)原理及自定義網(wǎng)絡(luò)的相關(guān)知識，感興趣的朋友一起看看吧2021-05-05
這篇文章主要介紹了Docker無法stop或者rm指定容器問題解決方案,本文給大家介紹的非常詳細,感興趣的朋友跟隨小編一起看看吧2024-06-06
Docker buildx構(gòu)建多平臺鏡像并推送到私有倉庫的方法
這篇文章主要介紹了Docker buildx構(gòu)建多平臺鏡像并推送到私有倉庫，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-01-01
本文主要介紹了IDEA集成docker實現(xiàn)遠程部署的步驟，文中通過示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-09-09
基于docker搭建redis-sentinel集群的方法示例
這篇文章主要介紹了基于docker搭建redis-sentinel集群的方法示例，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-06-06
樹莓派3B+安裝64位ubuntu系統(tǒng)和docker工具的操作步驟詳解
這篇文章主要介紹了樹莓派3B+安裝64位ubuntu系統(tǒng)和docker工具,本文給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2020-09-09
當使用Docker構(gòu)建容器化應(yīng)用程序時,Dockerfile是一個用于定義容器鏡像的文本文件,Dockerfile 的編寫是構(gòu)建容器的基礎(chǔ),它允許您定義容器的構(gòu)建步驟、環(huán)境和配置,所以本文就給大家講講Docker的Dockerfile使用方法,需要的朋友可以參考下2023-09-09
在國內(nèi)docker-hub是肯定用不了的，不解釋:所以最好還是建一個私有的docker-registry，存儲一些常用的images方便隨時pull2016-09-09