Ollama在Docker下的安裝與配置詳細(xì)教程
更新時間：2025年02月07日 10:51:47 作者：goomind
這篇文章主要介紹了如何通過Docker拉取Ollama鏡像并運行,包括可視化界面和命令行兩種方式,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下
一、拉取 Ollama 鏡像
方式一：Docker 軟件在可視化界面中搜索并下載
方式二：官網(wǎng)推薦直接使用下面的指令拉取下載鏡像，本項目只需在CPU上即可運行。
# CPU 或者 Nvidia GPU docker pull ollama/ollama # AMD GPU docker pull ollama/ollama:rocm
注：如果讀者想要使用具體的版本的鏡像，明確運行環(huán)境，可以使用下面的指令:
# CPU 或 Nvidia GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0 # AMD GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0-rocm
二、運行ollama鏡像
方式一：Docker在可視化界面中運行鏡像
- 下載完成后，可以在
Images中找到Ollama鏡像，點擊run標(biāo)識即可運行，注意運行前在彈出的可選設(shè)置里面，選定一個端口號（如8089）。
- 在
Containers中找到該鏡像，點擊OLLM即可進入 Ollama 界面
- 驗證安裝完成，在
Exec處輸入：
ollama -h
輸出如下：即表示安裝成功??
Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information
- 終端使用 Ollama :
以下是 Ollama 使用常見的指令：
ollama serve #啟動ollama ollama create #從模型文件創(chuàng)建模型 ollama show #顯示模型信息 ollama run #運行模型 ollama pull #從注冊表中拉取模型 ollama push #將模型推送到注冊表 ollama list #列出模型 ollama cp #復(fù)制模型 ollama rm #刪除模型 ollama help #獲取有關(guān)任何命令的幫助信息
ollama run llama3
下載速度取決于你的帶寬，下載完畢即可使用?記得使用
control + D退出聊天
方式二：命令行啟動
- CPU 版本：
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
總結(jié)
到此這篇關(guān)于Ollama在Docker下的安裝與配置的文章就介紹到這了,更多相關(guān)Ollama在Docker下安裝與配置內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
docker啟動報錯問題OCI runtime create failed: c
這篇文章主要介紹了docker啟動報錯問題OCI runtime create failed: container_linux.go:380: starting container process,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-08-08
這篇文章主要介紹了使用Docker運行SQL Server的實現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07
Docker CentOS7的系統(tǒng)上安裝部署以及基礎(chǔ)教程
這篇文章主要介紹了Docker CentOS7的系統(tǒng)上安裝部署以及基礎(chǔ)教程的相關(guān)資料,需要的朋友可以參考下2016-10-10
很多朋友不太明白如何為docker和kubectl添加自動補全命令，本文通過一些示例給大家介紹kubectl基礎(chǔ)概念及語法知識，需要的朋友參考下吧2021-06-06
docker的pdflatex環(huán)境配置的方法步驟
這篇文章主要介紹了docker的pdflatex環(huán)境配置的方法步驟，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03
詳解docker compose搭建lnmpr環(huán)境實現(xiàn)
這篇文章主要為大家介紹了使用docker compose搭建lnmpr環(huán)境實現(xiàn)詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-11-11
Dokcer里面有很多命令,全部的可以參考官方Reference文檔,命令太多我們只需要掌握部分命令即可,這篇文章主要給大家介紹了關(guān)于Docker常用命令總結(jié)大全的相關(guān)資料,需要的朋友可以參考下2024-01-01
文章介紹了如何創(chuàng)建目錄、配置文件和搭建MySQL集群,包括設(shè)置主庫和兩個從庫的配置,并詳細(xì)說明了如何創(chuàng)建復(fù)制用戶和連接主庫2025-11-11
現(xiàn)在需要從Docker容器中備份整個PostgreSQL后,然后,使用備份文件在另外一個pg的docker容器中恢復(fù)過來,所以本文給大家介紹了從Docker容器中備份整個PostgreSQL的操作步驟,通過代碼示例講解的非常詳細(xì),具有一定的參考價值,需要的朋友可以參考下2024-10-10
docker:?Error?response?from?daemon的錯誤解決
本文主要介紹了docker:?Error?response?from?daemon的錯誤解決,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2025-08-08