1.前言

Ollama 是本地啟動(dòng)大型語言模型（如 gpt-oss、Gemma 3、DeepSeek-R1、Qwen3 等）最簡單的方法。

本文介紹在 Linux 平臺(tái)上安裝和升級 Ollama，使用的系統(tǒng)是 Ubuntu 22.04.4 LTS。

我使用ollama最早版本是0.3.11，還是一年多前了，當(dāng)前ollama新版本是0.19.0，現(xiàn)在有需求要使用最新支持的一系列模型，需要升級ollama版本，故在這里記錄一下。

2.安裝

官方提供Linux平臺(tái)上的安裝命令：

curl -fsSL https://ollama.com/install.sh | sh

但該命令安裝需要保持網(wǎng)絡(luò)暢通，否則很容易久等或因?yàn)榫W(wǎng)絡(luò)斷開，導(dǎo)致安裝失敗。

這種需要訪問外網(wǎng)的安裝命令，我一般習(xí)慣提前下載好安裝壓縮包，然后安裝的時(shí)候直接使用本地文件安裝，也就是手動(dòng)安裝。

3.手動(dòng)安裝

官方也提供了手動(dòng)安裝命令：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

官方的安裝命令，會(huì)自動(dòng)下載ollama的二進(jìn)制文件，并解壓到/usr目錄下。這也是要保持網(wǎng)絡(luò)暢通的…

所以這里我們提前去ollama軟件包發(fā)布頁面 https://github.com/ollama/ollama/releases，（可能需要科學(xué)上網(wǎng)），注意我使用是NVIDIA的顯卡，所以這里下載的是ollama-linux-amd64.tar.zst，不同顯卡、系統(tǒng)架構(gòu)的軟件包是不同的。找到對應(yīng)版本的ollama-linux-amd64.tar.zst下載到本地：

然后再手動(dòng)解壓安裝：

sudo tar --zstd -xvf 自己下載的路徑/ollama-linux-amd64.tar.zst -C /usr

驗(yàn)證安裝：

• 啟動(dòng)ollama服務(wù)：ollama serve
• 在另一個(gè)終端中，確認(rèn) Ollama 正在運(yùn)行：ollama -v

3.1 添加 Ollama 作為啟動(dòng)服務(wù)

為Ollama創(chuàng)建一個(gè)用戶和群組：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

創(chuàng)建服務(wù)文件： /etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target

然后設(shè)置成啟動(dòng)服務(wù)：

sudo systemctl daemon-reload
sudo systemctl enable ollama

啟動(dòng) Ollama 并確認(rèn)其運(yùn)行：

sudo systemctl start ollama
sudo systemctl status ollama

3.2 配置 Ollama 服務(wù)器

在 Linux 上設(shè)置 Ollama 服務(wù)，Ollama 作為 systemd 服務(wù)運(yùn)行，環(huán)境變量可以使用 systemctl 命令設(shè)置。

1. 通過調(diào)用systemctl edit ollama.service編輯 systemd 服務(wù)，會(huì)打開一個(gè)編輯。
2. 對于每個(gè)環(huán)境變量，在【Service】部分添加一行【Environment】：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_NUM_PARALLEL=20"
Environment="OLLAMA_MAX_LOADED_MODELS=3"
Environment="OLLAMA_KEEP_ALIVE=5m"
[Install]
WantedBy=default.target

我這里配置的幾個(gè)環(huán)境變量說明：

• OLLAMA_HOST: 設(shè)置 Ollama 服務(wù)監(jiān)聽的 IP 地址和端口。
• OLLAMA_ORIGINS: 允許的來源，默認(rèn)為*，表示允許所有來源。
• OLLAMA_NUM_PARALLEL: 設(shè)置每個(gè)模型允許的并發(fā)請求數(shù)。
• OLLAMA_MAX_LOADED_MODELS: 設(shè)置允許加載的模型數(shù)量。
• OLLAMA_KEEP_ALIVE: 設(shè)置模型保持活動(dòng)的時(shí)間間隔。

3. 保存后退出。
4. 重新加載systemd并重啟 Ollama：

systemctl daemon-reload
systemctl restart ollama

4.版本升級

升級ollama版本也挺簡單的，過程就是刪除舊庫，重新下載一遍目標(biāo)版本的軟件包即可，然后重新啟動(dòng)ollama服務(wù)。

從舊版本升級，先使用命令刪除舊庫：

sudo rm -rf /usr/lib/ollama

然后重新手動(dòng)下載對應(yīng)的軟件包，解壓安裝：

sudo tar --zstd -xvf 自己下載的路徑/ollama-linux-amd64.tar.zst -C /usr

5.查看日志

要查看 Ollama 作為啟動(dòng)服務(wù)運(yùn)行的日志，在終端運(yùn)行以下命令：

journalctl -e -u ollama

6.卸載

要完全卸載ollama，需要移除掉ollama服務(wù)、ollama庫、二進(jìn)制文件、已下載的模型以及 Ollama 服務(wù)用戶和組。

移除ollama服務(wù)：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

從你的庫目錄中移除 ollama 庫（/usr/local/lib、/usr/lib 或 /lib）：

sudo rm -r $(which ollama | tr 'bin' 'lib')

從你的 bin 目錄中移除 ollama 二進(jìn)制文件（可以是 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

移除已下載的模型以及 Ollama 服務(wù)用戶和組：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

進(jìn)制文件（可以是 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

移除已下載的模型以及 Ollama 服務(wù)用戶和組：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

以上就是在Linux平臺(tái)上Ollama安裝與手動(dòng)升級版本的詳細(xì)內(nèi)容，更多關(guān)于Ollama安裝與手動(dòng)升級的資料請關(guān)注腳本之家其它相關(guān)文章！

最新評論