Ollama 支持多種操作系統(tǒng)，包括 macOS、Windows、Linux 以及通過 Docker 容器運(yùn)行。

Ollama 對(duì)硬件要求不高，旨在讓用戶能夠輕松地在本地運(yùn)行、管理和與大型語(yǔ)言模型進(jìn)行交互。

• CPU：多核處理器（推薦 4 核或以上）。
• GPU：如果你計(jì)劃運(yùn)行大型模型或進(jìn)行微調(diào)，推薦使用具有較高計(jì)算能力的 GPU（如 NVIDIA 的 CUDA 支持）。
• 內(nèi)存：至少 8GB RAM，運(yùn)行較大模型時(shí)推薦 16GB 或更高。
• 存儲(chǔ)：需要足夠的硬盤空間來(lái)存儲(chǔ)預(yù)訓(xùn)練模型，通常需要 10GB 至數(shù)百 GB 的空間，具體取決于模型的大小。
• 軟件要求：確保系統(tǒng)上安裝了最新版本的 Python（如果打算使用 Python SDK）。

Ollama 官方下載地址：https://ollama.com/download。

我們可以根據(jù)不同的系統(tǒng)下載對(duì)應(yīng)的包。

1、Windows 系統(tǒng)安裝

打開瀏覽器，訪問 Ollama 官方網(wǎng)站：https://ollama.com/download，下載適用于 Windows 的安裝程序。

雙擊運(yùn)行，按向?qū)瓿砂惭b（默認(rèn)安裝在 C:\Users\<用戶名>\.ollama）

‌自定義安裝路徑‌（如不想裝在 C 盤）：

OllamaSetup.exe /DIR="D:\Ollama"

下載地址為：https://ollama.com/download/OllamaSetup.exe。

下載完成后，雙擊安裝程序并按照提示完成安裝。

驗(yàn)證安裝

打開命令提示符或 PowerShell，輸入以下命令驗(yàn)證安裝是否成功：

ollama --version

如果顯示版本號(hào)，則說(shuō)明安裝成功。

更改安裝路徑（可選）

如果需要將 Ollama 安裝到非默認(rèn)路徑，可以在安裝時(shí)通過命令行指定路徑，例如：

OllamaSetup.exe /DIR="d:\some\location"

這樣可以將 Ollama 安裝到指定的目錄。

2、macOS 系統(tǒng)安裝

打開瀏覽器，訪問 Ollama 官方網(wǎng)站：https://ollama.com/download，下載適用于 macOS 的安裝程序。

下載地址為：https://ollama.com/download/Ollama-darwin.zip。

下載完成后，雙擊安裝包并按照提示完成安裝。

安裝完成后，通過以下命令驗(yàn)證：

ollama --version

如果顯示版本號(hào)，則說(shuō)明安裝成功。

說(shuō)明

推薦方式‌（直接安裝）：下載 Ollama-darwin.zip解壓并雙擊安裝包，按提示完成安裝

備選方式‌（使用 Homebrew）：

brew install ollama

3、Linux 系統(tǒng)安裝

Linux 下可以使用一鍵安裝腳本，我們打開終端，運(yùn)行以下命令：

curl -fsSL https://ollama.com/install.sh | bash

安裝完成后，通過以下命令驗(yàn)證：

ollama --version

如果顯示版本號(hào)，則說(shuō)明安裝成功。

說(shuō)明

‌一鍵安裝腳本‌（適用于 Ubuntu、Debian、CentOS 等主流發(fā)行版）：

curl -fsSL https://ollama.com/install.sh | sh

‌手動(dòng)安裝‌（適用于離線或網(wǎng)絡(luò)受限環(huán)境）：
下載壓縮包：ollama-linux-amd64.tgz
解壓并移動(dòng)到系統(tǒng)目錄：

sudo tar -C /usr -xzf ollama-linux-amd64.tgz

4、Docker 安裝

如果你熟悉 Docker，也可以通過 Docker 安裝 Ollama。

官方 Docker 鏡像 ollama/ollama 可在 Docker Hub 上獲取：https://hub.docker.com/r/ollama/ollama。

拉取 Docker 鏡像：

docker pull ollama/ollama

運(yùn)行容器：

docker run -p 11434:11434 ollama/ollama

訪問 http://localhost:11434 即可使用 Ollama。

‌后續(xù)操作建議‌

‌查看可用模型‌：Ollama 模型庫(kù)

拉取并運(yùn)行模型‌（例如 Llama 3）：

ollama pull llama3 ollama run llama3

‌圖形化界面推薦‌：使用 Open WebUI

docker run -d -p 3000:8080 --name open-webui ghcr.io/open-webui/open-webui:main

然后訪問 http://localhost:3000

‌注意事項(xiàng)‌

‌硬件要求‌：

‌內(nèi)存‌：至少 8GB RAM，推薦 16GB+ 以運(yùn)行 7B 參數(shù)以上模型

‌存儲(chǔ)‌：模型文件通常需 10GB 至數(shù)百 GB 空間（取決于模型大?。?/p>

‌GPU‌：NVIDIA 顯卡（支持 CUDA）可顯著加速推理，但非必需

‌國(guó)內(nèi)用戶‌：若拉取模型緩慢，可配置阿里云鏡像加速

安裝完成后，即可開始本地運(yùn)行如 Llama、Mistral、Qwen、DeepSeek 等開源大模型。

最新評(píng)論