Ollama 是一個(gè)本地 LLM 運(yùn)行時(shí)，可以輕松在你的機(jī)器上運(yùn)行開源模型。OpenClaw 通過 Ollama 的 OpenAI 兼容 API 進(jìn)行集成，并且當(dāng)你通過 OLLAMA_API_KEY（或認(rèn)證配置）啟用且未定義顯式的 models.providers.ollama 條目時(shí)，可以自動(dòng)發(fā)現(xiàn)支持工具調(diào)用的模型。

快速開始

1. 安裝 Ollama：https://ollama.ai
2. 拉取模型：

ollama pull llama3.3
# 或
ollama pull qwen2.5-coder:32b
# 或
ollama pull deepseek-r1:32b

• 為 OpenClaw 啟用 Ollama（任意值即可；Ollama 不需要真實(shí)密鑰）：

# 設(shè)置環(huán)境變量
export OLLAMA_API_KEY="ollama-local"
# 或在配置文件中設(shè)置
openclaw config set models.providers.ollama.apiKey "ollama-local"

• 使用 Ollama 模型：

{
  agents: {
    defaults: {
      model: { primary: "ollama/llama3.3" },
    },
  },
}

模型發(fā)現(xiàn)（隱式提供商）

當(dāng)你設(shè)置了 OLLAMA_API_KEY（或認(rèn)證配置）且未定義 models.providers.ollama 時(shí)，OpenClaw 會(huì)從本地 Ollama 實(shí)例 http://127.0.0.1:11434 發(fā)現(xiàn)模型：

• 查詢 /api/tags 和 /api/show
• 僅保留報(bào)告了 tools 能力的模型
• 當(dāng)模型報(bào)告 thinking 時(shí)標(biāo)記為 reasoning
• 在可用時(shí)從 model_info["<arch>.context_length"] 讀取 contextWindow
• 將 maxTokens 設(shè)置為上下文窗口的 10 倍
• 所有費(fèi)用設(shè)置為 0

這樣無需手動(dòng)配置模型條目，同時(shí)保持目錄與 Ollama 的能力對齊。查看可用模型：

ollama list
openclaw models list

要添加新模型，只需通過 Ollama 拉?。?/p>

ollama pull mistral

新模型將被自動(dòng)發(fā)現(xiàn)并可供使用。如果你顯式設(shè)置了 models.providers.ollama，自動(dòng)發(fā)現(xiàn)將被跳過，你必須手動(dòng)定義模型（見下文）。

配置

基本設(shè)置（隱式發(fā)現(xiàn)）

啟用 Ollama 最簡單的方式是通過環(huán)境變量：

export OLLAMA_API_KEY="ollama-local"

顯式設(shè)置（手動(dòng)模型）

在以下情況使用顯式配置：

• Ollama 運(yùn)行在其他主機(jī)/端口上。
• 你想強(qiáng)制指定上下文窗口或模型列表。
• 你想包含未報(bào)告工具支持的模型。

{
  models: {
    providers: {
      ollama: {
        // 使用包含 /v1 的主機(jī)地址以兼容 OpenAI API
        baseUrl: "http://ollama-host:11434/v1",
        apiKey: "ollama-local",
        api: "openai-completions",
        models: [
          {
            id: "llama3.3",
            name: "Llama 3.3",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 8192,
            maxTokens: 8192 * 10
          }
        ]
      }
    }
  }
}

如果設(shè)置了 OLLAMA_API_KEY，你可以在提供商條目中省略 apiKey，OpenClaw 會(huì)自動(dòng)填充以進(jìn)行可用性檢查。

自定義基礎(chǔ) URL（顯式配置）

如果 Ollama 運(yùn)行在不同的主機(jī)或端口上（顯式配置會(huì)禁用自動(dòng)發(fā)現(xiàn)，因此需要手動(dòng)定義模型）：

{
  models: {
    providers: {
      ollama: {
        apiKey: "ollama-local",
        baseUrl: "http://ollama-host:11434/v1",
      },
    },
  },
}

模型選擇

配置完成后，所有 Ollama 模型即可使用：

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3.3",
        fallbacks: ["ollama/qwen2.5-coder:32b"],
      },
    },
  },
}

高級用法

推理模型

當(dāng) Ollama 在 /api/show 中報(bào)告 thinking 時(shí)，OpenClaw 會(huì)將模型標(biāo)記為具有推理能力：

ollama pull deepseek-r1:32b

模型費(fèi)用

Ollama 免費(fèi)且在本地運(yùn)行，因此所有模型費(fèi)用均設(shè)置為 $0。

上下文窗口

對于自動(dòng)發(fā)現(xiàn)的模型，OpenClaw 會(huì)使用 Ollama 報(bào)告的上下文窗口（如果可用），否則默認(rèn)為 8192。你可以在顯式提供商配置中覆蓋 contextWindow 和 maxTokens。

故障排除

Ollama 未被檢測到

確保 Ollama 正在運(yùn)行，且你已設(shè)置 OLLAMA_API_KEY（或認(rèn)證配置），并且未定義顯式的 models.providers.ollama 條目：

ollama serve

同時(shí)確認(rèn) API 可訪問：

curl http://localhost:11434/api/tags

沒有可用模型

OpenClaw 僅自動(dòng)發(fā)現(xiàn)報(bào)告了工具支持的模型。如果你的模型未列出，可以：

• 拉取一個(gè)支持工具調(diào)用的模型，或
• 在 models.providers.ollama 中顯式定義該模型。

添加模型：

ollama list  # 查看已安裝的模型
ollama pull llama3.3  # 拉取模型

連接被拒絕

檢查 Ollama 是否在正確的端口上運(yùn)行：

# 檢查 Ollama 是否在運(yùn)行
ps aux | grep ollama
# 或重啟 Ollama
ollama serve

另請參閱

• 模型提供商 - 所有提供商概覽
• 模型選擇 - 如何選擇模型
• 配置 - 完整配置參考

Ollama - OpenClaw

到此這篇關(guān)于OpenClaw使用Ollama本地模型(支持工具調(diào)用))的文章就介紹到這了,更多相關(guān)OpenClaw使用Ollama本地模型內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持腳本之家！

最新評論