最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

docker安裝并使用 ollama的步驟

 更新時(shí)間：2026年03月04日 14:45:38   作者：赴前塵  
文章介紹了如何通過Docker安裝并使用Ollama,包括CPU和GPU啟動(dòng)方式,以及如何進(jìn)入容器、通過API進(jìn)行單輪和多輪對(duì)話,感興趣的朋友跟隨小編一起看看吧

啟動(dòng) ollama

1. CPU 方式啟動(dòng)

docker run -itd --name ollama -v ~/.ollama:/root/.ollama -p 11434:11434 ollama/ollama

2. GPU 方式啟動(dòng)

docker run -itd --name ollama --gpus=all -v ~/.ollama:/root/.ollama -p 11434:11434 ollama/ollama

啟動(dòng)模型

進(jìn)入 ollama 容器

docker exec -it ollama /bin/bash

拉取 qwen2.5 大模型

ollama pull qwen2.5:0.5b

查看大模型列表

ollama list

對(duì)話

1. 進(jìn)入容器，直接啟動(dòng) qwen2.5 大模型，進(jìn)行對(duì)話

docker exec -it ollama /bin/bash
ollama run qwen2.5:0.5b

2. 在宿主機(jī)通過 curl 和 ollama api 交互，進(jìn)行單輪對(duì)話

curl http://localhost:11434/api/generate \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:0.5b",
    "prompt": "用 Go 寫一個(gè) Gin 示例",
    "stream": false
  }'

3. 在宿主機(jī)通過 curl 和 ollama api 交互，進(jìn)行多輪對(duì)話

curl http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:0.5b",
    "messages": [
      {"role": "user", "content": "你是誰？"},
      {"role": "assistant", "content": "我是 Qwen 模型"},
      {"role": "user", "content": "給我一個(gè) Go Web 示例"}
    ],
    "stream": false
  }'

到此這篇關(guān)于docker 安裝并使用 ollama的文章就介紹到這了,更多相關(guān)docker 安裝使用 ollama內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

相關(guān)文章

最新評(píng)論

荣昌县| 会理县| 乌苏市| 北票市| 盐池县| 乐清市| 文昌市| 贵德县| 建瓯市| 宜宾县| 津南区| 宣城市| 连平县| 宕昌县| 海宁市| 滦南县| 江阴市| 驻马店市| 永嘉县| 手机| 池州市| 乡宁县| 漠河县| 梅河口市| 沅陵县| 秭归县| 康定县| 大竹县| 合肥市| 保德县| 白山市| 葫芦岛市| 海阳市| 许昌市| 温州市| 日土县| 钟山县| 双桥区| 信丰县| 新巴尔虎左旗| 金沙县|