Python通過Ollama調(diào)用大語言模型
說實話這個入門教程也不是特別有必要,因為直接問AI然后驗證即可,我這篇就是在AI的指導下操作的。不過想想還是留作個人記錄吧。。
Ollama 是什么
AI回答:(僅供參考)
Ollama 是一個開源的命令行工具,讓你能在本地電腦上輕松運行、管理和與大型語言模型(LLM)交互。
簡單來說,它相當于大語言模型的“Docker”——極大簡化了在本地部署和運行 Llama 3、DeepSeek、Mistral 等開源模型的流程。
下載

安裝完畢后。打開。
可以選一個模型,這里我就選一個下載到本地的而非云端的了,否則感覺跟在網(wǎng)頁端和AI對話沒啥區(qū)別。。

等待下載:

可以對話了:

使用 python 調(diào)用大語言模型
在實際跑python之前,先確認下Ollama服務是否啟動了。
執(zhí)行curl -s http://127.0.0.1:11434,啟動的話應該顯示 Ollama is running

然后看下模型名字叫啥,cmd中輸入ollama list:
我這里就是 qwen3:4b

然后就可以調(diào)用如下腳本,向大語言模型發(fā)送信息并得到回應了。
注意修改model名字,content中是發(fā)的信息,這里是 “你好,你是哪個模型?”。最后打印出回應。
import requests
import json
# Ollama API 地址
url = "http://localhost:11434/api/chat"
# 請求體
payload = {
"model": "qwen3:4b",
"messages": [
{"role": "user", "content": "你好,你是哪個模型?"}
],
"stream": False # 非流式返回
}
# 發(fā)送 POST 請求
response = requests.post(url, json=payload)
# 解析響應
if response.status_code == 200:
result = response.json()
print(result['message']['content'])
else:
print(f"請求失敗: {response.status_code}")(以上腳本也是AI自己寫的,有問題的話可以直接問AI)
結(jié)果:

到此這篇關(guān)于Python通過Ollama調(diào)用大語言模型的文章就介紹到這了,更多相關(guān)Python Ollama調(diào)用大語言模型內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python通過pymysql調(diào)用MySQL進行增刪改移查
這篇文章主要介紹了Python通過pymysql調(diào)用MySQL,從而實現(xiàn)數(shù)據(jù)的增刪改移查功能,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下2021-12-12
Python入門之使用pandas分析excel數(shù)據(jù)
這篇文章主要給大家介紹了關(guān)于Python入門學習之使用pandas分析excel數(shù)據(jù)的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用python具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-05-05
使用bandit對目標python代碼進行安全函數(shù)掃描的案例分析
這篇文章主要介紹了使用bandit對目標python代碼進行安全函數(shù)掃描,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-01-01

