?? 今日知識點

• 核心主題：Ollama GPU內(nèi)存使用情況查看及監(jiān)控方法

?? 如何查看Ollama的GPU內(nèi)存使用情況

方法1. 通過ollama ps

通過命令"ollama ps"來查看當前運行的模型及其資源占用情況是最直接的方法：

# 查看當前運行的模型及資源使用情況
ollama ps

輸出示例：

關鍵字段說明：

• NAME：模型名稱和版本
• ID：模型ID
• SIZE：模型文件大小，即模型權重大小
• PROCESSOR：當前的共享GPU和專用GPU使用百分比，其中CPU指共享GPU
• CONTEXT：模型上下文窗口的內(nèi)存占用
• UNTIL：模型運行了多長時間

實用技巧：

# 持續(xù)監(jiān)控（每2秒刷新一次）
watch -n 2 ollama ps
# Windows PowerShell 等效命令（每2秒執(zhí)行一次）
while ($true) { ollama ps; Start-Sleep 2 }

方法2. Windows平臺下通過任務管理器查看

對于Windows用戶，可以通過圖形界面直觀查看資源使用情況：

操作步驟：

1. 按 Ctrl + Shift + Esc 打開任務管理器
2. 切換到「詳細信息」選項卡
3. 找到 ollama.exe 進程
4. 右鍵點擊標題行 →「選擇列(S)」→ 把「GPU」相關的列顯示處理

查看要點：

• GPU：顯示進程的GPU使用率
• 專用 GPU 內(nèi)存：顯示顯存占用情況
• 共享 GPU 內(nèi)存：顯示系統(tǒng)內(nèi)存作為顯存使用的情況

下圖展示了筆者環(huán)境中的情況：

此外，還可以在任務管理器的性能頁面，查看GPU的總體使用情況，具體情況如下圖所示：

到此這篇關于查看Ollama GPU資源使用情況的兩種方法的文章就介紹到這了,更多相關Ollama GPU資源使用內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持腳本之家！

最新評論