Nodejs本地部署DeepSeek的教程詳解
1.下載 Ollama
下載之后點擊安裝，等待安裝成功后，打開cmd窗口，輸入以下指令：
ollama -v
如果顯示了版本號，則代表已經下載成功了。
2.下載DeepSeek模型
然后選擇自己對應配置的模型，在復制右側指令到cmd窗口，就可以把模型下載到本地了。
3.下載 ollama.js
npm下載方式：
npm i ollama
yarn下載方式：
yarn add ollama
pnpm下載方式：
pnpm i ollama
下載完成后，按照ollama.js 官方文檔指示則可使用，下面是一個最簡單的案例：
import { Ollama } from 'ollama'
const ollama = new Ollama({
host: 'http://127.0.0.1:11434'
})
const response = await ollama.chat({
model: 'deepseek-r1:1.5b',
messages: [{ role: 'user', content: '你好' }],
})
console.log(response.message.content)輸出結果：
最后，如果大家不熟悉 Ollama 的指令，可以參考下文
4.ollama基本使用教程
Ollama 是一個開源的大型語言模型服務工具，能夠幫助用戶在本地運行大模型。通過簡單的安裝指令，用戶可以在本地運行開源的大型語言模型，如 Llama 21。
1. 安裝 Ollama
支持 macOS、Linux 和 Windows（通過 WSL）。
macOS 或 Linux
# 一鍵安裝腳本 curl -fsSL https://ollama.com/install.sh | sh
Windows (WSL2)
安裝 WSL2 和 Ubuntu。
在 WSL 終端中運行上述安裝腳本。
2. 基礎命令
啟動與停止
# 啟動 Ollama 服務（后臺運行） ollama serve # 停止服務 ollama stop
更新 Ollama
ollama upgrade
3. 模型管理
下載預訓練模型
# 下載官方模型（如 llama2、mistral） ollama pull <model-name> # 示例 ollama pull llama2
運行模型
# 啟動交互式對話 ollama run <model-name> # 示例 ollama run llama2
查看已安裝模型
ollama list
刪除模型
ollama rm <model-name>
從 Modelfile 創(chuàng)建自定義模型
創(chuàng)建一個 Modelfile 文件：
FROM llama2 # 基礎模型 SYSTEM """你是一個友好的助手，用中文回答。""" PARAMETER temperature 0.7 # 控制生成隨機性（0-1）
構建自定義模型：
ollama create my-model -f Modelfile
運行自定義模型：
ollama run my-model
4. 高級功能
服務器模式與 API
啟動 API 服務（默認端口 11434）：
ollama serve
通過 HTTP 調用 API：
curl http://localhost:11434/api/generate -d '{
"model": "llama2",
"prompt": "你好，請介紹一下你自己",
"stream": false
}'
多會話管理
# 啟動一個會話并命名 ollama run llama2 --name chat1 # 在另一個終端啟動新會話 ollama run llama2 --name chat2
環(huán)境變量配置
# 更改默認端口 OLLAMA_HOST=0.0.0.0:8080 ollama serve # 使用 GPU 加速（需 NVIDIA 驅動） OLLAMA_GPU_METAL=1 ollama run llama2
5. 常見問題與技巧
加速模型下載
# 使用鏡像源（如中國用戶） OLLAMA_MODELS=https://mirror.example.com ollama pull llama2
查看日志
tail -f ~/.ollama/logs/server.log
模型參數調整
在 Modelfile 中可設置：
- temperature: 生成隨機性（0=確定，1=隨機）
- num_ctx: 上下文長度（默認 2048）
- num_gpu: 使用的 GPU 數量
模型導出與分享
# 導出模型 ollama export my-model > my-model.tar # 導入模型 ollama import my-model.tar
到此這篇關于Nodejs本地部署DeepSeek的教程詳解的文章就介紹到這了,更多相關Nodejs本地部署DeepSeek內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
Node.js 是一個用于服務器端編程的 JavaScript 平臺,允許用戶快速構建網絡應用程序,通過在前端和后端都使用 JavaScript,開發(fā)可以更加一致并且可以在同一個系統(tǒng)中設計,在本指南中,我們將向您展示如何在 Ubuntu 14.04 服務器上開始使用 Node.js2024-09-09
Windows下Node.js安裝及環(huán)境配置方法
這篇文章主要為大家介紹一下Node.js安裝及環(huán)境配置方法，這也是腳本之家小編發(fā)現的比較詳細的教程了，從安裝到配置都很詳細，想學習Node.js的朋友可以參考一下2017-09-09
最近在做nodejs的web開發(fā)，初次接觸到mongoDB這個數據庫。分享點使用經驗2014-07-07
這篇文章主要為大家介紹了node版本快速切換及管理方法詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-08-08
之前開發(fā)了一個node接口,該接口使用canvas繪制產品圖提供給java端使用,在運行了一段時間后發(fā)現了內存泄漏問題,本文淺記下修復過程,文章通過圖文介紹的非常詳細,需要的朋友可以參考下2024-06-06
今天小編就為大家分享一篇安裝Node.js并啟動本地服務的操作教程，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-05-05
node?NPM庫glob通配符匹配文件名minimatch模式匹配字符串學習
這篇文章主要為大家介紹了node?NPM庫glob通配符匹配文件名minimatch模式匹配字符串學習，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-07-07
這篇文章主要介紹了Nodejs get獲取遠程服務器接口數據，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2019-03-03
NPM命令運行報錯:npm?v10.2.4?is?known?not?to?run?on?Node.js
這篇文章主要給大家介紹了關于NPM命令運行報錯:npm?v10.2.4?is?known?not?to?run?on?Node.js?v14.21.1的解決辦法,文中將解決辦法介紹的非常詳細,需要的朋友可以參考下2024-01-01
本篇文章主要介紹了詳解nvm安裝node.js，小編覺得挺不錯的，現在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-07-07