DeepSeek-R1本地部署的極簡教程
環(huán)境
本人在本地部署了兩個(gè)版本的deepseek-r1，分別為8b和14b版本。其中8b可以流暢推理，14b版本推理速度會(huì)慢一點(diǎn)，平均等待時(shí)間10-20秒。
環(huán)境為
CPU：amd 3100
GPU：RTX 3060 8G
MEMORY：16G
SYSTEM: win11
部署
1.安裝 ollama
首先進(jìn)入 ollama 官網(wǎng) https://ollama.com/
然后點(diǎn)擊download，選擇本地電腦對(duì)應(yīng)的版本
下載后進(jìn)行安裝。
注意：安裝時(shí)默認(rèn)使用C盤，確保你的C盤有足夠多的空間可以安裝 ollama 及后續(xù)的大模型，建議C盤空間 ≥ 12G
安裝后在電腦開始頁面啟動(dòng) ollama，然后查看任務(wù)欄，有 ollama 圖標(biāo)意味著 ollama已經(jīng)啟動(dòng)。
我們回到 ollama 官網(wǎng)，在搜索欄搜索 deepseek-r1
選擇適合自己的版本，注意右側(cè)的GB代表磁盤容量，確保C盤有足夠的磁盤容量。
如果你的電腦和我配置差不多可以嘗試8b，
擁有12G以上的顯存使用14b版本應(yīng)該可以流暢運(yùn)行，
更多的參數(shù)量，例如32b建議使用3090或4090。
2.部署 deepseek-r1
使用下面命令進(jìn)行安裝，8b代表選擇8b的版本
ollama run deepseek-r1:8b
隨后打開任務(wù)管理器（記得用管理員），然后輸入命令進(jìn)行部署，本地會(huì)下載對(duì)應(yīng)的模型。
出現(xiàn)下面情況代表安裝完成，當(dāng)然可能會(huì)出現(xiàn)超時(shí)問題，重新運(yùn)行上面部署代碼即可
然后使用/?或/help進(jìn)行測(cè)試。
最后展示下效果
到此這篇關(guān)于DeepSeek-R1本地部署指南極簡版的文章就介紹到這了,更多相關(guān)DeepSeek-R1本地部署內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
關(guān)于Centos7中Vscode無響應(yīng)的問題及解決方法
在CentOS7中使用命令行直接安裝Vscode時(shí)，打開Vscode出現(xiàn)界面卡死、無響應(yīng)情況，如何處理這個(gè)問題呢，今天小編給大家?guī)砹薈entos7中Vscode無響應(yīng)的問題及解決方法，感興趣的朋友一起看看吧2021-07-07
字符編碼問題, 對(duì)于一個(gè)在偉大天朝的程序員來說, 幾乎不可能遇不到, 從我剛開始接觸Coding到現(xiàn)在, 亂碼, 編碼轉(zhuǎn)換問題就好像一直沒有停息過.2009-09-09
這篇文章主要介紹了vscode添加GIT和SVN的方法示例，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-04-04
win10環(huán)境安裝kettle與linux環(huán)境安裝kettle的詳細(xì)過程
kettle是一款免費(fèi)開源的、可視化的、國際上比較流行的、功能強(qiáng)大的ETL必備工具，在ETL這一方面做的還不錯(cuò)，下面介紹一下基于win10操作系統(tǒng)安裝kettle和linux操作系統(tǒng)安裝kettle的詳細(xì)過程，感興趣的朋友跟隨小編一起看看吧2022-11-11
大數(shù)據(jù)HelloWorld-Flink實(shí)現(xiàn)WordCount
這篇文章主要介紹了大數(shù)據(jù)HelloWorld-Flink實(shí)現(xiàn)WordCount的相關(guān)知識(shí)，非常不錯(cuò)，具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-08-08
詳解使用內(nèi)網(wǎng)穿透工具Ngrok代理本地服務(wù)
本文主要介紹了使用內(nèi)網(wǎng)穿透工具Ngrok代理本地服務(wù)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-03-03
IntelliJ IDEA 2020.1配置svn的圖文教程
這篇文章主要介紹了IntelliJ IDEA 2020.1配置svn的圖文教程,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-11-11
Git Bash終端默認(rèn)路徑的設(shè)置查看修改及拓展圖文詳解
如果您不熟悉Git命令，推薦使用Windows TortoiseGit客戶端的可視化操作界面，如果您熟悉常用的Git命令，Git Bash將會(huì)是您Windows上更加簡潔、高效的客戶端，其中運(yùn)行的是Linux命令2022-04-04
這篇文章主要為大家介紹了一次百萬行WPF項(xiàng)目代碼的重構(gòu)記錄，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-05-05
這篇文章介紹了Git中tag標(biāo)簽的使用教程，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-04-04