Deepseek本地部署指南 by Lcywings

1、安装ollama

1.打开ollama官网,下载安装 https://ollama.com/
2.ollama -v查看是否安装成功

2、部署Deepseek R1模型

1.下载模型:在cmd输入ollama pull deepseek-r1:7b

具体几b根据显存来:

模型名称 显存需求 显卡推荐
DeepSeek-R1 1.5B 约 1 GB GTX 1050 及以上
DeepSeek-R1 7B 约 4 GB RTX 3060 及以上
DeepSeek-R1 8B 约 4.5 GB RTX 3070 及以上
DeepSeek-R1 14B 约 8 GB RTX 4070 及以上
DeepSeek-R1 32B 约 18 GB RTX 4080 及以上
DeepSeek-R1 70B 约 40 GB RTX 4090 或 A100

2.查看模型:输入"ollama list"查看模型是否下载成功以及模型名称
3.运行模型:下载完成后,直接在终端运行ollamarun deepseek-r1:7b”,然后就可以和

3、安装chatbox

1.打开chatbox官网 https://thatboxai.app/zh
2.选择本地模型聊天,一选OLLAMA API,二选deepseek-r1:7b

Q.E.D.