如何本地私有化部署 DeepSeek-R1 大模型！

从 1 月 3 日开始 Deepseek 被境外持续攻击，后台服务器没有响应，据说已经被暴力破解用户的账号密码。于是决定本地私有化部署一个。今后既不用怕隐私泄露，也可以用于公司训练自己的知识库，

可以看到DeepSeek各项性能指标和OpenAI-o1 模型不相上下，小部分有超越，关键是开源的，太香了。

本地部署，我们可以通过Ollama来进行安装#

CMD打开命令行，输入下面的代码即可选择模型安装。

国内直接可以下载，一开始很快，90%以后只有几百k/s，等待就行。

完成后，先拿个问题试试，很聪明！

我的笔记本是仅仅是4060显卡，8G显存，试了8b模型，速度很快，但推理不够精确且没有思考过程。于是又下载了14b模型，这时显存不够，开始调用我的内存，但速度勉强可用，而且有了think的过程，比 8b 好很多。

所以我认为至少14b以上模型才是可用的。

安装命令

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

CMD运行太不方便，给他装一个WEB UI 控制端

将它添加到扩展程序

进行初始设定，刚下载了2个模型，我选择14b模型

在RAG设置中，文本嵌入模型也选择14b模型，然后保存

我们来测试一下效果：

首先输入问题“设计一款能量密度达到500Wh/kg的锂电池”。

虽然不能条带工程师工作，但是从设计方向和思路是已经能够给出方向。尤其是思考过程非常具有参考性。

很多时候，思维的逻辑比思考的结果更重要。

感兴趣可以自己试试。