51工具盒子

依楼听风雨
笑看云卷云舒,淡观潮起潮落

Deepseek-R1本地部署教程

前言

2025年1月20日,杭州深度求索人工智能基础技术研究有限公司正式发布了其最新研发的高性能AI推理模型------DeepSeek R1。国产大模型技术,似乎和世界顶级水平正在拉近。

在这里写一篇文章教大家如何简单快速的本地部署Deepseek-R1

安装ollama

打开官网并下载安装:Download Ollama on Windows

安装后win+r打开cmd

部署Deepseek-R1

从上到下模型越来越大,1.5b几乎所有机器都能跑起来,我的1660s可以流畅运行8b的小模型。4090可以流畅运行32b,官网的r1就是671b的大模型

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b

按需在命令行中运行对应的命令即可,例如我需要跑8b的小模型,我只需要在cmd中运行ollama run deepseek-r1:8b即可

可见8b模型还是没有官网671b的大模型聪明

部署WebUI

安装以下这个扩展可以让本地部署的Deepseek-R1拥有WebUI

Page Assist -- 本地 AI 模型的 Web UI -- Chrome 应用商店

安装好后直接打开模块使用即可

写在最后

后续我将会写一篇博文教学如何基于Deepseek-R1定制自己的模型,并尝试利用Deepseek-R1用聊天记录重新训练一个AiZyx

在此祝大家新年快乐!万事如意!一帆风顺!也希望在新的一年里元素周期表的元素们能够顺风顺水、学业顺利!

赞(0)
未经允许不得转载:工具盒子 » Deepseek-R1本地部署教程