51工具盒子

依楼听风雨
笑看云卷云舒,淡观潮起潮落

MacOS本地部署DeepSeek

1. 系统介绍 {#1.-%E7%B3%BB%E7%BB%9F%E4%BB%8B%E7%BB%8D}

芯片 Apple M4

内存 16 GB

2. Ollama安装与配置 {#2.-ollama%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE}

Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。

打开Ollama的官网,选择适合的系统,点击下载。下载速度慢的可以复制链接地址到迅雷下载。 https://ollama.com/download

下载完成之后,执行安装。

llama3.2是Meta的大模型,不需要run,直接Finish关闭窗口。

在终端输入ollama -v命令验证是否安装成功。

出现上述则表示安装成功,可在浏览器访问http://localhost:11434/验证。

3. DeepSeek 模型部署 {#3.-deepseek-%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2}

进入Ollama官网主页,就有DeepSeek模型的链接。 https://ollama.com/

根据电脑的配置选择选择8b参数版本。

复制命令ollama run deepseek-r1:8b在终端执行,安装时长取决于参数大小和网速。

安装好了,提个问题问问它是谁。

4. 安装交互UI {#4.-%E5%AE%89%E8%A3%85%E4%BA%A4%E4%BA%92ui}

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API。 https://chatboxai.app/zh#download

在官网选择适合的系统进行下载

下载安装之后打开,选择使用自己的API Key 或本地模型

选择之前安装的Ollama API

配置本机地址,默认http://localhost:11434/

好了,再提个问题问问它是谁。

这就可以用了。

当然还有别的交互方式,浏览器插件,Web端等等,就不去研究了,够用就行。


以上。

赞(1)
未经允许不得转载:工具盒子 » MacOS本地部署DeepSeek