前言
教程来自up主 技术爬爬虾
网上有很多关于本地部署DeepSeek都不是真正的R1模型
因为是蒸馏模型,不如官方的聪明这是必然的
本期教程免费使用70B蒸馏模型,输出速度快,不用本地部署DeepSeek
![图片[1]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
教程
进入 https://groq.com/ 官网,点击右上角DEV CONSOLE 需要国外上网环境
使用谷歌账户登录
![图片[2]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
右上角都是模型列表
![图片[3]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
这个deepseep-r1是基于llama蒸馏出的模型,参数70b
然后点击左侧API KEYS 点击下面创建key
![图片[4]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
![图片[5]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
复制KEY
打开Cherry studio官网(开源免费AI对话客户端)并安装 https://cherry-ai.com/
进入软件点击左下角设置
![图片[6]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
模型服务选择Groq,填入刚才申请的key右上角启用模型
点击添加
![图片[7]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
复制我们的模型名字并添加
deepseek-r1-distill-llama-70b
![图片[8]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
![图片[9]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
点击助手,在最上方选中我们刚添加的模型就可以对话了
![图片[10]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
使用DENO会被ban!!!!!
~~由于Groq的api必须使用国外网络使用,所以我们得使用DENO把API中转至国内~~
~~打开项目地址 https://github.com/tech-shrimp/deno-api-proxy~~
![图片[11]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客](http://static.51tbox.com/static/2025-02-07/col/2546abf9a01f03974195b40141767895/560b029653984b11a3df1a82e50f56de.svg.jpg)
~~登录/注册 https://dash.deno.com/account/projects~~
~~点击右上角New Playground~~
~~
~~
~~打开项目文件main.ts并复制里面所有内容~~
~~
~~
async function handleRequest(request: Request): Promise<Response> {
const url = new URL(request.url);
const pathname = url.pathname;
if (pathname === '/' \|\| pathname === '/index.html') {
return new Response('Proxy is Running!Details:https://github.com/tech-shrimp/deno-api-proxy', {
status: 200,
headers: { 'Content-Type': 'text/html' }
});
}
const targetUrl = `https://${pathname}`;
try {
const headers = new Headers();
const allowedHeaders = \['accept', 'content-type', 'authorization'\];
for (const \[key, value\] of request.headers.entries()) {
if (allowedHeaders.includes(key.toLowerCase())) {
headers.set(key, value);
}
}
const response = await fetch(targetUrl, {
method: request.method,
headers: headers,
body: request.body
});
const responseHeaders = new Headers(response.headers);
responseHeaders.set('Referrer-Policy', 'no-referrer');
return new Response(response.body, {
status: response.status,
headers: responseHeaders
});
} catch (error) {
console.error('Failed to fetch:', error);
return new Response('Internal Server Error', { status: 500 });
}
};
`Deno.serve(handleRequest);
`
~~
~~
~~粘贴进去点击部署~~
~~
~~
~~复制右上角域名粘贴至请求头~~
~~
~~
~~
~~
~~现在可以正常使用了,不需要国外ip~~
~~
~~
51工具盒子