51工具盒子

依楼听风雨
笑看云卷云舒,淡观潮起潮落

【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型

前言

教程来自up主 技术爬爬虾

网上有很多关于本地部署DeepSeek都不是真正的R1模型

因为是蒸馏模型,不如官方的聪明这是必然的

本期教程免费使用70B蒸馏模型,输出速度快,不用本地部署DeepSeek

图片[1]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

教程

进入 https://groq.com/ 官网,点击右上角DEV CONSOLE 需要国外上网环境

使用谷歌账户登录

图片[2]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

右上角都是模型列表

图片[3]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

这个deepseep-r1是基于llama蒸馏出的模型,参数70b

然后点击左侧API KEYS 点击下面创建key

图片[4]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

图片[5]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

复制KEY

打开Cherry studio官网(开源免费AI对话客户端)并安装 https://cherry-ai.com/

进入软件点击左下角设置

图片[6]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

模型服务选择Groq,填入刚才申请的key右上角启用模型

点击添加

图片[7]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

复制我们的模型名字并添加

deepseek-r1-distill-llama-70b

图片[8]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

图片[9]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

点击助手,在最上方选中我们刚添加的模型就可以对话了

图片[10]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

使用DENO会被ban!!!!!

~~由于Groq的api必须使用国外网络使用,所以我们得使用DENO把API中转至国内~~

~~打开项目地址 https://github.com/tech-shrimp/deno-api-proxy~~

图片[11]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客

~~登录/注册 https://dash.deno.com/account/projects~~

~~点击右上角New Playground~~

~~图片[12]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

~~打开项目文件main.ts并复制里面所有内容~~

~~图片[13]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

                  
                    async function handleRequest(request: Request): Promise<Response> {

const url = new URL(request.url);
const pathname = url.pathname;


if (pathname === '/' \|\| pathname === '/index.html') {
return new Response('Proxy is Running!Details:https://github.com/tech-shrimp/deno-api-proxy', {
status: 200,
headers: { 'Content-Type': 'text/html' }
});
}


const targetUrl = `https://${pathname}`;


try {
const headers = new Headers();
const allowedHeaders = \['accept', 'content-type', 'authorization'\];
for (const \[key, value\] of request.headers.entries()) {
if (allowedHeaders.includes(key.toLowerCase())) {
headers.set(key, value);
}
}


    const response = await fetch(targetUrl, {
      method: request.method,
      headers: headers,
      body: request.body
    });

    const responseHeaders = new Headers(response.headers);
    responseHeaders.set('Referrer-Policy', 'no-referrer');

    return new Response(response.body, {
      status: response.status,
      headers: responseHeaders
    });




} catch (error) {
console.error('Failed to fetch:', error);
return new Response('Internal Server Error', { status: 500 });
}
};

`Deno.serve(handleRequest);
`

~~图片[14]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

~~粘贴进去点击部署~~

~~图片[15]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

~~复制右上角域名粘贴至请求头~~

~~图片[16]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

~~图片[17]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

~~现在可以正常使用了,不需要国外ip~~

~~图片[18]-【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型-孤独の博客~~

赞(7)
未经允许不得转载:工具盒子 » 【部分失效】不用本地部署DeepSeek,免费使用70B蒸馏模型