2024-06-06 厉飞雨 阅读(440) 评论(0) 赞(6)

续上一篇《利用 Whisper + DeepSeek + ChatTTS 构建语音对话机器人》。不少同学反馈，调用 DeepSeek v2 API 太慢了，能否换成本地模型。受 RTX 3060 12 GB 显存资源限制，笔者尝试了无数开源模型，要么中文效果不好（LLaMA 3），要么运行发生 OOM，最后瞄准了千问 1.5 系列模型中的 1.8B-Chat 这个模型，跑起来只