2024-08-07 厉飞雨 阅读(93) 评论(0) 赞(6)

本篇文章聊聊基于 端侧 AI 计算设备，20\~30 瓦功耗运行大模型的算能 AirBox。 写在前面 ---- 去年的双十二的时候，在群里看到了一张照片，"手掌大小的 NUC"，但是能够跑大模型。![](https://img1.51tbox.com/static/2024-08-05/col/7fb43ee4d77a18d5829fab220bdd9...