2024-08-07 厉飞雨 阅读(58) 评论(0) 赞(5)

本篇文章聊聊基于 端侧 AI 计算设备，20~30 瓦功耗运行大模型的算能 AirBox。 写在前面 去年的双十二的时候，在群里看到了一张照片，"手掌大小的 NUC"，但是能够跑大模型。 非常小巧的"端侧算力盒子" 这个草就种下了。 今年 7 月初的时候，在上海人工智能大会的时候，我在展台上看到了同款&a...