AI推理加速共1篇
Groq:用自研 LPU 芯片把开源大模型跑出 20 倍速度的极速推理云-圈圈AI一站式AI资源分享平台

Groq:用自研 LPU 芯片把开源大模型跑出 20 倍速度的极速推理云

官方背景 Groq 是一家专注 AI 推理的芯片公司,2016 年由前 Google TPU 核心架构师 Jonathan Ross 创立,总部位于硅谷。它不训练模型,而是自研了一颗名为 LPU(Language Processing Unit,语言...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月2日 08:55
047080