Groq共1篇
Groq:用自研 LPU 芯片把开源大模型跑出 20 倍速度的极速推理云-圈圈AI

Groq:用自研 LPU 芯片把开源大模型跑出 20 倍速度的极速推理云

官方背景 Groq 是一家专注 AI 推理的芯片公司,2016 年由前 Google TPU 核心架构师 Jonathan Ross 创立,总部位于硅谷。它不训练模型,而是自研了一颗名为 LPU(Language Processing Unit,语言...
圈圈的头像-圈圈AI钻石会员圈圈14小时前
047080