SambaNova共1篇
SambaNova:自研 RDU 芯片的极速推理云,把开源大模型跑到 600+ token/s-圈圈AI一站式AI资源分享平台

SambaNova:自研 RDU 芯片的极速推理云,把开源大模型跑到 600+ token/s

官方背景 SambaNova 是 2017 年由斯坦福教授 Kunle Olukotun、Christopher Ré 与 Rodrigo Liang 创立的硅谷 AI 公司,自己设计 RDU(可重构数据流单元) 芯片(第四代 SN40L,第五代 SN50 于 2...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月5日 09:12
036694