SambaNova：自研 RDU 芯片的极速推理云，把开源大模型跑到 600+ token/s

官方背景

SambaNova 是 2017 年由斯坦福教授 Kunle Olukotun、Christopher Ré 与 Rodrigo Liang 创立的硅谷 AI 公司，自己设计 RDU（可重构数据流单元） 芯片（第四代 SN40L，第五代 SN50 于 2026-02 发布）。其 SambaNova Cloud（SambaCloud） 是 OpenAI 兼容的推理 API，托管 Llama、DeepSeek、Qwen、gpt-oss、Gemma、MiniMax 等开源模型。2026-07 完成 10 亿美元融资，估值 110 亿美元。

核心能力

① RDU 数据流架构：主打最快推理与最高 token/瓦；② SambaCloud OpenAI 兼容 API；③ 可跑 671B 级大模型（DeepSeek-R1、gpt-oss-120b）不拆卡；④ 极高吞吐：gpt-oss-120b 超 600 token/s、MiniMax M2.7 达 435 token/s；⑤ 自动扩缩容与负载均衡；⑥ SN50 面向 Agentic 推理（较 B200 提速 5 倍）；⑦ 主权 AI 部署。

应用场景

对延迟/吞吐敏感的生产级推理；Agentic AI 高并发；企业用开源模型高速服务；主权 AI（数据不出境）；通过 SambaManaged 做本地化部署。一句话——要「又快又省电」地跑大模型，找它。

定价与可及性

SambaCloud 按百万 token 计费：Free 赠 $5 额度（30 天）、Developer 按量（输入 $0.22–$3.00、输出最高 $4.50/百万）、Enterprise 定制。例：gpt-oss-120b $0.22/$0.59、Llama-3.3-70B $0.60/$1.20、DeepSeek-V3.1 $3.00/$4.50。RDU 硬件按企业合同销售，无公开价。

立即体验 SambaNova →

SambaNova · SambaNova 是 2017 年由斯坦福教授 Kunle Ol…