Baseten:ML 推理基础设施,Truss 一行打包模型上线生产

Baseten

官方背景

Baseten 是 2019 年成立于旧金山的 ML 推理基础设施平台,核心是开源的 Truss 模型打包格式 + Chains SDK 多模型编排。创始人 Tuhin Srivastava 等。2025 年完成 7500 万美元 C 轮(Spark Capital、IVP 领投),累计融资 1.35 亿美元、估值 8.5 亿美元。客户含 Writer、Descript、Abridge、Gamma、Patreon。

核心能力

Truss:几行代码把模型打包成生产服务;② Chains SDK:编排多模型链路;③ 按秒 pay-as-you-go + 预留容量 两种计费;④ 99.999% 可用性;⑤ HIPAA / SOC 2 Type II / GDPR 合规;⑥ 与 NVIDIA 合作(TensorRT-LLM / Triton)做推理优化;⑦ 自动扩缩容。

应用场景

把开源或自研模型部署成生产级 API;对可用性、延迟要求极高的大规模推理;医疗、金融等强合规场景的私有部署;成本性能敏感的服务;多模型编排的推理链路。Google Cloud 称其上成本性能提升 225%。

定价与可及性

按计算计费,起价 $0.0003/秒(T4);提供按秒 pay-as-you-go 与预留容量两种模式,按需选配。2025 C 轮 7500 万美元、总融资 1.35 亿、估值 8.5 亿。合规 HIPAA / SOC 2 Type II / GDPR,企业级客户包括 Writer、Descript、Abridge、Gamma、Patreon。

立即体验 Baseten →

Baseten · Baseten 是 2019 年成立于旧金山的 ML 推理基础设施…

© 版权声明
THE END
喜欢就支持一下吧
点赞140 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容