DeepInfra：serverless 推理 API，100+ 开源模型按 token 计费零运维

官方背景

DeepInfra 是 serverless（无服务器）推理平台，提供 100+ 开源模型的统一 API，开发者不用买卡、不用管 GPU 集群，调一个接口就能跑大模型。2026 年 5 月 4 日完成 1.07 亿美元 B 轮（500 Global 与 Georges Harik 领投）。平台零预留、按 token 计费，已通过 SOC 2 / ISO 27001 认证，是企业用开源模型的省心之选。

核心能力

① Serverless 推理：彻底免运维 GPU；② 100+ 开源模型：LLM、Embedding、图像、音频全覆盖；③ OpenAI 兼容 API：几行改动就能从 OpenAI 切过来；④ 按 token 计费，成本透明；⑤ 按需专属 GPU（DGX B300 $4.20/实例小时）；⑥ SOC 2 / ISO 27001；⑦ 支持流式与批量。

应用场景

想上 LLM 功能但没有基础设施团队的产品；需要大规模、低成本推理的业务；用最新开源模型快速做原型（如 DeepSeek、GLM、Kimi、Qwen、Nemotron 系列）；RAG 用的 Embedding；图像 / 音频生成。对成本敏感又想用前沿开源权重的团队尤其合适。

定价与可及性

按 token 计费，因模型而异：DeepSeek-V4-Flash $0.09/$0.18、GLM-5.2 $0.93/$3.00、Kimi-K2.7-Code $0.74/$3.50、Qwen3.6-35B-A3B $0.15/$0.95、NVIDIA-Nemotron-3-Ultra-550B $0.50/$2.20（单位：每百万 in/out token）；按需 GPU DGX B300 $4.20/实例小时。提供免费试用额度，API / SDK 注册即用。

立即体验 DeepInfra →

DeepInfra · DeepInfra 是 serverless（无服务器）推理平台，…