推理API共6篇
DeepInfra:serverless 推理 API,100+ 开源模型按 token 计费零运维-圈圈AI一站式AI资源分享平台

DeepInfra:serverless 推理 API,100+ 开源模型按 token 计费零运维

官方背景 DeepInfra 是 serverless(无服务器)推理平台,提供 100+ 开源模型的统一 API,开发者不用买卡、不用管 GPU 集群,调一个接口就能跑大模型。2026 年 5 月 4 日完成 1.07 亿美元 B 轮...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月4日 09:57
040078
Anyscale:基于 Ray 的 serverless 推理平台,开源大模型按 token 计费-圈圈AI一站式AI资源分享平台

Anyscale:基于 Ray 的 serverless 推理平台,开源大模型按 token 计费

官方背景 Anyscale 是 Ray 背后的商业化公司,提供面向大模型推理与训练的托管平台。其旗舰 Anyscale Endpoints 是 serverless 推理服务,提供 OpenAI 兼容 API,统一调度 Llama、Mistral、Qwen...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月5日 09:11
0397107
Cerebras:用整片晶圆做芯片的 AI 推理巨头,把大模型速度推向每秒数千 token-圈圈AI一站式AI资源分享平台

Cerebras:用整片晶圆做芯片的 AI 推理巨头,把大模型速度推向每秒数千 token

官方背景 Cerebras Systems 是晶圆级(Wafer-Scale)AI 计算的开创者,其 WSE-3 芯片在一整片 300mm 硅晶圆上集成 4 万亿晶体管、90 万个 AI 核心与 44GB 片上 SRAM,比最大 GPU 大 56 倍。2026...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月7日 08:59
0379145
Cloudflare Workers AI:边缘网络跑开源大模型,50+ 模型、200+ 城市就近推理-圈圈AI一站式AI资源分享平台

Cloudflare Workers AI:边缘网络跑开源大模型,50+ 模型、200+ 城市就近推理

官方背景 Cloudflare Workers AI 是 Cloudflare 在自家边缘网络上托管的无服务器 AI 推理平台,开发者无需管理 GPU 即可调用 50+ 开源模型。2026 年 8 月 7 日,Cloudflare 将 Workers AI 与 AI...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月11日 09:50
036995
SambaNova:自研 RDU 芯片的极速推理云,把开源大模型跑到 600+ token/s-圈圈AI一站式AI资源分享平台

SambaNova:自研 RDU 芯片的极速推理云,把开源大模型跑到 600+ token/s

官方背景 SambaNova 是 2017 年由斯坦福教授 Kunle Olukotun、Christopher Ré 与 Rodrigo Liang 创立的硅谷 AI 公司,自己设计 RDU(可重构数据流单元) 芯片(第四代 SN40L,第五代 SN50 于 2...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月5日 09:12
036694
Fireworks AI:PyTorch 原班人马打造的极速推理平台,日处理 10 万亿 token-圈圈AI一站式AI资源分享平台

Fireworks AI:PyTorch 原班人马打造的极速推理平台,日处理 10 万亿 token

官方背景 Fireworks AI 由 PyTorch 原班人马创立,定位极速、低延迟的生产级推理平台,主打 Serverless 2.0。其自研 FireFunction-V2 函数调用模型在多工具评测达 92.1% 准确率,达到 GPT-4o 级...
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月4日 09:58
029576