vLLM共1篇
排序
vLLM：UC Berkeley 开源推理引擎，PagedAttention 把吞吐拉满-圈圈AI一站式AI资源分享平台

vLLM：UC Berkeley 开源推理引擎，PagedAttention 把吞吐拉满

官方背景 vLLM 是 UC Berkeley Sky Computing Lab 开源的大模型推理引擎，核心创新是 PagedAttention 显存管理与 Continuous Batching 连续批处理，把 GPU 利用率和吞吐打到极致。2025 年 1 月...
AI工具
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员圈圈8月4日 10:02
0344106
热门文章
视频还在播你就能改它：Vidu S2 全量开放，实时流上手指南-圈圈AI一站式AI资源分享平台

视频还在播你就能改它：Vidu S2 全量开放，实时流上手指南

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月16日 12:18
0464106
CI 只会判对错，判不了对不对得上：GitHub 官方 gh-aw 上手，让 Agent 每天替你巡检仓库-圈圈AI一站式AI资源分享平台

CI 只会判对错，判不了对不对得上：GitHub 官方 gh-aw 上手，让 Agent 每天替你巡检仓库

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月15日 12:15
039864
别再让AI读半个仓库才动手！Cognition SWE-2实测：三档effort一调，账单砍掉七成-圈圈AI一站式AI资源分享平台

别再让AI读半个仓库才动手！Cognition SWE-2实测：三档effort一调，账单砍掉七成

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月11日 23:11
039153
别再拼STT+LLM+TTS了！OpenAI GPT-Live-1实测：一个模型边听边说，打断也不慌-圈圈AI一站式AI资源分享平台

别再拼STT+LLM+TTS了！OpenAI GPT-Live-1实测：一个模型边听边说，打断也不慌

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月11日 12:10
036775
DeepSeek又整活了！V4.1 Flash实测：原生多模态+缓存砍437倍，Agent跑一晚几块钱-圈圈AI一站式AI资源分享平台

DeepSeek又整活了！V4.1 Flash实测：原生多模态+缓存砍437倍，Agent跑一晚几块钱

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月10日 14:18
0340139
端侧小模型早让我失望透顶，直到 MiniCPM5-2B 把 Agent 拉到 20 分：同尺寸全是 2 分-圈圈AI一站式AI资源分享平台

端侧小模型早让我失望透顶，直到 MiniCPM5-2B 把 Agent 拉到 20 分：同尺寸全是 2 分

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月14日 12:18
0334129
别再手写 while 循环了：OpenAI Agents API 实测，四件脏活它全包，你只写业务-圈圈AI一站式AI资源分享平台

别再手写 while 循环了：OpenAI Agents API 实测，四件脏活它全包，你只写业务

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月12日 12:25
0297145
录错一个词就要重录整段？腾讯 AuK 开源：一句指令改录音，1.5B 模型收编一整套音频工具-圈圈AI一站式AI资源分享平台

录错一个词就要重录整段？腾讯 AuK 开源：一句指令改录音，1.5B 模型收编一整套音频工具

AI教程
圈圈的头像-圈圈AI一站式AI资源分享平台钻石会员9月13日 12:23
0283138

标签

Agent框架 AI Agent AI办公 AI助手 AI图像生成 AI基础设施 AI对话助手 AI应用开发 AI教程 AI智能体 AI生成 AI绘画 AI编程 AI编程助手 AI自动化 AI视频 AI视频生成 AI设计 ChatGPT Claude Claude Code Cursor DeepSeek Google Kimi K3 LangChain MiniMax OpenAI Qwen3.8 Seedance Stable Diffusion 一人公司 国产大模型 多智能体 字节跳动 开源 开源大模型 推理API 效率工具 智能体 智谱AI 本地部署 自动化 视频生成 零代码
猜您喜欢

1视频还在播你就能改它：Vidu S2 全量开放，实时流上手指南

2CI 只会判对错，判不了对不对得上：GitHub 官方 gh-aw 上手，让 Agent 每天替你巡检仓库

3端侧小模型早让我失望透顶，直到 MiniCPM5-2B 把 Agent 拉到 20 分：同尺寸全是 2 分

4录错一个词就要重录整段？腾讯 AuK 开源：一句指令改录音，1.5B 模型收编一整套音频工具

5别再手写 while 循环了：OpenAI Agents API 实测，四件脏活它全包，你只写业务

6别再让AI读半个仓库才动手！Cognition SWE-2实测：三档effort一调，账单砍掉七成

7别再拼STT+LLM+TTS了！OpenAI GPT-Live-1实测：一个模型边听边说，打断也不慌

8DeepSeek又整活了！V4.1 Flash实测：原生多模态+缓存砍437倍，Agent跑一晚几块钱