Xinference:一条命令部署开源模型,vLLM/llama.cpp 通吃、OpenAI 兼容接口
官方背景 Xinference(Xorbits Inference)是 Xorbits 团队开源的分布式模型推理框架,一条命令即可部署大语言、语音识别与多模态模型。它把 vLLM、llama.cpp、Transformers、SGLang、MLX 等推...
Bocha AI 博查:给 AI 用的世界知识搜索引擎,日均 3000 万次调用、必应的三分之一
官方背景 博查 AI(Bocha AI)是面向 AI 应用的世界知识搜索引擎,定位「给 AI 用的搜索引擎」。开放平台提供 Web Search API 与 Reranker API,从近百亿网页与生态内容源中返回干净、准确、结...
Meta 开源 Muse Glimmer 30B:一张消费级显卡跑 Agent,Apache 2.0 直接商用(本地 AI 的拐点)
8月10日,Meta 干了一件让整个本地 AI 圈子集体失眠的事:开源 Muse Glimmer,300 亿参数,Apache 2.0 许可证,一张消费级显卡就能跑,而且不是拿来聊天的——它是专门为「Agent」训练的。 什么...
阿里 CosyVoice Studio 上线:口述变稿子、文档一键变播客,个人限时免费(国内首个 AI 语音平台)
你有没有过这种时刻:脑子里想法一大堆,手指头在键盘上敲得跟不上,等打完字,那个最好的念头已经跑了。 阿里刚上线的 CosyVoice Studio,就是冲着这个痛点来的。它不是又一个「语音转文字」的...
Cloudflare 发布 Kitesurf:专为 AI 智能体造的浏览器,内存砍到七分之一(附 Playwright 上手)
8 月 6 号,Cloudflare 在自家「Agents Week」上甩出一个东西,名字叫 Kitesurf。 第一眼看成冲浪板。其实它是个浏览器——但不是给你我用的浏览器,是专门给 AI 智能体用的。 这事儿看着小,其...
CopilotKit:把 AI Agent 嵌进产品前端的开源框架,AG-UI 协议 + 生成式 UI
官方背景 CopilotKit 是开源的 agentic 前端框架(MIT 许可),让开发者把 AI 副驾驶 / Copilot 直接嵌进 React 等前端应用,而不是另起一个聊天窗口。它提出 AG-UI 协议(Agent-User Interacti...
Pydantic AI:Pydantic 团队出的 Python 类型安全 Agent 框架,模型无关 + Logfire 可观测
官方背景 Pydantic AI 是由 Pydantic(Python 最流行的数据验证库)团队打造的类型安全 Agent 框架,用 Python 类型系统保证 Agent 输入输出的可靠性。它模型无关,统一接口支持 OpenAI、Anthro...