2026 年 9 月 10 日,OpenAI 宣布 Agents API 进入公测阶段。开发者可通过 API 直接创建具备持久化会话、工具调用和 MCP 服务器连接的 Agent,支持在 OpenAI 托管沙箱或自有基础设施中运行。
vLLM v0.29.0 于 9 月 9 日发布,集成 594 个 commits、277 位贡献者。Model Runner V2 成为所有模型的默认引擎,新增对腾讯 Hy4-preview 和 Qwen3.8-Flash-Next 的支持,同时移除了十个废弃架构。
9 月 9 日发布的 transformers v5.17.0 新增对 HYV4(腾讯 780B MoE)、VibeVoice(多说话人多轮语音合成)、NeoMME、Fun-ASR-Nano、Kimi Linear、Canary-1B-v2、NeuCodec 的支持,并改进了 generation、cache、kernel 和量化模块。
Model Runner V2 成为全模型默认引擎;新增腾讯 Hy4-preview、Qwen3.8-Flash-Next 推理支持;引入 batch-sharded sampling 和 CUDA graph 内存分析;移除 10 个废弃架构;包含 594 commits / 277 位贡献者。
新增 HYV4、VibeVoice、NeoMME、Fun-ASR-Nano、Kimi Linear、Canary-1B-v2、NeuCodec 七大模型架构支持;改进 generation、cache、kernel 及 vision RoPE;diffusers 同时弃用 ONNX 导出路径。
全新 nccl2 后端从 torchcomms 移植而来,支持非阻塞通信器和即时通信器分割;容错能力成为一等 c10d 概念,支持就地进程组重配置和单边 RMA 窗口;Cambricon 加入 PyTorch Foundation 成为铂金会员。
升级 llama.cpp 至 b10729 版本,新增对 Gemma4 多模态输入(图像与音频)的支持;同步升级 MLX 引擎;持续优化 GGUF 模型兼容性。
新增 MCP Registry,提供统一的目录来注册、版本化和共享 MCP Server;引入智能助手和 multimodal judges 用于 LLM 评估;支持 torch.export 和 skops 更安全地序列化模型。
新增对 Mistral Small 4、Qwen3.5、Qwen3.5 MoE、GLM-4.7-Flash、GLM-4.6V、GLM-4.5-Air 等新模型的支持;TiledMLP 支持单卡至多卡 DDP/DeepSpeed/FSDP 训练。
新增针对特定数据集限定范围的 API 密钥发行能力;Workflow 编排功能进一步完善;近期 90 天内更新 6 次,活跃度较高。
OpenAI 推出 Agents API 公测版,开发者仅需声明任务、模型、工具和运行环境,OpenAI 自动处理长会话 context 压缩、工具调度和 sub-agent 协作。支持持久化会话、进度流式传输,可连接自有 MCP 服务器,并在 OpenAI 托管沙箱或自有基础设施中运行。
Claude Computer Use 工具升级,单次模型调用可执行多个连续动作,大幅减少往返次数;新增 Browser Use 工具,基于页面结构精准定位 Web 元素;Skills API 脱离 Beta 正式 GA(/v1/skills),支持定义可复用的 Agent 技能;HIPAA 合规范围扩展至 Claude Opus 4.8。
.NET 1.21.0 发布,增强 Azure 和 Bedrock 支持;原生集成 Azure Cosmos DB 跨会话持久化记忆;支持 A2A 和 MCP 协议原生托管;改善 LocalCodeAct 隔离与审批处理。
Google 发布面向 Kotlin/Java/Android 的生产级 Agent 框架,支持编译时类型安全函数调用、多 Agent 编排及原生 Android 持久化,适用于端侧和云端部署。
LangGraph 推出 Deep Agents,在图运行时之上提供更高阶抽象,内置规划能力和子 Agent 管理,月下载量约 3900 万,已成为生产环境事实标准。
Dapr Agents v1.0 进入 GA 阶段,提供稳定 API 和企业级支持,帮助开发者构建具有身份、推理能力和弹性恢复的持久化 AI Agent 系统。
vLLM 博客发布 Tiered KV Cache Offloading 方案,将 KV Cache 分层存储在 GPU 显存和 CPU 内存之间,有效缓解大模型推理过程中的显存瓶颈,提升吞吐量。
NVIDIA vLLM Container 25.09 发布,为首个针对 NVIDIA GPU 提供优化的容器版本,支持 DeepSeek-R1、Llama-3 等模型的深度优化,内置 Zero Copy NVLS 通信。
Hugging Face TGI 于 2025-12-11 宣布进入维护模式,2026-03-21 正式归档为只读仓库,不再新增功能。NVIDIA 也在 Triton Inference Server 中推荐使用 vLLM 后端替代 TensorRT-LLM 后端。
llama.cpp 首次采用语义化版本号,v0.1.0 于 8 月 17 日发布,v0.1.2 于次日发布,标志着该引擎的版本管理进入新阶段,为 Ollama 等上层工具的依赖管理提供更清晰的版本约束。
跨平台个人 AI 助手,支持任意操作系统和平台。9 月 4 日发布 v2026.9.1 正式版,新增 Mermaid 渲染、Android UI 集成、单命令安装等功能,933 位贡献者参与,569 位首次贡献。
定位"开源版 ElevenLabs",支持 3 秒语音克隆,兼容 CUDA、Apple Silicon、ROCm 及 CPU 多种硬件后端,提供完整的语音合成工作流。
开源 AI 工程平台,支持 Agent、LLM 和 ML 模型的全生命周期管理,涵盖调试、评估、监控和优化。最新 3.15.0 版本引入 MCP Registry 和多模态评估能力。
阿里巴巴、蚂蚁集团、寒武纪和华为在上海联合举办 PyTorch 中国会议,共同推进开源 AI 栈发展。寒武纪正式成为 PyTorch Foundation 铂金会员。PyTorch Conference North America 2026 定于 10 月 20-21 日在圣何塞举办。
Hugging Face Kernels 项目新增 Helion 支持,允许开发者构建、自动调优并分发高性能且可移植的 GPU 内核,进一步丰富了 HF Kernels 的硬件生态覆盖。
Ollama 企业级订阅计划(Pro/Max/Team)全面转向按 Token 计费模式,每个计划均包含使用额度,与行业主流定价策略对齐。