9 月 20 日,阶跃星辰正式发布新一代旗舰基座模型 Step 5 Preview。该模型基于稀疏 MoE 架构,总计 6000 亿参数、每次激活 270 亿参数,原生支持视觉输入与 100 万 token 上下文窗口。在 AA 综合智能指数中得分 44,软件工程评测达 67.7 分,单任务成本仅为 Claude Opus 5 的八分之一。完整开源权重计划于 10 月 15 日发布。
月之暗面于 9 月 24 日推出 Kimi「OK Computer」Agent 模式,基于万亿参数 Kimi K2 模型,赋予 AI 自主规划并完成复杂多步任务的能力。模式可在虚拟计算机环境中运行,支持网站开发、大规模数据分析、图文生成及高质量 PPT 制作,无需预设工作流即可执行。
vLLM 联合 NVIDIA 公布 SemiAnalysis InferenceMAX 基准测试结果:在 Blackwell B200 GPU 上,GPT-OSS 120B 和 Llama 3.3 70B 等主流模型的吞吐相较上一代 Hopper GPU 提升最高达 4 倍,延迟保持同等水平。vLLM 25.09 版本同步引入 NVFP4 4-bit 浮点格式支持和 DeepSeek-R1 优化。
PyTorch 2.9 RC1 已随分支冻结完成发布(预计 10 月 15 日正式 GA)。核心新特性包括:稳定的 libtorch ABI 更新(利于第三方 C++/CUDA 扩展)、对称内存(Symmetric Memory)实现多 GPU 算子轻松编程、torch.compile 中可任意切换 graph break 时 error/resume 行为、扩展支持 ROCm/XPU/CUDA wheel 变体。
NVIDIA 容器镜像 vLLM 25.09 已上线 NGC。新增特性:支持 Blackwell GPU 上的 NVFP4 4-bit 浮点格式、DeepSeek-R1 和 Llama-3.1-8B-Instruct 推理优化。vLLM V1 核心架构 alpha 版持续演进中。
9 月 19 日 Ollama 推出云端模型(Cloud Models Preview)功能,允许在本地保留工作流的同时运行超出个人电脑显存的大型模型。9 月 23 日更新包含显著改进的模型调度系统,减少 OOM 崩溃、最大化多 GPU 利用率。
llama.cpp b11052 修复了强制 AI 以严格格式(如 JSON schema)输出时的关键 Bug。AMD LLM Extension 25.09 同步加入 FlashInfer 支持并更新 llama.cpp 至 b6356,增加 ROCm 7.0.0/6.4.x 系列对 MI325X、MI300X、MI210 GPU 的完整支持。
Kimi OK Computer 是 Kimi K2 万亿参数模型的原生 Agent 模式,赋予 AI 独立的虚拟计算机环境,可自主完成需求研究、规划、设计到开发的全链路任务,支持多页网站生成、100 万行数据处理、文本/音频/图像/视频多模态输出。当前处于小范围灰度测试阶段。
Anthropic 将 Claude Code SDK 正式更名为 Claude Agent SDK,开放相同的底层工具、上下文管理和权限框架,支持子智能体(subagents)和钩子(hooks)扩展,供开发者构建金融合规、网络安全、代码调试等各类专用 Agent。
Microsoft 推出基于 .NET 的 Agent Framework Preview,整合 AutoGen 与 Semantic Kernel 的核心能力。AutoGen 已进入维护模式,新功能将统一在 Microsoft Agent Framework 下开发。框架提供低样板代码构建 Agent、多 Agent 编排、.NET 标准部署模式和生产级可观测性。
Google 发布 Chrome DevTools MCP 公测版,使 AI 编码智能体能够控制并检查实时 Chrome 浏览器实例,支持性能指标录制、DOM/CSS 结构检查、JavaScript 执行、控制台输出读取及用户工作流自动化。
Figma 发布官方 MCP Server,允许 AI 模型直接访问 Figma 设计文件后端的代码层,实现 AI 智能体与设计工具的无缝协作,自动化 UI/UX 设计流程的一部分。
CData 发布 Connect AI 平台,集成 300+ 企业数据源,为 AI 助手、Agent 编排和工作流自动化提供安全的数据连接层,保留源系统的治理和认证机制。
NVIDIA 于 9 月 9 日 AI Infra Summit 上发布 Rubin CPX,一款专为大规模上下文推理优化的 GPU 新品。配合 Vera CPU 和 Rubin GPU 组成 Vera Rubin NVL144 CPX 平台,可处理百万 token 级的软件工程代码和生成式视频任务,推理性能和效率突破现有技术上限。
NVIDIA 发布 Jetson AGX Thor 端侧推理方案:在 Llama 3.3 70B 上结合 W4A16 量化与 EAGLE-3 投机解码,vLLM 吞吐从 6.27 tok/s 提升至 16.1 tok/s(2.5x 加速)。Day-0 支持 llamacpp/ollama 上的 gpt-oss 模型,Nemotron 模型 Week-Zero 支持。
Docker Model Runner 正式集成 vLLM 推理引擎和 safetensors 模型格式,开发者可使用熟悉的 Docker 工具链实现高吞吐 LLM 推理部署,同时保留 llama.cpp 作为备选引擎。
MLflow 3.4.0 带来重大特性:将 span 级别统计信息导出为 OpenTelemetry 指标,增强追踪应用的观测能力;支持 Databricks 作为 MLflow Server 后端;生产级 Kubernetes Helm Chart 现已可用(含 TLS、持久化存储、Ingress、Prometheus 指标、NetworkPolicy 等)。
Kubeflow 1.11 正式发布,核心新特性包括 KServe 集成 KEDA 事件驱动弹性伸缩、Gateway API 支持(Raw Deployment 模式)、PVC/PV 在 InferenceService 删除后保留以实现模型缓存,以及 URI 匹配修正和缓存不匹配防护等稳定性修复。
OpenAI 与 NVIDIA 宣布战略合作,OpenAI 将部署至少 10GW 的 NVIDIA AI 数据中心(百万级 GPU),NVIDIA 将分期投入最高 1000 亿美元。首批 Vera Rubin 平台将于 2026 年下半年部署。
Meta 发布 320 亿参数 Code World Model,深度理解编程环境,支持高级代码生成和推理能力。需 160GB VRAM(双 H100 + RDMA)才能完整运行,代表 Meta 在 AI 编程辅助领域的持续投入。
Microsoft 宣布将在 Microsoft 365 Copilot 中集成 Anthropic Claude 模型,为企业客户提供除 OpenAI 之外的第二个大模型选择,进一步完善 Copilot 的多模型策略。
腾讯在 Hugging Face 发布 SRPO(Directly Aligning the Full Diffusion Trajectory with Fine-Grained Human Preference),通过优化 FLUX1dev 的去噪过程和在线奖励调整,使图像生成的真实感和美学质量提升超过 3 倍。
Decart AI 开源 Lucy Edit(v0.1),首个面向文本引导视频编辑的基础模型。模型权重在 Hugging Face,API 通过 FAL 提供,ComfyUI 节点同步可用。
Meta 发布 MetaCLIP2 多语言视觉-语言模型,支持跨语言图像-文本检索,已集成至 Hugging Face transformers 库。配套提供了文本到图像搜索的完整 Notebook 教程。