Anthropic Claude Opus 5.5 / Fable 5.1 正式商用,Claude 平台 9 月 22-25 日密集更新
vLLM 0.30.0 引入多 token 预测、FP8 KV Cache、Mamba/State Space Model 原生支持;TGI 3.1.2 同步更新
HYV4 是首个支持 HuggingFace 的 780B 参数混合专家模型,VibeVoice 引入 next-token 扩散语音合成
新增 HYV4(780B MoE,激活 49B 参数,1M 上下文)、VibeVoice(LLM 结构扩散语音合成)、NeoMME(260M/800M 多模态编码器)、Fun-ASR-Nano、Kimi Linear、Canary-1B-v2、NeuCodec 等模型支持;同时带来 generation、cache、kernel、quantization 和 vision RoPE 的重大改进及多项 bug 修复。
🔗 查看文档核心更新:多 token 预测(MTP)原生支持、FP8 KV Cache 量化、Mamba/状态空间模型(SSM)原生推理、长上下文优化(支持 1M+ 上下文窗口)、MoE 模型路由优化;v0.30.1rc0 修复了若干稳定性问题。
🔗 查看发布说明跟随 vLLM 生态的更新节奏,TGI v3.1.2 持续优化了 HF 生态模型的推理性能与部署易用性,支持最新一代 MoE 模型与稀疏注意力架构。
🔗 查看文档Engine v2:新增红队测试(Red Teaming)能力,可自动生成假设并测试生产环境中的潜在问题;扩展错误检测类型(延迟、成本趋势、低效工具调用);自动验证修复方案。
Trajectories:提供会话级轨迹视图,聚合多层 trace 为可读的时间线对话,便于快速定位行为偏差。
Custom Apps:支持用自然语言或模板构建定制化 LangSmith UI,无需自建前端即可创建评审队列、实验对比界面等。
Managed Deep Agents v0.8:新增用户级记忆、身份绑定认证、扩展通道与工具管理。
CrewAI 宣布从 1.14 版本起完全独立于 LangChain,移除所有 LangChain 依赖。新增对 A2A(Agent-to-Agent)协议和 MCP(Model Context Protocol)的原生支持;企业级特性包括 FedRAMP High、专用 VPC、SSO 集成;月度 Agentic Workflow 处理量突破 4.5 亿次。
🔗 查看文档OpenRouter 新增 Google Gemini 3.1 Pro 和 Fast 的接入,同时上线 Claude Opus 5.5($4/MTok 输入,$20/MTok 输出,1M 上下文)的 API 调用通道,为开发者提供更灵活的多模型路由选择。
🔗 查看模型列表Hy4-Preview 是 HuggingFace 社区最受关注的 780B 参数混合专家模型,每 token 激活 49B 参数,上下文窗口达 1M tokens。架构融合了 MLA(多头隐式注意力)、DSA(DeepSeek 稀疏注意力)、Gated MLA + 可学习 Attention Sinks 和 iHC(独立超连接)四项前沿技术。已在 transformers v5.17.0 中获得原生支持。
🔗 HuggingFace 模型页VibeVoice 是一种创新的语音合成框架,在 LLM 结构内采用 next-token 扩散方法生成高保真多说话人长音频,专为播客和有声书等真实对话场景设计,可在 Diffusers 中直接使用。
🔗 HuggingFace 模型页9 月 24 日,HuggingFace LeRobot 数据集页面新增episode 预览功能,支持多摄像头同步回放和悬停预览;数据集列表页新增机器人类型、episode 数量等元数据展示。
🔗 浏览数据集Claude Opus 5.5 面向长期代理编程和知识工作,默认 1M token 上下文窗口、128K 最大输出、自适应思考(adaptive thinking)始终启用。定价 $4/$20 per MTok(较 Opus 5 的 $5/$25 降低 20%)。在 Claude API、Amazon Bedrock、Google Cloud Vertex AI、Microsoft Foundry 均可访问。注意:Opus 5.5 思考不可禁用,tool_choice any/tool 类型均返回 400 错误,需改用 auto + 严格工具使用模式。
🔗 产品页9 月 22 日:支持在中断对话的系统消息中动态添加工具定义(beta: inline-tools-2026-09-15),无需重置 prompt cache;9 月 23 日:缓存诊断(cache diagnostics)正式转正,移除 beta 头部要求;9 月 24 日:恢复对 "bio"/"frontier_llm"/"reasoning_extraction" 类别拒绝输出的计费(此前免费)。
🔗 发布说明GPT-6 Sol 面向复杂代码和代理工作流,支持 1.05M 上下文、128K 输出、文本/图像输入,定价较前代更具竞争力。GPT-6 Luna 为高效轻量版本,适合高并发任务。两者均支持 reasoning effort 调节。
🔗 OpenAI 官方博客huggingface_hub 库正式支持通过 OpenAI SDK 和 Anthropic Python SDK 调用远程 Agent,允许用户通过统一的 HuggingFace Agents 接口对接主流闭源模型,降低 Agent 开发门槛。
🔗 查看文档阿里通义团队发布 Qwen-Agent 多模态版本,集成 Qwen3.5-Omni 模型,支持视频理解(最长 1 小时)与原生语音交互,覆盖视频分析、知识问答等应用场景。
🔗 GitHub 仓库vLLM v0.30.0 最重要的更新包括:① FP8 KV Cache 量化正式进入稳定版,大幅降低长上下文推理显存占用;② Mamba/SSM 模型原生推理支持;③ 多 token 预测(MTP)原生集成,无需额外补丁;④ MoE 模型路由算法优化,提升 780B 参数级模型的吞吐效率。配合 HYV4 等新一代 MoE 模型,vLLM 成为落地百万参数模型的首选推理引擎之一。
🔗 v0.30.0 文档TGI v3.1.2 继续完善对最新一批开源模型的原生支持,包括 NeMo 架构、Qwen3 系列及 MoE 模型的 Tensor Parallelism 优化。
🔗 TGI 文档开源微调框架 Axolotl 发布 v1.10.0,新增对 Qwen3.5-Omni 多模态模型的训练支持,同时优化了 DeepSpeed ZeRO-3 与 FSDP 的混合训练稳定性,支持更长的多模态序列(视频帧/音频片段)处理。
🔗 GitHub 仓库HuggingFace 在 Jobs 页面新增 Resources 面板,实时显示 CPU、RAM、GPU 和 VRAM 使用率(每秒刷新),帮助开发者更直观地监控分布式训练任务的资源消耗。
🔗 Changelog组织用户现可通过 Google Cloud Marketplace 订阅 HuggingFace Inference、Spaces、Jobs、存储及 Seats 服务,费用直接并入 Google Cloud 账单,无需额外注册供应商账户。
🔗 Changelog据 LLM Market Cap 数据,2026 年 9 月共有 54 个新模型发布。评分最高的为 Claude Fable 5.1(96 分)和 Claude Opus 5.5(95 分),其次为 Grok 4.7(89 分)和 GLM 5.3 Prime(79 分)。其中 Gemini 3.1 Pro 与 Fast 于 9 月下旬上架 OpenRouter,成为本月最受关注的商业模型之一。
🔗 LLM Market CapMLCommons 于 9 月中旬发布 MLPerf Inference v6.1,新增多模态模型(视觉+语言联合推理)和 Agent 类工作负载的 benchmark,更贴合当前大模型实际部署场景。
🔗 MLPerf 官网