Ollama v0.40.3 于 10 月 10 日发布,带来两大核心更新:一是新增对"决策模型"(Decision Models)的原生支持,通过 /v1/systemone API 端点统一暴露分类、提取、校验等任务接口;二是 Apple Silicon Mac 默认使用 MLX 后端,推理速度显著提升。同时支持 JSON Schema、Function Calling 和结构化输出。
Ollama 是目前最受欢迎的本地 LLM 运行框架,决策模型支持填补了"小模型做判断"场景的空白,对 Agent 管线中的路由、分类、验证环节具有重要价值。
Anthropic 于 10 月 7 日发布 Claude Haiku 5.5,同时推出"动态工作流"(Dynamic Workflows)功能,允许在运行时根据上下文调整 Agent 的行为路径。此外,Browser/Computer Use 工具集进入 Beta,标志着 Claude 正式进入 Computer Use 竞争赛道。
Haiku 系列主打高吞吐低延迟,适合大规模 Agent 调用场景;动态工作流让 Agent 编排从静态 DAG 进化为自适应模式,是 Agent 基础设施的重要里程碑。
JEV-27B-VL 在 HuggingFace 趋势榜上热度飙升,是 TypeSafe.ai 推出的首款"类型安全"决策 VLM,专攻分类、实体提取、结构化输出等 Agent 路由任务。模型权重已完全开源,支持直接接入 Ollama/vLLM 部署。
Agent 管线中大量环节需要"判断"而非"生成",JEV-27B-VL 填补了这一空白——以极低延迟完成高准确率的结构化输出,是 Agent 基础设施层的重要补充。
LangChain 的 deepagents 子项目 v0.7.0 带来重大优化,通过改进推理管道和上下文压缩策略,将 Agent 循环中的 Token 消耗降低 65%。同时增强了对 MCP(Model Context Protocol)的原生支持,可与 LangGraph 工作流无缝集成。
LangChain v1.4.0 正式发布,核心变化是将对 MCP(Model Context Protocol)的支持纳入主线框架,开发者可在 LangChain Expression Language(LCEL)中直接使用 MCP 工具。同时改进了 Agent 的错误恢复和重试策略。
PyTorch 官方博客连续发布两篇重要文章:一是宣布 NVIDIA Spyre AI 加速器成为 PyTorch 原生设备(native device),实现端到端 GPU 训练与推理统一;二是展示基于 NVIDIA Dynamo 的"会话感知 Agent 推理"方案,支持长上下文 Agent 对话的高效调度。
Dify 宣布插件系统的 OpenAI 兼容层完成 v1.0 重写,提升与主流 LLM API 的兼容性。同时插件市场(Marketplace)新增多款 Agent 相关插件,涵盖代码解释器、向量检索增强等功能。
vLLM v0.31.0 带来 PagedAttention 性能优化和更好的多 GPU 调度策略。同时 vLLM 官方博客发布 DeepSeek-V4.1-Flash 专项优化指南,针对该模型的 MoE 架构提供推理加速建议,吞吐量提升显著。
LangGraph 更新支持"Managed Deep Agents"模式,允许在图节点中嵌入持久化 Agent 状态,跨请求保持上下文。同时新增细粒度错误恢复机制,Agent 失败后可从最近检查点自动续跑。
Anthropic 在 Claude Console 中新增"动态工作流"功能,允许 Agent 在运行时根据当前上下文动态选择下一步行为路径,而非预先硬编码的 DAG。这一功能对 Managed Deep Agent 尤其重要,可显著降低多步 Agent 编排的复杂度。
Anthropic 宣布 Claude 的 Browser/Computer Use 工具集正式进入 Beta 阶段,支持通过自然语言指令操控浏览器和桌面应用。配合 Haiku 5.5 的高吞吐特性,适合大规模自动化测试、RPA 和 Agent 自主执行复杂 UI 任务。
LangGraph 0.2.60 引入"Managed Deep Agents"概念,允许在图节点中嵌入具有持久化状态的 Agent,跨 HTTP 请求保持对话上下文。同时新增检查点自动续跑机制,Agent 在中间步骤失败后可从最近保存状态恢复,大幅降低生产环境 Agent 失败率。
LangChain 旗下的 DeepAgents 项目 v0.7.0 重点优化 Token 效率,通过改进上下文压缩和推理缓存策略,将单次 Agent 循环的 Token 消耗降低 65%。同时原生支持 MCP 协议,可与 LangGraph 工作流直接对接。
Agent-Reach 是一款面向 Agent 的可观测性工具,帮助开发者追踪多步 Agent 执行的每一步 Token 消耗、延迟和工具调用链。项目在 GitHub Trending AI 榜上迅速攀升,反映社区对 Agent 可观测性的强烈需求。
Ollama v0.40.3 新增对"决策模型"的原生支持,通过 /v1/systemone 端点统一暴露分类、提取、校验等任务接口。同时完善 JSON Schema 约束、Function Calling 和结构化输出能力。Apple Silicon 设备默认启用 MLX 后端,推理性能大幅提升。GitHub Stars 已达 182.6K,稳居 AI 项目榜首。
vLLM v0.31.0 发布,核心改进包括 PagedAttention 内存管理优化、多 GPU 调度策略增强。同时官方博客发布 DeepSeek-V4.1-Flash 专项推理优化指南,针对该 MoE 模型的稀疏激活特点提供 quantization 和 scheduling 建议,实测吞吐量提升显著。
PyTorch 官方博客宣布 NVIDIA Spyre AI 加速器成为 PyTorch 原生设备(native device),开发者可使用标准 torch API 直接在 Spyre 上运行训练和推理,无需额外适配层。此举进一步统一了 PyTorch 硬件生态,与 CUDA、Triton 形成完整栈。
LTX-2.5 是 Lightricks 开源的视频生成模型,支持长视频生成(最高 5 分钟),在 HuggingFace 趋势榜上迅速攀升。模型权重开源,可部署于 vLLM/TGI 等推理框架,为 AI 视频创作工作流提供低成本替代方案。