🔥今日重点 Top 3
TOP 1
NVIDIA 以 129.3 亿美元收购 Hugging Face 正式落地
这是近一年 AI 生态最具标志性的并购事件:硬件巨头 NVIDIA 以 129.3 亿美元收购开源模型平台 Hugging Face,HF 平台拥有 1800 万+开发者、300 万+模型、50 万+数据集。此举标志着开源模型生态与 AI 硬件巨头深度绑定,预计将推动 HF 模型在 NVIDIA 硬件上的全面优化,同时保持平台的开放性和多云兼容性。
TOP 2
LangChain 1.0 & LangGraph 1.0 正式版发布,Agent 工程化迈入新阶段
LangChain 和 LangGraph 同步发布首个稳定版 1.0,引入 MCP(Model Context Protocol)原生集成、middleware 系统(日志/限流/重试)、elicitation 声明式人工确认模式、PostgreSQL/Redis 持久化 checkpoint 等核心功能。AgentExecutor 正式 deprecated,推荐使用 `agent.invoke()`。这标志着 Agent 框架从实验性库向生产级基础设施转变。
TOP 3
DeepSeek-V4.1-Flash 发布:552B MoE 模型 KV 缓存压缩至 1/8
DeepSeek 于 9月10日发布 V4.1-Flash,采用因果编码器-解码器架构(8B 输入/16B 输出激活参数),原生多模态视觉理解。KV 缓存仅需 1/4 HBM、1/8 SSD 存储,性能超越 V4-Pro 正在取代 V4-Pro。同时 Qwen3.8-27B 登顶 Hugging Face 最受欢迎开源模型,反映开发者对高效开源模型的持续偏好。
🛠️框架与工具新版本发布
vLLM v0.29.0 重大版本发布
推理部署服务
工具库
Model Runner V2 成为所有模型的默认执行路径。包含 594 个提交、277 位贡献者参与,移除 10 个已弃用的架构,新增批量分片采样、CUDA 图内存分析等功能。
Hugging Face Transformers v5.17.0 发布
训练框架
工具库
新增 7 个模型架构:HYV4(780B 参数 MoE)、VibeVoice(语音合成)、NeoMME(多语言多模态编码器)、Fun-ASR-Nano(800M 参数语音识别)、KimiLinear(混合线性注意力)、Canary-1B-v2(语音识别)和 NeuCodec(神经音频编解码器)。
Ollama v0.34.1 发布
推理部署服务
工具库
MLX runner 现在主动驱逐前缀缓存快照并检查系统空闲内存;Gemma 3n projector 保持 GPU 运行;token 重复限制提高至 100 并给出明确错误;bundle 最新 MLX 和 llama.cpp 后端。
LangChain 1.4.2 发布
Agent 框架
工具库
修复了在人机协作编辑中保留模型生成工具调用的问题,并添加了 ToolMessage 通知,改进 Agent 与人类的协作体验。
CrewAI v1.10.1a1 更新
Agent 框架
工具库
引入线程安全的平台上下文管理,改进 langgraph 和 openai agent 适配器的文档,迁移至 UV 包管理器,提升多 Agent 协作的稳定性和开发体验。
SGLang v0.5.20 发布
推理部署服务
工具库
713 个 PR,237 位贡献者。新增 GLM-5.3-Flash 和 Hy4-Pruning 支持。自定义 logit 处理器避免 GPU 同步,提升推理速度。
PyTorch Low Precision FlashAttention-4 发布
训练框架
工具库
扩展 FlashAttention-4 支持 MXFP8 前向和反向传播,在 Blackwell GPU 上达到 2.85 PF/s 前向速度和 2 PF/s 反向速度,面向下一代训练优化。
MLflow 3 for Models 发布
平台软件
工具库
MLflow 3 引入 LoggedModel 新概念,重新定义模型日志方式。Spark 模型日志继续使用 MLflow 2.x runs,实现平滑过渡。
🤖Agent 生态动态
LangGraph 1.0 elicitation="interrupt" 声明式人工确认
Agent 框架
LangGraph 1.0 新增声明式人工确认模式,Agent 可在指定节点暂停等待人类审批,持久化状态后恢复。这是生产级 Agent 的关键里程碑,解决了高价值操作需要人工审核的痛点。
Claude Computer Use / Browser Use 工具集上线 Google Cloud
Computer Use
Agent 产品
Anthropic 的 computer_toolset_20260801 和 browser_toolset_20260801 现已在 Google Cloud 可用,支持 Claude Fable 5、Mythos 5、Opus 5 和 Sonnet 5 等模型,大幅扩展 Agent 在云端的计算机操作能力。
NVIDIA PAIR:本地多 PC AI 路由
Agent 基础设施
推理部署服务
2026年9月3日 IFA 发布,免费开源 Personal AI Router,智能分布推理请求到本地网络中的多台 PC。支持 Ollama 和 LM Studio,兼容 RTX 20 系列及更新、RTX PRO、DGX Spark 和 Apple M4+
Hermes Agent 一键本地部署
Agent 产品
SDK/开发工具
Nous Research 与 NVIDIA 合作推出 Hermes Agent,提供 Windows 一键本地模型配置,自动检测 NVIDIA GPU 并选择合适模型配置,通过集成 llama.cpp + NVIDIA 优化运行。Linux 支持即将推出。
Perplexity Portable Computer 登陆 Windows
Agent 产品
AI 应用
2026年9月14日,Perplexity Portable Computer 现支持 NVIDIA RTX GPU(≥24GB VRAM)Windows 平台,可在本地运行完整工作流,敏感数据不出设备,推动企业级本地 AI 采用。
Anthropic R&D Automation Index 发布
Agent 基础设施
行业动态
Anthropic 发布研究自动化指标,显示 Claude 在 2026 年 8 月领导了公司 26% 的 AI 研究(2月时低于 1%),同时运行 30,000 个并发代理,监控阻止率约为每 47,000 次行动阻止 1 次,反映 Agent 大规模应用的现实。
Claude Financial Services Agents 金融 Agent 模板
Agent 产品
行业动态
Anthropic 推出 10 个金融服务业 Agent 模板(pitchbook 构建、KYC 筛选、月末结账等),作为 Claude Cowork 插件和 Claude Managed Agents cookbook 发布。Claude 现支持跨 Excel、PowerPoint、Word、Outlook 工作。
OpenAI、Anthropic、Google DeepMind 合作建立行业自律标准机构
行业动态
三大 AI 巨头正合作建立一个类似 FINRA(美国金融业监管局)的行业自律标准机构,用于在发布前测试强大系统。Cohere CEO 批评这是"卡特尔"行为,引发行业关于 AI 治理的广泛讨论。
⚙️推理部署基础设施更新
Kimi K3 性能优化达 2.8× 吞吐提升
推理部署服务
vLLM 于 9月13日发布 Kimi K3 性能优化方案,通过自适应投机解码预算、KDA 前缀检查点、零拷贝混合批处理、延迟 MXFP4 最终化、ReplaySSM、P/D 分离、解码上下文并行等技术,实现 56-60% 延迟降低、2.2-2.8× 吞吐提升、72-85% TTFT 降低。
MiniMax M3 在 AMD MI355X 上优化,吞吐最高提升 4.45×
推理部署服务
算力基础设施
vLLM 与 AMD 合作发布 MiniMax M3 在 MI355X 上的优化方案。并发 32 下 MXFP8 吞吐从 109.1 提升至 342.4 tok/s/GPU(3.14×),并发 128 下 MXFP4 达 943.5 tok/s/GPU(4.45×)。添加 EAGLE3 投机解码和 P/D 分离后,并发 512 达 6,370.5 total tok/s/GPU。
vLLM × Novita AI: Chord W4A16 MoE CUDA 算子
推理部署服务
工具库
Novita AI 开源 Chord(高性能 W4A16 MoE CUDA 算子)。H200 上最高 1.33×,B300 上最高 2.15× 加速,显著提升 MoE 模型的推理效率。
GLM 5.3 Hybrid HiSparse Offloading 推理优化
推理部署服务
vLLM 新优化方案,通过混合稀疏卸载提升 GLM 5.3 推理性能,解决大模型在有限显存下的部署难题。
vLLM TT Plugin:Tenstorrent 加速器支持
推理部署服务
算力基础设施
通过标准 out-of-tree 插件机制将 Tenstorrent 加速器接入 vLLM,扩展推理部署的硬件兼容性。
llama.cpp 推理性能提升 1.9×(RTX 5090)
推理部署服务
NVIDIA 于 IFA 2026 宣布,RTX 5090 上通过 kernel 优化、改进投机解码和更快 prefill,llama.cpp 推理吞吐提升最高 1.9×。通过 LM Studio 和 Ollama 可直接体验。
Ollama 推理级别控制 API 更新
推理部署服务
工具库
Ollama 通过 API 暴露每模型的推理控制,`/api/show` 端点和 `ollama show` 命令现在报告每个模型支持的 thinking 值及其默认值,客户端可以动态填充推理级别控件。
NVIDIA vLLM 推理性能提升 1.2-1.4×
推理部署服务
算力基础设施
RTX PRO 6000 Blackwell 上 1.2×,双 DGX Spark 集群上 1.4×。FlashInfer 新 XQA attention kernels 助力加速。
llama.cpp 架构扩展:支持 SigLIP head_dim=72
工具库
推理框架
支持 HMX flash-attention head_dim 非 64 倍数(如 SigLIP 的 head_dim=72),新增 SWA 模式支持 15 个额外架构的 roundtrip 测试,正式弃用 --mmap、--mlock、--dio 标志。
⭐GitHub 趋势 AI 项目
cloudflare/security-audit-skill +3,019 ⭐
GitHub 项目
安全审计
Cloudflare 官方 AI 安全审计技能,六阶段漏洞挖掘管道 + 对抗性验证,machine-readable findings。当日新增约 3,000 stars,领跑 GitHub 热榜。
alibaba/open-code-review +2,724 ⭐
GitHub 项目
开发工具
阿里开源代码审查工具,融合确定性流水线 + LLM Agent,支持行级精确评论,内置多语言规则集(NPE、线程安全、XSS、SQL注入),兼容 OpenAI & Anthropic API。总计 36.6K stars。
Tencent/BrowserSkill +1,319 ⭐
GitHub 项目
Computer Use
腾讯 AI 浏览器代理:借用标签页而非占用,human-in-loop 内置,CLI + 扩展跨任意 shell AI agent 使用,让 AI agent 在你已登录的真实浏览器中执行操作。
Tencent/WeKnora +1,283 ⭐
GitHub 项目
RAG/Agent
开源 LLM 知识平台,可将原始文档转化为可查询的 RAG 系统、自主推理 agent 和自维护 Wiki。总计 26.6K stars。
DietrichGebert/ponytail +1,196 ⭐
GitHub 项目
Coding Agent
"让 AI agent 像最懒的老司机一样思考"——强调用最少的代码解决问题,避免过度重构。总计 141.6K stars。
affaan-m/ECC +965 ⭐
GitHub 项目
Agent Harness
Agent harness 性能优化系统,面向 Claude Code、Codex、Opencode、Cursor 等,涵盖技能、记忆、安全性与研究导向开发。总计 262K stars。
JustVugg/colibri +873 ⭐
GitHub 项目
推理引擎
纯 C 实现、零依赖的前沿 MoE(混合专家)模型运行引擎,支持从磁盘流式加载专家参数。总计 35.8K stars。
alphaXiv/OpenResearch +939 ⭐
GitHub 项目
Research Agent
将编码 agent 升级为研究 agent,支持自动化文献调研与知识发现,总 5.0K stars。
jamiepine/voicebox +667 ⭐
GitHub 项目
TTS/语音
开源本地 AI 语音工作室,支持语音克隆、多语言 TTS(23种语言,7个引擎)、全局快捷键听写,可为 MCP-capable agent 提供语音接口。总计 55K stars。
debpalash/VoiceStudio +2,072 ⭐
GitHub 项目
TTS/语音
开源本地 ElevenLabs 替代,16 TTS + 11 ASR 引擎,支持 646 语言,总计 31K stars。