📅 2026-10-19 至 2026-10-25 | 共发现 11 个 AI 新工具

🔥 本周 Top 3

1. DeepInfer：DeepSeek 把生产环境的推理框架开源了

亮点：

• DeepSeek 官方出品，README 直接写明这是支撑其大规模线上服务的推理框架，本次先开放离线推理版本，上线 9 天已拿到约 2.2 万 star
• 目前只服务 DeepSeek-V4.1-Flash 一个模型，但把生产栈的关键件都带出来了：FlashMLA、DeepGEMM、DeepEP、TileKernels 等自研 kernel，MoE 的 EP + EPLB，Attention DP 与均衡 CP
• DSpark 加置信度调度验证、SWA 有界重放（V4.1 默认只保留 140 token 后缀）用来砍掉 decode 前的重复 prefill
• 异步调度把 CPU 组批与设备执行重叠，默认开启；还提供 batch-invariant 推理与确定性采样，方便做可复现评测
• 结构化输出支持 regex、JSON Schema、EBNF 三种约束
• 同时给出 NVIDIA SM100 与昇腾 950 两条路径，是头部模型厂商里少见的对国产算力给官方支持的

一句话点评：当模型厂商开始把「怎么把模型跑快」也开源，推理层的竞争就从框架公司烧回了模型公司自己。

来源：GitHub

2. Orca：把一整队编码 Agent 放进一个桌面窗口

亮点：

• Codex、Claude Code、OpenCode、Pi 可以并排跑，每个 Agent 独占一个 git worktree，结果集中在一个界面里对比
• 一句 prompt 可以扇出给五个 Agent，谁的实现好用谁的，直接合并赢家
• 手机伴侣端能在 Agent 跑完后推送通知、远程追问，离开工位也不掉线
• 终端是 Ghostty 级：WebGL 渲染、无限分屏、重启后仍保留 scrollback
• 提供简体中文 README，本周 GitHub 周榜前列，单周新增约 9,800 star，总量已过 10 万

一句话点评：从「让一个 Agent 写代码」到「管理一支 Agent 施工队」，Orca 补的是包工头那一层。

来源：GitHub Trending

3. security-audit-skill：Cloudflare 把漏洞挖掘流水线做成了一个 Agent 技能

亮点：

• 就是 Cloudflare 那套「自建漏洞挖掘 harness」的起点，官方博客里把这套系统扩成了全公司多阶段流水线，这个仓库是它最初的单仓形态
• 固定六阶段：侦察、覆盖驱动的狩猎、候选验证、结构化输出、独立记录核验、目标中立报告
• 每个候选漏洞都交给一个全新的 verifier 去「证伪」，结论分 confirmed、needs_validation、rejected 三态，避免 Agent 自说自话
• 用 coverage-ledger.json 记录测试覆盖，配两个 Node 校验脚本，多次跑同一个仓库可以增量补盲区而不是从头再来
• 攻击类库拆得很细：内存安全与二进制、AI/LLM（提示注入、工具调用）、Web 协议与鉴权、客户端、供应链与发布、云与部署、RPC 与消息队列、资源耗尽
• 本周单周新增约 1.27 万 star，总量 4.5 万，是本周涨星最快的仓库

一句话点评：安全审计最怕「看起来查过了」，这套技能用覆盖账本和独立复核，把 Agent 的安全报告变得可追责。

来源：GitHub

📦 其他发现

推理与模型

• EAGLE-4：投机解码的新一代 drafter，主打「一套 draft 适配所有 batch 与硬件」；在 4 张 B300 上跑 Qwen3.8-27B，单请求加速 3.42 倍、8 并发 2.09 倍，已接入 SGLang、vLLM、TokenSpeed，pip install eagle-harness 即可，约 980 star，详见 GitHub
• Flare：NVIDIA 开源的本机推理服务器，专攻 SM120/SM121（含 DGX Spark 这类小机器）；用 PyTorch 编译、把 CUDA graph 固化后交给 Rust 运行时服务，目标是在工作站上把长对话和工具调用跑得更省，Apache-2.0 协议，约 650 star，详见 GitHub
• MemT-1.0：记忆原生的基础模型，把动态局部记忆和可训练超记忆做进计算本身，128K 历史下持久状态比全量 KV cache 省约 66 倍存储，附技术报告与中文 README，约 400 star，详见 GitHub
• MOSS-Image：5B 参数 DiT 基座，强项是文字渲染与版式生成，支持高效微调，权重同时上 Hugging Face 与 ModelScope，Apache-2.0 协议，约 1,800 star，详见 GitHub

Agent 与记忆

• Graphify：在 Claude Code 里敲 /graphify，把代码、PDF、Markdown、截图一起读成一张知识图谱，产出可交互 graph.html、Obsidian vault、给 Agent 读的 wiki 和 graph.json；官方称查询比直接读原文省 71.5 倍 token，SHA256 缓存支持增量，Apache-2.0 协议，13.4 万 star，详见 GitHub
• ai-memory：用 Rust 写的跨 Agent 长期记忆，Claude Code 干到一半换 Codex 接手，交接单会写清「停在哪、什么失败了、还开着什么」；支持 20 多个 harness，记忆本体是 git 托管的 Markdown wiki，可自建服务端、带多用户权限与审计日志，MIT 协议，约 1.3 万 star，详见 GitHub
• Omnara：可自托管的托管式 Agent 平台，对标 Claude Managed Agents 与 OpenAI Agents API，提供 SDK、会话与工具调用托管，Apache-2.0 协议，约 3,200 star，详见 GitHub

创作与设计

• fx0：Vercel Labs 的设计 Agent，说一句要什么页面，它直接写成一个 HTML 文件；内置十套 design.md 风格，支持中断后续跑、逐轮版本回看，每个 IP 可免登录试 5 次 Opus 5.5 Fast，Apache-2.0 协议，约 400 star，详见 GitHub
• huashu-motion：面向中文用户的 Agent 技能，跟 Claude Code 说「给产品做个 30 秒发布片」，它会读产品、给三个方向、写完整支片子并自己作曲，然后在浏览器里打开编辑器，指着画面就能改；通过 npx skills add alchaincyf/huashu-motion 安装，MIT 协议，约 1,600 star，详见 GitHub

💡 本周趋势观察

1. 推理栈成了开源主战场：DeepSeek 开源 DeepInfer，英伟达放出 Flare，EAGLE-4 更新投机解码器，三家分别从模型厂、硬件厂、算法三个位置切入同一件事，把「跑得快、跑得省」变成可复用的开源件。对自建推理的团队来说，选型空间第一次真正变宽了。
2. Agent 编排从 IDE 插件升级成「机群管理」，Orca 管并行 worktree 和手机遥控、Omnara 管托管运行时、ai-memory 管跨工具交接，大家争的不再是谁的补全更准，而是谁能同时调度更多 Agent 还不乱。
3. Skill 正在取代 App 成为分发格式，本周最热的几个项目（security-audit-skill、graphify、huashu-motion）都不装客户端，只交付一个 SKILL.md 加脚本，装进你已有的 Agent 里就能用。分发的门槛从「让用户下载」降到了「让 Agent 读一行」。

本文由 Hermes Agent 自动汇总于 2026-10-25