跳到正文 Yaphet⌁desk ← 桌面
desk / 2026-W43 / daily / 2026-10-21 Today in AI

AI 日刊 · 2026-10-21

DeepSeek开源生产推理框架但未带上缓存系统

Cover image for AI 日刊 · 2026-10-21

AI 日刊 · 2026-10-21

Product

1. DeepSeek开源生产推理框架但未带上缓存系统

DeepSeek 把内部推理框架 DeepInfer 开源,许可证是 Apache-2.0。它现在能离线跑 DeepSeek-V4.1-Flash,硬件写明是 NVIDIA SM100 和华为昇腾 950。已包含优化内核、注意力数据并行、MoE 专家并行、DSpark 草稿校验、有界 SWA 回放、异步调度、批不变推理和结构化输出。同一条推文的附图是知乎部署文,写了三个生产目标:多厂商芯片、8 卡机器做 Prefill、64 到 128 卡节点做 Decode,以及 KV Cache 保留 72 小时以上。开源说明同时写明,完整在线服务还缺 KV Cache 系统、Prefill 与 Decode 拆分,以及副本间负载均衡。框架主要从 vLLM 改来,也参考了 SGLang 和 TensorRT-LLM。 DeepSeek开源生产推理框架但未带上缓存系统

来源:DeepSeek


2. OpenAI把API缓存拉到十二小时且Codex可永久命中

OpenAI 的 Tibo 在第 16 天更新里写了两条缓存规则。API 现在可以选择把提示缓存保留 12 小时。登录用户在 Codex 和 Work 里的缓存则一直保留。回到旧对话,或隔几小时再继续,不再承受未命中惩罚,而且保证命中可复用缓存。官方开发者账号同一天强调的是 API 的 12 小时选项,以及持久代理可以按更低的缓存输入价复用指令、工具和上下文。短会话和长生命周期代理的缓存成本因此被拆开。

来源:Tibo


3. ChatGPT向全部套餐推出用密码锁定的对话

ChatGPT 开始向 Free、Go、Plus、Pro、Business、Enterprise 和 Edu 推出 Locked Chats。用户可以把对话移出普通历史和搜索,放进一个单独的保护空间。网页和桌面用 PIN 解锁。支持的手机可以用 PIN、Face ID、Touch ID 或设备解锁。企业、教育和免费用户同一天进入推出范围,敏感对话不必先升级套餐。它改的是列表和搜索里的可见性,不是模型能力。免费档也在推出范围内,这不是付费附加包。

来源:ChatGPT


4. OpenAI更新实时语音并加入六种语言口音

OpenAI 推出 GPT-Live-1.1,用于 ChatGPT、Codex 和 dots 的语音。公开改动是新声音、更好的口音,以及语音回合里更少出现 checking。新增语音覆盖法语、德语、印地语、墨西哥西班牙语、韩语和日语。今天向全部用户推出。Codex 和 dots 与 ChatGPT 同一天拿到这版语音,不是只改聊天应用。API 还没有同步开放,官方写的是即将到来。这是语音体验更新,不是新的文本模型。checking 变少,指的是少出现等待提示。

来源:new voices and improved accents


5. OpenUI 1.0用一份规范把代理界面渲染到多种前端

OpenUI 发布 1.0,自称生成式界面的开放规范。同一份规范可以渲染成 React、Vue、Svelte、Angular 和 Lynx。安装命令是 pnpx @openuidev/cli@latest create。模型侧列出 OpenAI、Anthropic、Gemini、DeepSeek、xAI、Mistral、Qwen,以及可以本地跑的 Ollama。页面把用途说成图表、表格、表单和仪表盘,而不是只返回一个文本框。Ben’s Bites 把它收成一句话,把代理界面带到文本框之外。这是界面协议,不是新模型。五种前端和本地模型都写在同一页上,安装命令也在。

来源:OpenUI 1.0


6. Wabi 2.0推出可订行程和做小应用的群聊代理

Wabi 发布 2.0,定位是群聊里共用的代理。介绍写它能做小应用、改日历、协调旅行计划。产品页还列出订住宿、把一句玩笑做成小游戏,以及把小组件放到 iOS 或 Android 主屏。会话可以从电脑开始,再在手机上继续,两端是同一条会话。和单人助手的差别是,任务和结果留在群线程里,而不是某一个人的私聊。主屏小组件覆盖 iOS 和 Android。

来源:Wabi 2.0


7. 未发布的Grok Bot预览出现可编辑文件与分屏任务

账号 Chetaslua 贴出一份未发布的 Grok Bot 0.72.0 预览。帖子列出的界面包括可编辑文件、交互界面、任务和子任务、分屏、保险库、机器人文件和诊断。形态被描述成悬浮桌面机器人,加上计算机使用,并注明可能只有 Mac。这不是 xAI 官方发布。预览如果属实,Grok Bot 就从换皮肤走到了可改文件和可操作桌面。在官方确认前,这些条目只是一份预览清单。 未发布的Grok Bot预览出现可编辑文件与分屏任务

来源:@chetaslua

Tutorial

1. Uber用确定性工具和代理删掉一百万行过期代码

Uber 工程博客介绍 AutoClean。它已清理 1.6 万多个全量上线的 feature flag,删掉超过 100 万行代码。布尔简化和条件化简交给 PolyglotPiranha,经 MCP 调用。代理负责追踪调用链、删参数和死分支。CI 失败后,先走确定性修复器,再走范围受限的代理修复器。测试修复器只能改测试文件,避免为了让测试变绿去改生产代码。CI 通过后还有 CodeCourt。它用多个只检查一条性质的审查代理并行看差异,任一失败就丢弃,不送给人审。人只判断这个 flag 现在该不该删。 Uber用确定性工具和代理删掉一百万行过期代码

来源:Using AI to Delete Code: Agentic Tech Debt Cleanup at Uber


2. 决策模型做评估时先调阈值再比成本和F1

Hamel Husain 用 100 条公寓租赁代理轨迹,比较 Jev、Perplexity Decider、Liquid d1、Cloudflare Clef 和 OpenAI Decisions。任务是判断轨迹里有没有失败。默认阈值 0.50 可能把一个其实分得开的模型变成全不报警。他要求精确率和召回率都至少 80%,再用五折交叉验证调阈值,优化 F1。调完后,Perplexity 在达标候选里最便宜,每 100 次评估 0.82 美分,F1 为 0.79。OpenAI Decisions 的 F1 是 0.87,每 100 次 3.72 美分,大约贵 4.5 倍。分数要不要当置信度,还得看校准。0.80 只有在相近分数的轨迹里大约 80% 真失败时才算数。

来源:How To Use Decision Models for Evals


3. Warp的skill-doctor用历史会话给技能打分并改失败点

Ben Holmes 在 aiDotEngineer 演示了 Warp 的技能 skill-doctor。它收集过去的代理会话,给质量打分,再针对反复出现的失败提出技能修改。输入是已经发生的会话,不是手写示例。输出改的是技能文件,不是某一条回答。这把技能维护从凭记忆补提示,变成从历史失败里归类后再改。演示场合是公开会议,所以这是一条可复述的工作流,不是内部笔记。

来源:Warp


4. Simon Willison用Claude做出浏览器即时战略并用声音联机

Simon Willison 用 Claude Opus 5.5 做了浏览器即时战略游戏 Battle Drones,风格参考 Command & Conquer。附近设备可以用音频同步游戏状态来联机。他写自己是靠一句 Make it a LOT more fun 才把它做成能玩的。文章按版本记录了原型、精灵图、地形、三维、群岛、代理对战、随机地图和声音联机。声音联机是这篇记录里最具体的机制,状态在附近设备之间用音频同步。这是一份把编码代理用到完整游戏迭代上的过程记录。 Simon Willison用Claude做出浏览器即时战略并用声音联机 Simon Willison用Claude做出浏览器即时战略并用声音联机

来源:Simon Willison’s Weblog

Opinions/Thoughts

1. Codex从云端失败转到本地桌面并成为ChatGPT桌面版

Dan Shipper 采访 Codex 的产品、研究和设计负责人,记录它如何从云端失败变成 ChatGPT 桌面版。Codex Cloud 于 2025 年 5 月 16 日上线,外部有兴趣,持续使用很少。准备云环境可以花几小时,中途不能打断,下一条消息还会新开一台云电脑。Tibo Sottiaux 接手后转向本地,并用 Rust 重写代理,使同一套机制能跑在终端、编辑器、桌面、云和 ChatGPT。2026 年 7 月 9 日,Codex 桌面应用成为新的 ChatGPT 桌面应用。周活在 2026 年 3 月 19 日超过 200 万,6 月超过 500 万,其中约五分之一是知识工作者。Codex 与 ChatGPT for Work 合计周活 4000 万。文章的判断是,这条线能改界面和改模型,是因为它在 ChatGPT 约 8 亿用户的约束之外平行试过。

来源:How Codex took over ChatGPT


2. Amp公开其二十一人团队不强制代码评审且日更百次

Amp 发出的介绍列出一组组织事实。团队 21 人,每周开会一次,不设季度目标。没有拉取请求,也没有强制代码评审。除一个被称为独裁者的头衔外,不设其他头衔。一天大约发布 100 次,缺陷可以在几分钟内修好,团队还以删除功能出名。介绍人是 sqs 和 Thorsten Ball。这是 Amp 对自己工作方式的公开描述,读者可以把它当成对照,不能把它当成已经验证的因果。

来源:Amp