跳到正文 Yaphet⌁desk ← 桌面
desk / 2026-W42 / tgif / 2026-10-16 Friday reading

TGIF AI 2026.10.16

Anthropic 称新防御让蒸馏提取的推理下降约一个数量级

更新于:
Cover image for TGIF AI 2026.10.16

Anthropic 称新防御让蒸馏提取的推理下降约一个数量级

https://www.anthropic.com/research/distillation-defenses Anthropic 发文称,新防御让蒸馏者在自家平台提取到的推理 token 降到原来的约十分之一到百分之一。文章点名智谱在开发 GLM-5.3 时蒸馏美国模型的网络能力。它称智谱试过 Claude Fable 5,防护使攻击变差后,改用更旧的 Claude 和另一家实验室的模型。文章还写,Moonshot 的 Kimi 请求曾被秘密转到 Claude。其中一条被 Anthropic 认为与中国军方有关的请求,是在分析成都某个人的监控画面。新办法限制推理跨对话、跨模型和跨账号移动,并用两级分类器拦截提取,误报率低于 0.1%。反复尝试的账号会被限流或封禁。自 9 月 24 日起,这类被拦截请求也要收费。

The road to self-improving software

https://x.com/BHolmesDev/article/2110793920930107817 本文探讨了如何让 AI 代理主动闭环软件开发流程。作者提出三个方向:一是让代理监控服务器错误(如 Sentry)并自动修复 Bug、提交 PR;二是代理的自我改进,通过评分系统回顾历史会话质量,找出失败共性并优化技能与配置;三是主动产品工作,代理分析用户访谈、使用数据等,提出产品路线图建议。核心目标是让代理从任务开始到产品交付形成一个大闭环。

Anthropic 每天合并超过 3 万次,因此自建版本控制 Scion

https://x.com/AnthropicAI/status/2110047081414987957 Anthropic 工程博客说,编码已不再是瓶颈,瓶颈转到按人的规模设计的版本控制、构建和 CI。5 月每天约合并 2500 次,9 月超过 3 万次;他们用五个月建成 Scion,并把单体仓库从 git 迁完,同期还做了评审界面 Antique、代码搜索和权限系统。主分支历史近 100 GB,压缩后的工作副本超过 25 GB;仅 CI 每天约 2500 万次检出,按朴素 git 拉取会超过每天 600 PB,高峰时跑过数百个内部镜像。Scion 假定客户端一直在线,提交和合并放在服务端,变更按改动文件记,而不是每人保存整库。