跳到正文 Yaphet⌁desk ← 桌面
desk / 2026-W29 / tgif / 2026-07-17 Friday reading

TGIF AI 2026.07.17

llama.cpp如何让大模型跑在普通硬件

更新于:
Cover image for TGIF AI 2026.07.17

llama.cpp如何让大模型跑在普通硬件

Outcome School | Get a High-Paying Tech Job 这篇教程系统解释llama.cpp如何在日常硬件上运行大模型。内容从量化与Q4_K_M命名讲起,再介绍GGUF封装、内存映射和CPU优化。文章还说明任务如何在CPU与GPU之间分配,并串起一次提示词推理的完整路径。适合希望理解本地推理性能来源、而非只会复制启动命令的开发者。

Anthropic 研究:Claude 的价值观如何随模型与语言变化

How Claude’s values vary by model and language Anthropic 发布新研究,分析 Claude 表达的价值观如何随模型与语言变化。此前研究已发现 Claude 表达 3000+ 种价值观(如诚实、温暖);本次分析了 30 万+ 匿名对话。结论是:选哪个模型、说哪种语言都会改变 Claude 的行为方式——而且“Claude 表达的价值观以我们并未刻意选择的方式变化”。这是对“模型行为一致性”这一假设的重要经验补充,也把价值观漂移的可观测性摆上台面。

AI 在“自动化科学里好做的部分”,而非拓宽科学边界

IEEE Spectrum  IEEE Spectrum 上基于研究者 Evans 分析的一篇报道,其核心结论颇为反直觉:当前 AI 主要是在“自动化科学里最容易 tractable 的那部分”,而非真正拓宽科学发现的边界。换句话说,AI 让既有的、可程序化的科研流程大幅提速,但并没有显著增加“新发现”的产出。这条判断对“AI 颠覆科研”的乐观叙事是一记冷静的修正,也提示了评估 AI 科研价值时应区分“提速存量流程”与“产生增量发现”。

拆解廉价玩具机器人:把它改成 LLM 驱动的 STEM 项目

How to build a shitty robot Mario Zechner(badlogicgames)写了一篇详尽的拆解实践:买一只廉价玩具机器人,用暴力拆解、逆向 PCB 与机械结构、重布线、用纸板做结构件,再接入语音识别、TTS、LLM 与 agent,做成给孩子和邻居小孩的 LLM 玩具与 STEM 项目。文章覆盖从硬件拆解到语音管线再到 agent 接入的完整链路。作为低门槛硬件加 LLM 的端到端教程极具启发性。