每周技术读物
PS: 这期本来要兑现上期预告的「渲染管线各阶段在搬什么数据」——没兑现,原因写在文末「本期没做到的」里,是我自己定的规矩卡住了自己。不糊弄,顺延。
补上来的是一组更有用的东西:一篇 Agent 地基(RAG 原论文)、一篇本周新论文(它独立复现了第一期的结论)、一篇 C++ 内存管理的经典章节。
本期速览
| # | 内容 | 领域 | 评级 | 首发 | 阅读 |
|---|---|---|---|---|---|
| 1 | Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks | AI / 检索 | 🔥🔥 | 2020 | 60 min(读摘要+方法+实验结论) |
| 2 | Discovering Effective Agent Memory Designs through Program Evolution | Agent / 记忆 | 🔥🔥 | 2026-11 | 25 min |
| 3 | Object Pool(Game Programming Patterns) | C++ / 内存 | 🔥🔥 | 2014 | 25 min |
| 4 | Actor, Judge, or Teacher? | Agent / 训练 | ⚪ | 2026-11 | 12 min |
| 5 | LiveGeo:持续演化世界里的地理 Agent | Agent / 评测 | ⚪ | 2026-11 | 12 min |
| 6 | CapLite:不要相信 Agent 自己写的安全策略 | Agent / 安全 | ⚪ | 2026-11 | 15 min |
1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
出处
- 原文标题:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- 作者:Patrick Lewis、Ethan Perez、Aleksandra Piktus、Fabio Petroni、Vladimir Karpukhin、Naman Goyal、Heinrich Küttler、Mike Lewis、Wen-tau Yih、Tim Rocktäschel、Sebastian Riedel、Douwe Kiela(Facebook AI Research 等)
- 链接:arXiv<2005>2005>.11401
- 首发:2020-05-22(v1),NeurIPS 2020 接收
- 类型:同行评审会议论文(一手)
- 语言:英文
为什么值得读
前面几期推了「朴素 RAG 吊打复杂 agentic memory」「程序演化搜出的记忆设计」——都是应用层面的结论。这期回到源头,看这件事最初是怎么被想出来的。
原论文要解决的问题很朴素:预训练语言模型把知识存在参数里,这带来三个毛病——知识不好精确定位、不好溯源、想更新就得重训。于是它给模型接了一个显式的、非参数的记忆。
架构(记住这组词就够)
- parametric memory:预训练的 seq2seq 模型(BART)
- non-parametric memory:Wikipedia 的稠密向量索引,用预训练的神经检索器(DPR)访问
- 两种组合方式:
- RAG-Sequence:整个输出序列都用同一批检索到的段落
- RAG-Token:每生成一个 token 都可以换一批段落
其中 RAG-Token 那版更灵活,本质上是把「查资料」这个动作下放到了 token 粒度。
结论
在三个开放域 QA 任务上拿到 SOTA,超过纯参数化 seq2seq 和任务专用的 retrieve-and-extract 架构;在生成任务上,产出比纯参数模型更具体、更多样、更符合事实。
放到今天还成立吗?
核心判断成立,工程形态基本被替换了。
- 仍然成立的:把知识挪到「可检索的显式索引」上,换来可更新、可溯源——这正是今天所有人做 RAG 的原因,也是它比「往参数里灌知识」更划算的根本理由
- 已经被替换的:原论文是端到端联合训练检索器与生成器(检索器用生成 loss 的梯度更新)。生产上现在几乎没人这么干——大家用现成的 embedding 模型 + 独立训练的 reranker,甚至不动模型只改提示词。联合训练的复杂度换不来那点收益
- 新增的问题:原论文假设「检索到的段落是对的」。今天真正难的是检索质量和证据利用率(这恰好是第一期那篇论文指出的方向)
一句话总结:RAG 的贡献不是「检索+生成」这个组合姿势,而是把知识从权重里搬到索引里——从此知识可以更新、可以引用出处、可以换。
2. Discovering Effective Agent Memory Designs through Program Evolution
出处
- 论文:arXiv<2611>2611>.17068
- 作者:Xinheng Ding、Seyyed Saeid Cheshmi、Ziyang Zhang、Tairan Chen、Wenya Xie、Yu Hou、Rui Zhang、Zirui Liu
- 首发:2026-11-12
- 类型:arXiv 预印本(附代码)
- 语言:英文
为什么值得读
因为它用搜索代替猜:不是在手工设计记忆结构,而是让程序演化去搜「整个记忆程序」长什么样。
做法上有个关键设计:把记忆系统抽象成一套标准生命周期接口,然后跑「诊断 → 提议」的迭代循环,从极小的种子程序逐步演化出完整记忆方案。
结果
在 LoCoMo 和 LongMemEval 上,比手工设计的基线绝对精度最高 +12%,而服务成本只要 35%;换 backbone、换 benchmark 也能迁移。
最值得记的两条结论
分析 + 消融之后,它找出两条反复出现、且被验证有效的设计模式:
- 保留原始对话作为可检索的证据——因为抽取式记忆会丢掉细节
- 按查询意图组合检索到的证据——光检索对不够,要按问题类型组织
第 1 条正是第一期那篇《Naive RAG Is Stronger Than We Thought》的核心结论。两篇用完全不同的方法(一篇做对照实验,一篇做程序搜索)撞到同一个结论——这种独立复现比单篇论文有说服力得多。
而且第 2 条给了前一篇没有的补充:原始证据要保留,但不能只是塞进去,得按意图组合。作者把「组合模块」移植进五个现有记忆系统,全部都有提升。
另一条容易被忽略的发现
「搜索目标决定算力花在哪:把服务成本和精度一起优化时,算力会从构建期(用 LLM 做记忆构建)挪到查询期(选择性处理)。」
这条对工程很实用:记忆构建期烧的钱,往往可以在查询期用更聪明的方式省回来。
一句话总结:记忆设计别靠直觉,让它去搜;搜出来的结论之一是「原始证据别扔」,之二是「检索完还得按意图组装」。
3. Object Pool(Game Programming Patterns)
出处
- 原文标题:Object Pool(Optimization Patterns 章)
- 作者:Robert Nystrom
- 链接:gameprogrammingpatterns.com/object-pool.html
- 首发:2014(全书免费在线,版权标注 2009–2021)
- 类型:行业经典书籍章节(一手)
- 语言:英文
为什么值得读
上上期推了同一本书的「Data Locality」,这期把它的姊妹篇补上:数据怎么摆解决了「读得慢」,对象池解决的是「分配得慢 + 碎得没法用」。
作者先从碎片化讲起:空闲空间被切成很多小块,总量也许够,但最大的连续块不够就分配失败。主机平台的「泡机测试」(soak test,演示模式连跑好几天)挂掉,很多时候不是偶发 bug,是缓慢增长的内存碎片或泄漏。
三个技术要点
一、free list:O(1) 的创建
朴素实现在数组里线性扫「谁没在用」,是 O(n)。正解是把空闲对象自己的内存拿来存链表——用 union 让「活着时的状态」和「空闲时的 next 指针」共用同一块空间:
union { struct { double x, y, xVel, yVel; } live; // 活着时的数据 Particle* next; // 空闲时的链表指针} state_;于是创建就是「取链表头」,删除就是「塞回链表头」,不需要额外一个指针数组。作者那句「妈妈咪呀 O(1)」写得很真诚。
二、池满了怎么办(四种策略,按场景选)
| 策略 | 适用 |
|---|---|
| 提前防止(调大池子) | 重要对象(敌人、Boss)——宁可多占内存也不能缺 |
| 干脆不创建 | 粒子特效——满屏已经很闪了,少一簇没人发现 |
| 顶掉一个现有的 | 正在播放的音效——替换掉最轻的那个,比「偶尔没声音」好 |
| 运行时扩容 | 内存允许时;注意用完要不要缩回去 |
三、和 GC 打架的地方(这段最容易踩)
在有垃圾回收的语言里(Unity / C#),对象池不是不必要了,但有个坑:
池子里「不再使用」的对象不会真的被释放;如果它还持有对别的对象的引用,它会把那些对象一起钉在内存里,GC 永远收不走。
所以池化对象回收时必须清空引用。这是「池化 = 内存泄漏制造机」的常见成因。
放到今天还成立吗?
成立,而且更省事:Unity 2021+ 有内置的 ObjectPool<T> / IObjectPool<T>,不用自己搓;.NET 也有 ArrayPool。要自己写的场景主要剩两种——无 GC 压力要求极致,或者池要跟着游戏状态换容量(不同关卡池大小不同,作者也提到了)。
要打补丁的一点:在现代 GC 引擎里,池化的第一收益已经不是「避免碎片」(引擎的分配器处理得不错),而是「避免分配触发的 GC 峰值」。目标从「不崩」变成了「不掉帧」。
一句话总结:对象池把「随时分配的灵活性」换成了「启动时一次付清」——代价是池满策略要想清楚、引用要记得清。
4-6. 选读
4. Actor, Judge, or Teacher? Understanding Decision Models in Long-Horizon Agents arXiv<2611>2611>.17167 · 2026-11-12
问了个挺妙的问题:一个当行动者很差劲的模型,能不能当好老师? 答案是能。在 ALFWorld 上,六个模型作为 actor 都会被「更容易的子目标」带偏,但作为看过完整轨迹的 judge,它们能正确给「通往关键子目标的那几步」记功——因为事后再看能看见行动时看不到的后果。用这个 judge 当 teacher,Qwen2.5-1.5B 的 GRPO 成功率从 72.8% 提到 82.9%。
5. LiveGeo: Benchmarking Geographic Agents in Continuously Evolving Worlds arXiv<2611>2611>.17267 · 2026-11-12
把 agent 放进会自己演化的环境里(外部世界状态按自己的时间线变化,且保留可验证的历史),要求 agent 主动取信息、校验先前决策依据是否还有效、必要时改计划。结论:前沿模型在静态任务上都不稳定,而静态表现好不代表动态可靠。对做动态世界(游戏)的人来说,这个「证据会过期」的维度值得单独记一笔。
6. CapLite: Prompt-Injection Defense for Small Language Model Agents arXiv<2611>2611>.17115 · 2026-11-12
前面几代防御(CaMeL / Progent / IPIGuard / DRIFT)的共同假设是:让 agent 自己的模型写一个安全工件(程序、权限策略、依赖图、约束列表),然后由代码强制执行。这篇测了 15 个开源模型,这个前提不成立——模型写出来的策略本身就能被绕过,CaMeL 的程序最多 68% 的情况跑不起来。
它的方案换了个思路:策略从工具 schema 推导(不靠模型写)、在任何工具结果被读取之前就提交写调用、且只有当「所有决定影响谁的参数都出现在用户请求里」时才允许写。在 13,935 个被攻击的 AgentDojo 回合里没有一次攻击成功。
值得记的是它的设计哲学:安全边界不能建立在「模型会写出正确的安全策略」这个假设上。
本期筛掉的
| 内容 | 理由 |
|---|---|
| Fabian Giesen《A Trip through the Graphics Pipeline 2011》 | 这本来是上期预告的兑现项。但原站和 Wayback 镜像这周都抓不到全文,我没读过就不推——规矩是我自己定的,先遵守。下期换可核验的镜像或换选题。 |
| Metal Sandbox: Isolated Execution and Command Scheduling for GPU Coding Agents | 四台 Mac mini M4 做命令级调度,吞吐 1.68–2.05×,工程挺扎实。但它是「跑 coding agent 的基础设施」,对游戏客户端/玩法开发零迁移价值。 |
下期方向
- 补上渲染管线基础:找能核验全文的一手材料(候选:Epic/Unity 官方管线文档、某场 GDC 的中文整理、或换成 Arm 的 GPU 架构讲稿深读)
- 帧时间预算怎么拆(谁吃了 16.7 ms)
- 图形学面试深度:光栅化、深度测试、early-Z 到底省了什么
专栏定位:宁缺不凑数。每期最多 3 篇主推 + 4 篇选读;没好东西就写短一点,甚至只更新黑名单。
文章分享
如果这篇文章对你有帮助,欢迎分享给更多人!

