每周技术读物

2920 字
15 分钟
每周技术读物

PS: 这期本来要兑现上期预告的「渲染管线各阶段在搬什么数据」——没兑现,原因写在文末「本期没做到的」里,是我自己定的规矩卡住了自己。不糊弄,顺延。

补上来的是一组更有用的东西:一篇 Agent 地基(RAG 原论文)、一篇本周新论文(它独立复现了第一期的结论)、一篇 C++ 内存管理的经典章节。

本期速览#

#内容领域评级首发阅读
1Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksAI / 检索🔥🔥202060 min(读摘要+方法+实验结论)
2Discovering Effective Agent Memory Designs through Program EvolutionAgent / 记忆🔥🔥2026-1125 min
3Object Pool(Game Programming Patterns)C++ / 内存🔥🔥201425 min
4Actor, Judge, or Teacher?Agent / 训练⚪2026-1112 min
5LiveGeo:持续演化世界里的地理 AgentAgent / 评测⚪2026-1112 min
6CapLite:不要相信 Agent 自己写的安全策略Agent / 安全⚪2026-1115 min

1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks#

出处#

  • 原文标题:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
  • 作者:Patrick Lewis、Ethan Perez、Aleksandra Piktus、Fabio Petroni、Vladimir Karpukhin、Naman Goyal、Heinrich Küttler、Mike Lewis、Wen-tau Yih、Tim Rocktäschel、Sebastian Riedel、Douwe Kiela(Facebook AI Research 等)
  • 链接:arXiv<2005>.11401
  • 首发:2020-05-22(v1),NeurIPS 2020 接收
  • 类型:同行评审会议论文(一手)
  • 语言:英文

为什么值得读#

前面几期推了「朴素 RAG 吊打复杂 agentic memory」「程序演化搜出的记忆设计」——都是应用层面的结论。这期回到源头,看这件事最初是怎么被想出来的。

原论文要解决的问题很朴素:预训练语言模型把知识存在参数里,这带来三个毛病——知识不好精确定位、不好溯源、想更新就得重训。于是它给模型接了一个显式的、非参数的记忆。

架构(记住这组词就够)#

  • parametric memory:预训练的 seq2seq 模型(BART)
  • non-parametric memory:Wikipedia 的稠密向量索引,用预训练的神经检索器(DPR)访问
  • 两种组合方式:
    • RAG-Sequence:整个输出序列都用同一批检索到的段落
    • RAG-Token:每生成一个 token 都可以换一批段落

其中 RAG-Token 那版更灵活,本质上是把「查资料」这个动作下放到了 token 粒度。

结论#

在三个开放域 QA 任务上拿到 SOTA,超过纯参数化 seq2seq 和任务专用的 retrieve-and-extract 架构;在生成任务上,产出比纯参数模型更具体、更多样、更符合事实。

放到今天还成立吗?#

核心判断成立,工程形态基本被替换了。

  • 仍然成立的:把知识挪到「可检索的显式索引」上,换来可更新、可溯源——这正是今天所有人做 RAG 的原因,也是它比「往参数里灌知识」更划算的根本理由
  • 已经被替换的:原论文是端到端联合训练检索器与生成器(检索器用生成 loss 的梯度更新)。生产上现在几乎没人这么干——大家用现成的 embedding 模型 + 独立训练的 reranker,甚至不动模型只改提示词。联合训练的复杂度换不来那点收益
  • 新增的问题:原论文假设「检索到的段落是对的」。今天真正难的是检索质量和证据利用率(这恰好是第一期那篇论文指出的方向)

一句话总结:RAG 的贡献不是「检索+生成」这个组合姿势,而是把知识从权重里搬到索引里——从此知识可以更新、可以引用出处、可以换。


2. Discovering Effective Agent Memory Designs through Program Evolution#

出处#

  • 论文:arXiv<2611>.17068
  • 作者:Xinheng Ding、Seyyed Saeid Cheshmi、Ziyang Zhang、Tairan Chen、Wenya Xie、Yu Hou、Rui Zhang、Zirui Liu
  • 首发:2026-11-12
  • 类型:arXiv 预印本(附代码)
  • 语言:英文

为什么值得读#

因为它用搜索代替猜:不是在手工设计记忆结构,而是让程序演化去搜「整个记忆程序」长什么样。

做法上有个关键设计:把记忆系统抽象成一套标准生命周期接口,然后跑「诊断 → 提议」的迭代循环,从极小的种子程序逐步演化出完整记忆方案。

结果#

在 LoCoMo 和 LongMemEval 上,比手工设计的基线绝对精度最高 +12%,而服务成本只要 35%;换 backbone、换 benchmark 也能迁移。

最值得记的两条结论#

分析 + 消融之后,它找出两条反复出现、且被验证有效的设计模式:

  1. 保留原始对话作为可检索的证据——因为抽取式记忆会丢掉细节
  2. 按查询意图组合检索到的证据——光检索对不够,要按问题类型组织

第 1 条正是第一期那篇《Naive RAG Is Stronger Than We Thought》的核心结论。两篇用完全不同的方法(一篇做对照实验,一篇做程序搜索)撞到同一个结论——这种独立复现比单篇论文有说服力得多。

而且第 2 条给了前一篇没有的补充:原始证据要保留,但不能只是塞进去,得按意图组合。作者把「组合模块」移植进五个现有记忆系统,全部都有提升。

另一条容易被忽略的发现#

「搜索目标决定算力花在哪:把服务成本和精度一起优化时,算力会从构建期(用 LLM 做记忆构建)挪到查询期(选择性处理)。」

这条对工程很实用:记忆构建期烧的钱,往往可以在查询期用更聪明的方式省回来。

一句话总结:记忆设计别靠直觉,让它去搜;搜出来的结论之一是「原始证据别扔」,之二是「检索完还得按意图组装」。


3. Object Pool(Game Programming Patterns)#

出处#

  • 原文标题:Object Pool(Optimization Patterns 章)
  • 作者:Robert Nystrom
  • 链接:gameprogrammingpatterns.com/object-pool.html
  • 首发:2014(全书免费在线,版权标注 2009–2021)
  • 类型:行业经典书籍章节(一手)
  • 语言:英文

为什么值得读#

上上期推了同一本书的「Data Locality」,这期把它的姊妹篇补上:数据怎么摆解决了「读得慢」,对象池解决的是「分配得慢 + 碎得没法用」。

作者先从碎片化讲起:空闲空间被切成很多小块,总量也许够,但最大的连续块不够就分配失败。主机平台的「泡机测试」(soak test,演示模式连跑好几天)挂掉,很多时候不是偶发 bug,是缓慢增长的内存碎片或泄漏。

三个技术要点#

一、free list:O(1) 的创建

朴素实现在数组里线性扫「谁没在用」,是 O(n)。正解是把空闲对象自己的内存拿来存链表——用 union 让「活着时的状态」和「空闲时的 next 指针」共用同一块空间:

union {
struct { double x, y, xVel, yVel; } live; // 活着时的数据
Particle* next; // 空闲时的链表指针
} state_;

于是创建就是「取链表头」,删除就是「塞回链表头」,不需要额外一个指针数组。作者那句「妈妈咪呀 O(1)」写得很真诚。

二、池满了怎么办(四种策略,按场景选)

策略适用
提前防止(调大池子)重要对象(敌人、Boss)——宁可多占内存也不能缺
干脆不创建粒子特效——满屏已经很闪了,少一簇没人发现
顶掉一个现有的正在播放的音效——替换掉最轻的那个,比「偶尔没声音」好
运行时扩容内存允许时;注意用完要不要缩回去

三、和 GC 打架的地方(这段最容易踩)

在有垃圾回收的语言里(Unity / C#),对象池不是不必要了,但有个坑:

池子里「不再使用」的对象不会真的被释放;如果它还持有对别的对象的引用,它会把那些对象一起钉在内存里,GC 永远收不走。

所以池化对象回收时必须清空引用。这是「池化 = 内存泄漏制造机」的常见成因。

放到今天还成立吗?#

成立,而且更省事:Unity 2021+ 有内置的 ObjectPool<T> / IObjectPool<T>,不用自己搓;.NET 也有 ArrayPool。要自己写的场景主要剩两种——无 GC 压力要求极致,或者池要跟着游戏状态换容量(不同关卡池大小不同,作者也提到了)。

要打补丁的一点:在现代 GC 引擎里,池化的第一收益已经不是「避免碎片」(引擎的分配器处理得不错),而是「避免分配触发的 GC 峰值」。目标从「不崩」变成了「不掉帧」。

一句话总结:对象池把「随时分配的灵活性」换成了「启动时一次付清」——代价是池满策略要想清楚、引用要记得清。


4-6. 选读#

4. Actor, Judge, or Teacher? Understanding Decision Models in Long-Horizon Agents arXiv<2611>.17167 · 2026-11-12

问了个挺妙的问题:一个当行动者很差劲的模型,能不能当好老师? 答案是能。在 ALFWorld 上,六个模型作为 actor 都会被「更容易的子目标」带偏,但作为看过完整轨迹的 judge,它们能正确给「通往关键子目标的那几步」记功——因为事后再看能看见行动时看不到的后果。用这个 judge 当 teacher,Qwen2.5-1.5B 的 GRPO 成功率从 72.8% 提到 82.9%。

5. LiveGeo: Benchmarking Geographic Agents in Continuously Evolving Worlds arXiv<2611>.17267 · 2026-11-12

把 agent 放进会自己演化的环境里(外部世界状态按自己的时间线变化,且保留可验证的历史),要求 agent 主动取信息、校验先前决策依据是否还有效、必要时改计划。结论:前沿模型在静态任务上都不稳定,而静态表现好不代表动态可靠。对做动态世界(游戏)的人来说,这个「证据会过期」的维度值得单独记一笔。

6. CapLite: Prompt-Injection Defense for Small Language Model Agents arXiv<2611>.17115 · 2026-11-12

前面几代防御(CaMeL / Progent / IPIGuard / DRIFT)的共同假设是:让 agent 自己的模型写一个安全工件(程序、权限策略、依赖图、约束列表),然后由代码强制执行。这篇测了 15 个开源模型,这个前提不成立——模型写出来的策略本身就能被绕过,CaMeL 的程序最多 68% 的情况跑不起来。

它的方案换了个思路:策略从工具 schema 推导(不靠模型写)、在任何工具结果被读取之前就提交写调用、且只有当「所有决定影响谁的参数都出现在用户请求里」时才允许写。在 13,935 个被攻击的 AgentDojo 回合里没有一次攻击成功。

值得记的是它的设计哲学:安全边界不能建立在「模型会写出正确的安全策略」这个假设上。


本期筛掉的#

内容理由
Fabian Giesen《A Trip through the Graphics Pipeline 2011》这本来是上期预告的兑现项。但原站和 Wayback 镜像这周都抓不到全文,我没读过就不推——规矩是我自己定的,先遵守。下期换可核验的镜像或换选题。
Metal Sandbox: Isolated Execution and Command Scheduling for GPU Coding Agents四台 Mac mini M4 做命令级调度,吞吐 1.68–2.05×,工程挺扎实。但它是「跑 coding agent 的基础设施」,对游戏客户端/玩法开发零迁移价值。

下期方向#

  • 补上渲染管线基础:找能核验全文的一手材料(候选:Epic/Unity 官方管线文档、某场 GDC 的中文整理、或换成 Arm 的 GPU 架构讲稿深读)
  • 帧时间预算怎么拆(谁吃了 16.7 ms)
  • 图形学面试深度:光栅化、深度测试、early-Z 到底省了什么

专栏定位:宁缺不凑数。每期最多 3 篇主推 + 4 篇选读;没好东西就写短一点,甚至只更新黑名单。

文章分享

如果这篇文章对你有帮助,欢迎分享给更多人!

每周技术读物
https://rechenz.github.io/post/每周技术读物-04/
作者
热尘
发布于
2026-11-15
许可协议
CC BY-NC-SA 4.0

评论区

Profile Image of the Author
热尘
游戏开发者 · AI 爱好者
公告
欢迎来到我的博客!这是一则示例公告。
分类
标签
站点统计
文章
38
分类
5
标签
12
总字数
46,029
运行时长
0 天
最后活动
0 天前
站点信息
构建平台
GitHub Actions
博客版本
Firefly v6.16.8
文章许可
CC BY-NC-SA 4.0
文章目录