今天选择两篇 2026 年 11 月 12 日首次公开的原创研究,一篇讨论长期运行 Agent 如何管理不断增长的工具记录,一篇讨论 Agent 使用合法工具时为什么仍可能偏离受托目的。二者并不都是直接的 Coding Agent 代码生成研究,而是关注 Coding Agent、自动化工作流和 Software Factory 进入长期自治阶段时更基础的运行时问题。

共同主题是:Agent 要长期稳定工作,必须既能找回自己依赖过的事实,也能区分“工具允许执行”与“任务应该执行”。 两篇均为预印本,论文中测量的提升只适用于各自给定的模型、任务、数据和安全假设,不等于生产系统整体可靠性已经得到证明。

1. Folio: Recoverable Multi-Resolution Context Folding for Long-Horizon Language Agents

  • 作者/来源: Yubo Ruan、Tao Peng、Jiao Zhang、Chuanguo Ma 等 / 北京邮电大学、百度;arXiv 研究预印本
  • 首次提交: 2026-11-12 10:59 UTC(北京时间 2026-11-12 18:59)
  • arXiv 原文: https://arxiv.org/abs/2611.16627
  • AlphaXiv: https://www.alphaxiv.org/abs/2611.16627
  • 相关技术: Context Engineering、Agent Runtime、Prompt Caching、Context Folding、Recoverable Evidence、Long-horizon Evaluation

推荐理由: 许多 Agent Harness 通过再调用模型生成摘要,来压缩长会话历史;这种做法不只耗费时间和 Token,还可能把关键工具输出压成不可追溯的断言。Folio 提出另一条路线:执行时就建立分层、可寻址的历史记录,压缩时只选择展示哪个视图,必要时再依据稳定句柄读取原始证据。它把上下文压缩从“重新讲述历史”改为有明确恢复契约的运行时状态管理,并纳入缓存成本。

3 条核心要点:

  1. 运行时提前建立三层历史,不在折叠时重新生成整份摘要。 L1 是模型在普通回复中生成的简短轮次笔记,L2 是 Harness 为每次工具调用与回复生成的事件清单,L3 是实际捕获的源记录。一次调用共享稳定句柄,例如 t3.12;当上下文过长,运行时让旧轮次展示较粗粒度视图,同时保留可定位的 L2/L3。scan 能读取片段,ctx 能针对存储文件的全文计算,dossier 保存需要继续携带的结论。可恢复指存储中被捕获的记录仍可被访问,不代表笔记准确或 Agent 一定检索、理解正确。
  2. 压缩时机与压缩后的保留量共同纳入成本决策。 Folio 不仅判断“何时折叠”,还显式估计折叠后上下文的落点:稳定前缀、保留的历史预算及 dossier。折叠复用已记录视图,不需要额外模型摘要调用。论文报告折叠耗时中位数约 0.6 秒,而同运行时的模型摘要压缩约 101 秒;成本则基于其使用的缓存读写价格比折算,不能无条件等同其他 API 的实际账单。
  3. 75 项长周期评测有明显收益,但证据覆盖范围有限。 作者把 LOCA-bench 的 75 个任务组成五条连续任务链,所有系统均使用 DeepSeek-V4-Pro。Folio 完成 66/75,同运行时的模型摘要基线为 54/75;Claude Code 为 59、Codex 为 57、SoL-Pi 为 49。与同运行时基线相比,规范化成本约为其 1/2.4,平均工作时间也更短;但与 Claude Code、Codex 的配对正确率差异并非都达到统计显著。评测仅覆盖一套基准、一个模型及有限重复,不能直接断言所有 Coding Agent 都能得到相同改进。

核心启示: 运行时记录的原始证据应有稳定身份,而摘要只是其中一种展示形式。可以把思路理解为:Event Log → Multi-resolution Views → Cost-aware Fold → Handle-based Recovery。

2. Intent-Aware Protection for AI Agents

  • 作者/来源: Fady Copty、Neta Haiby、Max Braitmaiere、Julia Korsunsky / Microsoft;arXiv 研究预印本
  • 首次提交: 2026-11-12 00:17 UTC(北京时间 2026-11-12 08:17)
  • arXiv 原文: https://arxiv.org/abs/2611.16122
  • AlphaXiv: https://www.alphaxiv.org/abs/2611.16122
  • 相关技术: Agent Security、Intent Profile、Role Boundary、Intent Drift、Prompt Injection Defense、AgentDojo、Runtime Auditing

推荐理由: 大多数 Agent 安全设计从恶意 Prompt、危险命令、越权调用或敏感信息泄露出发,但 Agent 也可能在拥有工具权限、没有明显攻击语句的情况下,执行不符合其职责或用户目标的操作。本文把“部署这个 Agent 究竟为了什么”显式表示为安全判断条件,使安全机制不只检查动作是否被授权,还能检查动作是否符合受托的任务边界。这对持续运行的自动化任务、跨角色多代理协作和 Software Factory 很关键。

3 条核心要点:

  1. 明确区分授权能力与部署目的,并定义 Intent Drift。 Intent Profile 从组织规则、角色职责和开发者配置中提取 Agent 的使命、允许的工作流、数据边界、工具约束与禁止行为;它是安全决策的参照,不是新的授权来源。论文区分 Benign、Out-of-Scope、Abusive、Malicious 四类请求,强调一个请求试图诱导越界,不代表 Agent 已实际漂移;Intent Drift 指最终行为偏离受托边界。
  2. 将意图约束接入执行前、执行后及输入环节。 作者研究四种机制:执行前分类、执行后检查、输入与意图对齐、系统提示加固。其中执行后检测可以依据具体工具轨迹和环境状态,核查一个看起来符合权限的动作是否仍服务于原始目的;它补充而不是替代沙箱、细粒度授权、测试和人工批准。Intent Profile 本身的质量、变更控制与信任来源也必须管理,否则安全检查会继承错误的职责描述。
  3. 意图信息显著改善论文基准上的识别效果,但不能当作生产拦截率。 在覆盖 35 个 Agent、887 个有效样例的四分类评测中,纳入 Intent Profile 后 macro-F1 从 45% 提升到 79%,其中 Out-of-Scope F1 从 8% 到 76%。在 超过 10,000 条 AgentDojo 执行轨迹上,意图感知的执行后检测 AUROC 为 0.949,对照 AlignmentCheck 为 0.909;输入对齐的保护成功率也比 DataFilter 高 7 个百分点。这些是特定数据与评价指标,并非“拦住了 94.9% 的攻击”或所有真实任务中的误报率。

核心启示: Permission Check 只能回答“是否允许调用”,Intent Check 还要回答“为什么要为当前使命调用”。推荐将 Intent Profile 版本化,并让执行日志、策略检查和审批共同约束有副作用的任务。

今日思考

两篇论文处理的是长期 Agent 的不同状态边界。Folio 守住证据来源,Intent-Aware Security 守住工作目的。 前者避免历史证据在压缩中丢失,后者防止代理把当前拥有的工具能力误认为任何操作都合理;两者都要求在模型上下文之外保留可以复核的结构。

对长期运转的软件工厂而言,一条值得检验的流程是:

User/Org Intent → Versioned Intent Profile → Tool Execution + Immutable Evidence Handles → Recoverable Context → Policy/Intent Check → Independent CI/Review。

值得追问:当多个 Agent 共享 Issue、PR、状态文件和工具时,怎样在任务转交后保留原始意图与证据引用?当用户修改目标时,如何明确废止旧意图,而不把恢复的历史视作现行指令?本文讨论的是可以用于设计实验的机制,不是已验证的通用生产方案。

证据边界: 两篇均于 2026-11-12 首次提交 arXiv。Folio 的数值来自作者在单一基准的实验;Intent-Aware 的数值来自模拟/评测数据与 AgentDojo 执行轨迹。原始论文及 AlphaXiv 对应论文内容已交叉核对;这些结果尚不能直接外推为任意企业 Agent 的真实安全或可靠性收益。