核心问题:当 AI 从提出电路和证明候选,进一步走向修改验证算法时,什么才能成为独立于搜索过程的可信依据?

论文卡片

Wenji Fang、Yuchao Wu、Jing Wang、Zhiyao Xie,香港科技大学。论文 Agentic AI Meets Formal Verification in the Era of Agentic Hardware Development,arXiv v1 发布于 2026-11-10。

定位:综述与研究展望,原文标注 ASPDAC ’27 Invited Paper。它组织已有方法与作者团队的研究结果,并非一套新系统的统一对照实验。本导读依据 v1 全文,聚焦其中“证明搜索”和“推理引擎演化”的区别。

arXiv · 一手全文 · PDF · alphaXiv

简短导读:同样是 AI 帮忙,改动的位置不同

论文把 AI 参与硬件形式化方法分成三层:规格、证明构造、推理引擎。这不是三个程度逐渐增强的模型,而是三个不同的研究对象。

规格决定要证明什么;证明构造寻找不变量、辅助引理或分解方式;推理引擎则决定底层搜索如何进行。后者可以包括 SAT 求解器的分支与重启启发式,也可以包括 IC3/PDR 模型检查中的归纳泛化、证明义务调度和子句传播。

关键区别在于,提出一个候选引理,和修改判断候选是否成立的程序,并不承担相同的可信性责任。候选可以很大胆,只要最终由可靠机制拒绝错误结果;修改验证算法却可能同时改变“产生答案”与“检查答案”的过程。

论文在 §2.3.2 介绍的 IC3-Evolve 提供了一个具体切口:LLM 离线演化模型检查启发式,候选结果通过独立检查的证明证书与可回放反例验证。搜索后得到的独立模型检查器无需在运行时继续调用 LLM。这里,“离线”回答成本发生在何时,“独立检查”才回答结果凭什么可信;二者不能互相替代。

论证与证据:快一点、证明出来、证明对了,是不同问题

这是一篇综述,不能把不同系统的数据拼成一个共同排行榜。它对三层工作的论证力度也不同:

AI 的作用原文描述的反馈或检查仍然留下的边界
提出规格与断言语法、形式可证性、覆盖率与变异测试可证明不等于完整表达设计意图
为具体任务提出证明线索模型检查器验证候选提示,或证明助手检查证明提示可能无用;证明只覆盖所表达的命题
离线修改求解启发式基准评估、独立证书检查、反例回放已测实例上的有效不等于所有未来实例都可靠或更快

§2.2 区分了预先生成语义提示和根据证明状态交互引导搜索。前者限制在线推理开销,后者有机会适应当前困境;作者将提示质量、搜索效率与模型推理成本之间的平衡列为挑战。这里不能仅凭证明轮数减少,就推出总时间或总成本降低。

§2.3 进一步讨论可复用算法的发现。相较于替某一电路寻找证明,修改启发式希望让后续不同任务也受益。但算法改进的跨设计泛化与某次验证结论的正确性是两种独立主张:前者需要跨任务的性能证据,后者需要有效的证明或反例证据。

原文对 IC3-Evolve 的这一小节主要描述机制,没有展开完整的基线配置、样本划分和逐项性能表。因此,本导读不据此给出加速倍数,也不宣称它全面优于传统模型检查器。论文其他章节转述的生成成功率、证明任务完成数和 PPA 改善,来自各自研究,不能补成这项方法缺失的统一对照。

作者在 §4 提出的“proof-native”硬件开发,是让形式化推理贯穿生成、调试和优化的研究愿景。这篇综述展示了组成部分与代表性进展,没有证明任意设计、任意代理修改都已经能维持端到端正确性。

重点阅读章节

  • §2.2 与 §2.3: 对比“给一个证明任务提供线索”与“改变可复用算法”,关注究竟修改了什么。
  • §2.3.2: 留意独立证书检查、反例回放和离线演化各自解决的问题。
  • §2.1、图 4 与 §4: 回看规格覆盖范围和证明深度这两个维度,防止把检查结果的可靠性扩大为需求本身的完整性。

思想启发

以下是导读者的延伸理解,并非原文新增的实验结论。

“谁检查检查者”不必意味着每层都再堆一个更强的 AI。另一条思路是让复杂搜索输出较容易核验的证据,把寻找答案的自由度与接受答案的条件分开。搜索可以不断演化,接受结论的依据则应足够明确。

不过,独立性并不由“另开一个进程”自动产生。若证书检查器和搜索器共享有缺陷的语义翻译,二者仍可能一致接受错误结论。独立证据缩小了需要信任的范围,却不会消除规格、建模与检查机制的全部假设。

同样,可回放的反例证明存在一条违反性质的执行,不保证系统找得到所有反例;一个检查通过的证书支持某次结论,也不自动证明演化后的求解器在所有输入上都正确。把一次结果的保证与整个工具的保证分开,是阅读这类研究时很重要的概念边界。

三个开放性思考问题

1. 搜索器和证书检查器怎样才算独立,独立又能解决到哪一层?

参考思路

算法与实现不同可以减少共享错误,但若二者接收同一份错误翻译的模型,检查仍可能忠实证明了错误对象。独立性可以存在于代码、算法、表示或规格来源等不同层面,不能只用“两个工具”概括。它的价值要对应具体防范的错误。

2. 候选引理可以随意提出,候选求解器修改也能同样随意吗?

参考思路

引理若始终作为待证命题,失败通常只损失搜索时间;若被直接当成假设,就可能排除真实行为。求解器修改也取决于边界:仅改变搜索顺序,与改变推理规则或删除检查,并不等价。问题不在于候选是否来自 AI,而在于它是否有机会绕过最终接受条件。

3. 每个被接受的答案都有有效证据,是否已经足以称整个验证系统可靠?

参考思路

这可以强力支持已接受答案的正确性,却未回答超时、拒绝给出答案、遗漏任务、资源耗尽或规格不完整等问题。可靠性若包含可用性和覆盖范围,就比结论健全性更宽。不同研究可能合理地选择不同目标,但名称相同并不代表保证相同。