017 · 人不写 CUDA,就等于 Agent 自主优化吗?
Agentic Kernel Optimization 用多 Agent、性能分析和人工搜索纠偏,在 B200 上为三类 FlashInfer-Bench workload 生成高性能 CUDA kernel;论文证明了代码可由 Agent 完成,却也留下了系统自主性、基线口径与验证边界的问题。
Agentic Kernel Optimization 用多 Agent、性能分析和人工搜索纠偏,在 B200 上为三类 FlashInfer-Bench workload 生成高性能 CUDA kernel;论文证明了代码可由 Agent 完成,却也留下了系统自主性、基线口径与验证边界的问题。
KernelOPT 尊重 Inductor 已做出的库调用分派,只搜索生成的 Triton 子 kernel,并用四级验证决定替换或回退;250 个 KernelBench 问题上的整体加速来自少数显著收益与大量基线保留的组合,不能等同于每个任务都被优化。
Argus 以稳定的语义区域为共同坐标,规划彼此隔离的多次 GPU 测量,并把直接观测、跨视图归因和变体推导的证据明确区分;实验显示更细粒度的反馈能改善多种 kernel 优化 Agent,但跨运行归因仍依赖区域身份与执行可比性的假设。
Ave 把 GPU kernel 优化必须保持的数据关系写成编译期不变量,再用静态分析与具体反例指导 Agent 修复;消融实验支持这种结构化反馈,但其保证范围取决于人预先表达了哪些不变量。
GPU Forecasters 让 LLM 预测候选 kernel 相对参考实现的性能分布,再把有限的真实 GPU 测量留给更值得验证的候选;实验说明排序信号有用,也显示校准、分布变化与总成本仍是关键边界。