Tomer Tunguz 谈 AI 优化 if-then 判断：专用决策器把分类成本降近百倍

在杂货店后面干活有它自己的一套规则：如果这食物是香蕉，就送到农产品区；如果是曲奇饼干，就放到零食货架；如果是孜然，就把它和香料摆在一起。

但如果那批香蕉已经烂了、曲奇饼干碎了、孜然也结块了呢？这些规则与例外支配着每一家杂货店和社区小店。起初它们是僵化的；随着时间推移，人们会发现更多的例外：那是大蕉吗？迪拜巧克力：算甜点还是烘焙原料？

编码，字面意思就是把这些规则与例外写进软件里。在 AI 出现之前，这些程序是僵化的。AI 负责处理例外情况：一次图像搜索就能把这种不熟悉的水果识别为 Musa paradisiaca，香蕉的近亲。 1

但我们并不需要世界上最聪明的模型来处理“如果是大蕉就归入农产品区”这种逻辑。

最新一波 AI 是一个强大的 if-then 决策器。Jev 2 和 SemIf 3 能在数百毫秒内回答这类问题，相比传统 AI 成本降低了 99%。 4 它们简化了现有模型：只运行一次注意力计算，然后根据少量输出 token 确定每个允许答案的概率。 5

我在自己的代码里寻找那些 if-then 语句，那些我交给 AI 处理的语句。几分钟之内，我就替换掉了其中一个智能体中大约四分之一的这类调用。在 98 条经过人工核验的生产环境邮件线程上，这些专用判定器几乎将生产模型的分类准确率翻了一倍，从 47% 跃升至 80% 以上。 6

软件由各种原语构成：if-then 语句就是其中之一。通过优化这单一原语，我们看到了近两个数量级的成本降低，同时准确率还更高。

这些进展引出了一个问题：还有哪些编程原语会从同样的专门化中受益。它们也凸显了 AI 经济学的分化：用于探索的前沿模型与用于生产的优化模型。我们用最大的前沿模型来训练新模型，用能力最强的模型来设计系统架构。但一旦系统被工程化并经过加固，在工作流中运行它数千次或数百万次，则受益于更窄口径的 AI。

如果这是众多为生产而专门化的原语中的第一个，那么 harness 即将捕获更多的利润空间。 7