分类器的文艺复兴：从 BERT 时代到 Agent 时代，判别模型回来得比你想的更体面
前两篇写完本地决策模型，一位同龄的读者朋友问了我一个问题，问得我愣了一下。他说：这东西看着眼熟啊。十年前我们在业务系统里就是这样干的——垃圾邮件识别、工单自动分类、评论情感标注、内容审核粗筛，全是 NLP 分类模型，还经常好几个模型串着用，一个管粗分一个管细判，分类结果再决定走哪条处理链。现在大家突然开始推 Laya 这种“决策模型”，难道不就是当年那套判别式模型换了个名字回来了吗？中间这几年生成式大模型火上天，把分类这活儿都说成要被淘汰了，怎么现在又转回来了？
这个问题值得认真回答，因为它问到了当前 AI 应用层一个真实正在发生的摆动。我花了几天时间把论文、产品和市场数据翻了一遍，结论先说：你的直觉大方向是对的——这确实是一次回归，物种都没换。但回归的方式和回归的原因，跟当年的离开都不一样。 Fashion 是轮回，但每一次回来的喇叭裤，面料和剪裁都变了。这篇就把这场轮回拆开讲：什么原封不动地回来了，什么永远变了，以及为什么偏偏是现在。
先确认直觉：物种确实没换
拿 Laya 解剖一下。它的骨架叫 mmBERT，一个多语言 BERT 底座，上面接一个决策头，输出是几个选项的概率分布。这套架构跟 2018 年 Google 发 BERT 论文时的做法，在数学上没有任何新东西：文本进去，向量出来，过一层全连接，softmax 给每个标签打个分。INT8 量化压缩到三百多 MB，量化技术也是 BERT 时代就成熟的。所以说“换皮回归”，在架构层面成立。
学术上这个判断也有人背书。2025 年 11 月 EMNLP 会议上有一篇论文，标题就是一句大实话：《在 LLM 时代，BERT 类双向模型在文本分类上还是更强吗？》。作者拿了六个高难度数据集，把三种路线摆在一起打：BERT 类模型微调、大模型内部状态探测、大模型零样本推理。结果是 BERT 类模型经常赢。而且赢的方式很有规律——论文用探针实验把任务分成两类：模式驱动型任务（垃圾邮件识别、意图分类这种“见多了就认识”的活），BERT 类占优；需要深层语义和世界知识的任务，大模型碾压。这个结论跟我在自己模型上跑 166 道题的体感完全一致：分流、审核这类活，小判别模型够用甚至更好用；一碰到反直觉的知识题，三百兆和两千兆的判别模型一起翻车。
所以第一层答案很干脆：能力本质没变，擅长什么、不擅长什么，跟 BERT 时代一模一样。当年分类器能干的，现在还是它干最合适；当年分类器干不了的，现在的判别式决策模型照样干不了。
变化一：从主角变成器官
真正变了的第一件事，是判别模型在整个系统里的位置。
当年那套 NLP 分类栈，是系统的主角。你做一个客服系统，意图分类器就是系统的中枢神经：用户的每句话先过分类，分类结果直接决定业务走向。分类器的上游是规则引擎或者人工，下游是写死的业务逻辑。整个系统围绕分类器设计。
现在呢？判别模型是 Agent 的器官。上一篇我梳理过小决策模型在 Agent 里的五种挂法：执行前安检的守门员、答案出来后验收的裁判、请求进来时分派的前置路由、帮大模型打草稿的投机助手、还有判断“这题问没问过”的缓存闸。注意这五个位置有个共同点：每一个位置的存在意义，都由大模型定义。守门员是因为大模型执行动作需要安检才存在；裁判是因为大模型的答案需要验收才存在；路由是因为大模型太贵才存在。没有大模型，这五个岗位一个都不需要。
这就是回归的第一层新意：判别模型回来不是回来当主角的，是回来给生成式模型当配套的。斯坦福 2023 年那篇 FrugalGPT 论文是个绝佳标本——让级联系统省下 98% 成本的，不是那个便宜模型，而是一个专门训练的 DistilBERT 裁判。你品品这个组合：判别式 BERT 的新工作，是给自己的巨型生成式后代打分。旧时代的王者给新时代的王者当账房先生，这笔账算下来双方都合算。
变化二：从“每任务一微调”到“指令即接口”
第二件事变了的是使用成本，这个变化比架构之变深刻得多。
BERT 时代的分类器有个铁律：换任务等于换模型。你想识别垃圾邮件，好，标一万条数据，微调一个模型；下周想加个工单分类，好，再标八千条，再微调一个。每个分类器都是任务专属的，能力边界清清楚楚——它在哪批数据上训练的，它就会什么，超出这批数据分布的输入，它要么瞎猜要么沉默。好处是可靠，在你自己的数据上能干到 95 分以上；代价是贵，标注和微调的工程成本让分类器只配得上高价值高流量的场景，长尾小场景根本用不起。
现在的决策模型把这道墙拆了。我给 Laya 出 100 道中文题那次，没有任何微调——换个问题文本它就开考：“这条消息紧急吗”“这是不是钓鱼邮件”“这个需求该排多高优先级”。指令本身成了接口。这是把大模型时代的“零样本”能力，移植回了判别式小模型。想上一个新的分类场景，从“标数据训模型两周”变成“把问题写清楚两分钟”。
但天下没有免费的接口。零样本化付出的是确定性：微调模型知道自己不会什么（不在训练分布里就不吭声），零样本模型不知道自己不会什么（什么题都敢答，还自带一个看起来很自信的置信度）。我那 100 题测出 67 分，还有一批错题的置信度在 0.8 以上——这就是拆墙的代价。所以现在用决策模型，置信度门控成了标配动作：模型自报的把握低于门槛，就把这题转给大模型或人工。这个“判断—门控—升级”的三段式，是当年纯分类栈里没有的新方法论，也是判别模型能在 Agent 里安全上岗的前提。
变化三：对比基准换了，经济学整个重写
第三件事最实际：判别模型贵不贵、值不值，参照系彻底换了。
BERT 时代的比价对象是规则引擎和人工。分类器比规则聪明、比人工便宜，所以赢了那个时代。但当年没人会说分类器“便宜”——标注和 GPU 训练是真金白银，中小团队用不起。
现在的比价对象是按 token 计费的大模型。同样判断一条消息是不是钓鱼，大模型走一圈要几百上千 token，判别小模型一百毫秒、一次前向传播、电费忽略不计。AWS 的 Comprehend 到今天还在卖文本分类服务，一百万次调用收 100 美元，单次万分之一美元——这个价格在当年不算震撼，放在今天“一次大模型调用几厘到几分钱”的行情里，突然显得极具竞争力。2026 年各家都撞上推理成本墙，GPU 账单成了 CTO 的心病，业界开始系统性地把“不需要大模型的判断”从大模型身上剥下来，判别模型的回潮有相当一部分动力来自这张账单。
市场数据也支持这个判断。NLU（自然语言理解）市场的调研机构在 2025、2026 年的报告里仍给出增长预期——这个“老古董市场”从没死过；学界 2024 年出现《LLM 时代小模型的角色》综述，作者之一是法国 INRIA 的研究员，这篇综述到 2026 年 9 月还在更新版本，说明“大小模型怎么分工”是个持续活跃的真问题，不是一波营销。
所以到底是不是轮回
回到朋友的疑问。我的最终答案分两半。
说是轮回的那一半：数学没变，softmax 没变，擅长与不擅长的分界没变。2019 年你写的那个垃圾邮件分类器，跟 2026 年的决策模型，是同一个物种的直系亲属。当年积累的直觉——分类任务要看重准确率也要看误伤率、类别不均衡有多坑、阈值怎么按业务调——全部直接复用，一天都不用重新学。
说不是轮回的那一半：它回来时带着三样新东西——新的位置（给大模型当配套，而不是独立系统）、新的接口（指令即接口，零样本上岗）、新的经济学（参照系从规则引擎换成大模型账单）。这三样合起来，让判别模型从“只能服务头部场景的专项工具”变成了“Agent 时代的基础配件”。旧的喇叭裤回来了，但这次的面料能机洗。
如果你正打算在自己的系统里做技术选型，这个历史视角可以压缩成一张决策卡。判断任务满足这几条，用判别式小模型：模式驱动（垃圾识别、意图粗分、优先级分级这类“见多了就认识”的活）、高频调用（每天成千上万次，延迟和成本敏感）、输出封闭（答案就是几个选项之一）、数据敏感（判断过程不想出境）。反过来，任务需要世界知识、开放语义理解、或者判断标准本身说不清楚，老老实实用大模型。中间地带——任务模式驱动但你没有标注数据——就是零样本决策模型的主场，也是这两年新品扎堆的位置。
技术史里这种“螺旋回归”其实反复发生：汇编被高级语言取代后又以 SIMD 内核的形式回到热点路径；关系数据库被 NoSQL 冲击后又以 NewSQL 的身份收回失地。判别模型这一轮，是同一个剧本的第 N 次上演：被宣判死亡的不是那类模型，而是它在旧架构里的旧岗位。岗位消失的时候模型退场，新架构长出新岗位的时候，它就回来——而且每次回来，都比上一次更嵌进系统的骨头缝里。
这个系列写到这是第三篇。第一篇摸能力边界，第二篇比大小模型，加上这篇讲历史坐标，决策模型这条线算是从“是什么”讲到了“从哪来到哪去”。下一篇回归实测：五十条真实命令的金标准测试，看判别模型当 Agent 守门员到底会不会放行危险命令——数据见。
← 返回博客列表 · 相关阅读：决策模型挂进 Agent 的五种姿势 · 本地决策模型基准实测：66 题配对评测 · 88% 是幻觉：我给本地决策模型出了 100 道中文题