小模型 + 自有语料:9B 模型用 98% 更低的成本,换来接近前沿的分数

2026.09.16来源 · 行业观察

HR 与薪酬平台 Deel 在 10 月 21 日发布两个自研模型。其中一个 9B 开源权重模型,在自家 601 题基准上拿到 70 分,前沿模型 Claude Opus 5.5 是 74 分;但中位响应 7.7 秒对 14.8 至 28.4 秒,成本声称低约 98%。

分差很小,账差很大

这个案例的价值不在「小而强」的口号,而在口径:同一个业务基准、同一批题,分数差 4 分,成本和时延差一个量级。对高频、低风险的问答型任务,这 4 分往往不值得付十倍价钱。

语料从哪来

K1 用约 12 亿 token 的素材做适配,素材来自 2000 多名 Deel 内部专家;P1 是薪酬模型,基于 Nemotron、由 AI21 Labs 训练。换句话说,壁垒是「别人拿不到的业务语料」,不是模型结构。这也解释了为什么同样的开源底座,不同公司做出来效果差很远。

什么时候还不行

长程智能体、高风险决策、受监管场景,前沿模型与中游模型的差距是实的。合理的做法是分层:小模型跑「面」——量大、容错高、要快要便宜;前沿模型兜「点」——量小、错一次代价大。

对企业意味着什么

  • 先盘自家有多少可用的高质量语料,这直接决定能不能走这条路。
  • 把任务分层,别用一套模型打所有场景。
  • 自建不等于自研:微调加私有化部署,已经能覆盖大多数内部场景。
  • 成本按「单次任务」算,不要按 token 单价算——时延和返工也是成本。

想聊聊文中的方向?

我们从产品设计到上线交付都在做,可以先聊聊你的实际场景。

深圳小助手科技有限公司 · 0755-82494862 · 13760424861

联系我们

← 返回新闻动态