一种只回答"选哪个"、不写一个字的 AI 模型,上线三周估值 75 亿美元;同一周微软、Cloudflare、OpenAI 都推出了自己的版本,价格压到每百万 token 几美分。
9 月 15 日,TypeSafe 发布 Jev。10 月 1 日,Cloudflare 和亚马逊各发了一个同类的开源模型。10 月 6 日,OpenAI 的 Decisions API 开放 beta。10 月 9 日,同一天里发生了三件事:TypeSafe 宣布融资 8.7 亿美元、估值 75 亿美元;微软把 Microsoft-Decision-1 放进 Foundry,标价和 Jev 一分不差;Cloudflare 把 Clef-flash 降到比 Jev 还便宜。
从一家公司的新品,到大厂贴身跟价,用了 24 天。
时间线:9 月 15 日到 10 月 9 日各家决策模型的发布与降价节点
◇ ◇ ◇
这类模型只干一件事
平时用 ChatGPT,你问一句,它回一段话。可很多公司让 AI 干的活,其实用不着一段话:这封客服邮件该转给退款组还是物流组?这条评论要不要删?agent 下一步要执行的命令安不安全?答案是从几个固定选项里挑一个。
以前的做法是让大模型输出一段 JSON,程序再去解析。问题有两个:它要一个字一个字地"写"出答案,慢;它会告诉你该转物流组,可你没法知道它有几成把握。
决策模型把"写"这一步砍掉了。你把选项给它,它直接回每个选项的概率,比如物流组 0.81、退款组 0.19。Jev 的联合创始人、前 OpenAI 研究员 Diogo Almeida 跟 TechCrunch 说过一句:
"We have been super good at human language for four years, but it's not useful for automation because computers speak a different language."(来源:TechCrunch)
意思是,AI 说人话已经很溜了,但程序要的是能直接拿去走分支的东西。
拿 OpenAI 的版本看,题型就三种:
对多数人来说 choice 最常用,工单分流、评论打标签都是它;predicate 适合放在 agent 执行命令之前当安全检查。一次请求可以塞好几道题,共用同一段输入。模型不想答某道题时,会在那个位置返回一个 refusal,别的题照答。请求里有题被拒答,整次请求的输入 token 照样计费,接的时候记得给拒答的题留一条转人工的路。
一封客服邮件同时被问几道题,每道题各自返回概率
◇ ◇ ◇
价格表上,输出那一栏全是零
四家的标价放在一起:
微软的价格和 Jev 精确到小数点后三位都一样,这很难说是巧合。Cloudflare 更直接,博客里拿 Jev 当参照,写明降价后比 Jev 便宜。OpenAI 贵一截,大约是 Jev 的 2.4 倍,换来的是能收图片、有 HIPAA 和欧盟数据驻留这些合规选项。
输出免费,是因为它真的没有输出。模型只做一次"读题"的计算,就把所有选项的分数算出来了。Vercel 文档里有个示例:一句客服投诉加三道题的说明,整个请求 96 个 token,花费 $0.0000096。一百万个这样的请求,不到 10 美元。
速度也是同一个道理。OpenAI 说比普通调用快约 10 倍,DevDay 的报道给的数字是一次判断约 150 毫秒,普通的 Luna 调用约 1.6 秒。Cloudflare 的 Clef-omni 文本判断中位数约 130 毫秒。
微软在发布稿里算过一笔账:一个流程里有 20 个前后依赖的判断,每个多 100 毫秒,整个流程就多 2 秒。agent 一跑就是几十步,每步都要问一句"这样做行不行",省下的时间会一步步叠起来。
同一个判断任务:生成式大模型逐字输出约 1.6 秒,决策模型一次计算约 150 毫秒
◇ ◇ ◇
门槛低到一个周末
跟进得这么快,是因为做一个能用的版本不难。
Cloudflare 在博客里讲了 Clef 的来历:周五晚上决定做,周末训练,周四上线。10 月 9 日发的 Clef-omni 能直接收音视频,底座是阿里的 Qwen3-Omni-30B-A3B,做法是把底座冻住,只在上面训练一些小的适配器。微软的 Decision-1 底座也是 Qwen,用的 Qwen3.5-9B。亚马逊的 Strands Decider 只有 2B,能在本地 CPU 上跑。
几家决策模型的底座关系:微软和 Cloudflare 的版本都建在阿里 Qwen 系列上
Hacker News 上对此的讨论挺冷静。有人说,这本质上是机器学习里早就有的判别式模型,换了个好卖的名字;也有人说,Jev 真正做对的是接口和产品,可 API 很容易抄,任何预训练好的大模型都能照这个思路改。另一位评论者说得更实际:任务够窄、手里又有好数据的话,在笔记本上训一个 BERT 一小时就够,回答起来比往返一趟 Jev 还快,内存不到 1GB。
TypeSafe 自称三分之一的财富 500 强已经在用,aiweekly 转述的公司说法是上线几天就有约 100 万用户。投资人押的大概是先发的客户关系,加上它坚持的那一点:概率是专门校准过的。
也有人站 Jev 这边。一位 HN 用户说,在他们自己的多步推理测试里,Jev 比测过的所有开源决策模型都强,准确率和校准都更好。Cloudflare 自己贴的对比表里,Jev 也在 When2Call 这类判断"该不该调用工具"的测试上领先 Clef 八分多,不过同一张表的 10 项测试里,Jev 只赢了两项。
◇ ◇ ◇
"校准过的概率"要打个问号
几家卖的都是那个概率。0.81 的意思应该是:一百次它说 0.81 的情况里,大约 81 次是对的。只有这样,你才敢写高于 0.9 就自动处理、低于就转人工这种规则。
有一篇独立的预印本专门审计了 Jev 1.13.0,跑了 3,244 次评估、2,372 条文本,其中三个数字,直接关系到你能不能按概率写规则:
- Ⅰ
同一批句子、同一个模型,只是把"是不是正面评价"换成"选正面还是负面",校准误差就差了 0.071 - Ⅱ
四分类新闻题里,最高概率低于 0.93 的那 258 条,模型平均报 0.750,实际只对了 61.2% - Ⅲ
四分类问题里 71.6% 的答案概率正好是 1.00;在 1,500 条样本上只按最高概率划阈值,可选的点只有 53 个,作者也说明加上 confidence 字段能多出一些
好消息是,作者用几百条标注好的样本做一次简单的"温度缩放",大部分偏差就能修掉。准确率方面,在 AG News 新闻分类上,Jev 比没见过这些任务的开源模型高约 5.7 分,比见过这类任务样本的开源模型低 2.3 分;在情感分类上,两者分不出高下。作者还发现,光是改一下选项的描述文字,Jev 领先开源模型的分差就能从 6.93 分变成 9.67 分;换一个开源模型做对照,差距能变动约 8 分,甚至正负反过来。我的读法是,Jev 比免费的通用开源模型准一些,但未必比得过见过同类数据的小模型,而领先多少,很大程度取决于测试的人怎么设计对照。
再看厂商自己。OpenAI 没有公布 Decisions API 的准确率和校准数据,文档里直接建议你用自己应用里标注过的样本去定阈值。微软 Foundry 的目录页写着,不要把 Decision-1 当成就业、信贷、住房、医疗这些事项的唯一决策者。
Jev 1.13.0 独立审计里的两组数字:平均报 0.750 的一批答案实际对 61.2%,71.6% 的答案概率正好是 1.00
◇ ◇ ◇
谁现在值得试
如果你手上有这几类活,我觉得可以花一个下午试试:
- ◆
客服工单和邮件的自动分流 - ◆
内容审核、评论打标签 - ◆
agent 执行每一步之前的"这样做行不行"检查 - ◆
搜索结果、候选项的重排序
最省事的入口是 Vercel 的 AI Gateway,它的 /v1/decisions 端点和 OpenAI 的格式一样,Jev、Liquid d1 这些模型都能接,换个模型 ID 就能横向比较。Cloudflare 的 Clef 也和 Jev 的 API 兼容。
试之前,从真实数据里挑两三百条,人工标好正确答案,特别是那种一封邮件里提了好几个问题、信息不够判断的。拿这批样本去跑,看准确率,也看你设的阈值会把多少比例的请求扔给人工。一个看着很准、但把一半请求都转人工的方案,省不了多少事。上线以后要是改了问题的措辞或选项描述,这批样本要重新跑一遍,审计里那 0.071 的偏差就是换问法换出来的。
上线前的验证流程:用标注好的样本跑模型定阈值,再分成自动处理和转人工两路
如果你的任务只有一两种、数据也攒够了,那位 HN 用户说的自训小模型依然是更便宜的路。决策模型省掉的是从攒数据到部署的那一整套,适合分类任务多、又没人专门维护分类器的团队。
价格还在往下走。Clef-flash 上线第 9 天就从 9 美分降到 3.8 美分,降了一半多;微软说之后还会把 Decision-1 搬到 OpenRouter,并换上自家 MAI 和 OpenAI 的底座。所以现在接的话,我会把模型 ID 写成配置项,Vercel 的网关和 Cloudflare 都做了兼容接口,哪家再降价,改一行就能换过去。