阅读,与值得关注的内容Readance

不聊天、只决策:Jev 模型凭什么 36 小时涌入 14 万开发者

不聊天、只决策:Jev 模型凭什么 36 小时涌入 14 万开发者

昨天刷推特,满屏都在聊一个词:Jev。

我一开始以为是哪个欧洲小国的政变缩写,点进去才发现,是一个 AI 模型。

而且是那种「一出生就带着叛逆」的模型——不聊天,不写代码,只做判断。Yes or No,选 A 还是 B,打几分,是真的还是假的。

就这?

就这。但这东西 36 小时涌入了 14 万开发者,两天内冒出 6 个克隆版本。

我花了一个下午扒完了所有资料,这篇聊聊它到底是什么,为什么火,以及它到底想颠覆什么。

一个 ChatGPT 发明人「叛逃」后做的东西

Jev 背后的公司叫 TypeSafe AI,创始人 Diogo Almeida 是前 OpenAI 核心研究员,ChatGPT 和 GPT-4 论文都有他的名字。

他在 OpenAI 干了很久,然后离开,花两年时间搞了一个全新架构的模型。

注意,不是「微调」,不是「蒸馏」,是从底层换了一套完全不同的 backbone。

这个模型的定位也很反直觉:它不是来跟 GPT 聊天的,它是来做决策的。

TypeSafe 给它起了个品类名叫「System One 模型」,灵感来自 Daniel Kahneman 那本《思考,快与慢》。系统 1 是快思考,直觉式的,不需要深思熟虑就能给出判断。Jev 干的就是这个活。

System One 模型定位:不生成文本,只做分类、选择、评分、判断
System One 模型定位:不生成文本,只做分类、选择、评分、判断

到底有多快多便宜

直接上数字。

跟传统 LLM 比,Jev 的端到端延迟是 70 到 500 毫秒。传统 LLM 做同样的判断任务,得逐 token 往外吐,Jev 直接给你一个结构化答案:分类结果 + 置信概率,JSON 格式,完事。

速度快了 193.6 倍,成本降了 444.6 倍。

你没看错,不是 193%,是 193.6 倍。

而且它宣布输出 Token 永久免费,注册就送 5 美元额度,大约 1.2 亿个 token。这个赠送量,基本上够一个中等规模的开发者玩到天荒地老。

速度快 193 倍、成本低 444 倍:Jev vs 传统 LLM 对比
速度快 193 倍、成本低 444 倍:Jev vs 传统 LLM 对比

它到底能干嘛

你可能会想,一个只能做 yes/no 判断的模型,有什么用?

这个问题问得好,因为你可能没意识到,你的 AI 工作流里有多少「判断型任务」在用「生成型模型」做。

举个例子。你有一个 Agent 管线,用户发来一封邮件,你得先判断它是咨询、投诉还是垃圾邮件。这个任务需要写一篇文章吗?不需要。但你现在用的是 GPT-4o,它得先理解你的 prompt,再逐 token 生成一个回复,最后你还得用正则解析它的回答。

用 Jev 做这件事,直接丢进去,70 毫秒后你拿到一个 JSON:{"category": "complaint", "confidence": 0.94}

社区里已经在玩的场景包括:

Agent 路由和工具选择,让 Jev 判断当前任务该调用哪个工具,比让 GPT-4o 自己决定便宜几百倍。

邮件分类和优先级排序,不用写复杂的 prompt 工程了,一个 API 调用搞定。

社交媒体内容审核,这条内容该不该删,是广告还是真实分享,Jev 毫秒级出结果。

实时交易决策,量化团队已经在用它做风控信号的初步筛选。

给你看个最基础的调用。我用 Python 做了个邮件分类的测试:


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
from openai import OpenAI
 
client = OpenAI(
    base_url="https://api.typesafe.ai/v1",
    api_key="你的key"
)
 
response = client.chat.completions.create(
    model="jev",
    messages=[{
        "role": "user",
        "content": "这封邮件是咨询、投诉还是垃圾邮件?邮件内容:你们的退款政策太离谱了,三天了还没处理!"
    }]
)
 
print(response.choices[0].message.content)
# 输出:{"category": "complaint", "priority": "high", "confidence": 0.96}

70 毫秒拿到结果,JSON 格式,直接能丢进下游逻辑。换 GPT-4o 做同样的事,光生成就要一两秒,你还得自己写正则解析它的自然语言回答。

Vercel 用户更简单,直接在 ai SDK 里换 model 名就行:


1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
import { generateObject } from 'ai';
import { createJev } from '@ai-sdk/typesafe';
 
const jev = createJev({ model: 'jev' });
 
const { object } = await generateObject({
  model: jev,
  schema: z.object({
    category: z.enum(['inquiry', 'complaint', 'spam']),
    priority: z.enum(['low', 'medium', 'high']),
    confidence: z.number()
  }),
  prompt: emailContent
});
 
// object.category = 'complaint', object.confidence = 0.96

注意它跟传统 LLM 的一个核心区别:你传进去的 prompt 不是让它「写一篇回复」,而是让它「做一个判断」。输出永远是结构化的,不需要你再去 parse 自然语言。

6 大热门用例:Agent 路由、邮件分类、内容审核、交易决策、QA 测试、智能家居
6 大热门用例:Agent 路由、邮件分类、内容审核、交易决策、QA 测试、智能家居

说白了,Jev 瞄准的不是「写」的场景,是「想」的场景。所有需要快速拍板、不需要长篇大论的任务,它都能接。

争议也很明显

火归火,争议也没停过。

有人直接说 Jev 是「纯纯的烂炒」。理由是它的底层可能就是一个 DLM backbone 在 JSON 格式上做了大量强化学习,谈不上什么新范式。不过是把 LLM 管线的辅助工具包装了一下,起了个花哨的名字。

也有人担心偏见问题。System 1 是快思考,快思考意味着容易有认知偏差。模型在追求速度的同时,会不会在某些边界 case 上给出有偏见的判断?尤其是涉及内容审核、交易决策这种敏感场景。

还有一个更根本的质疑:它到底是不是一个新品类,还只是一个被优化过的分类器?

传统分类器也能做 yes/no 判断,而且更快更便宜。Jev 的差异化在哪?如果它的核心优势只是「通用性」——能处理任意类型的判断任务,不需要针对每个任务单独训练——那这个优势能维持多久?毕竟大模型本身也能做分类,只是贵了点。

这些质疑我觉得都有道理。一个东西刚出来两天,6 个克隆版本就出现了,说明技术门槛并没有高到哪里去。真正的壁垒不在模型本身,在生态。

Vercel 第一天就接入了

说到生态,Jev 在发布当天就被 Vercel AI Gateway 接入了。官方数据显示,Jev 在 Vercel 上的首日触达率是 GPT-5.6 家族的两倍。

这个信号很有意思。Vercel 是前端和全栈开发者最密集的平台之一,它的用户群体恰恰是那种对延迟和成本最敏感的人。一个 API 调用要几十毫秒、成本只有 GPT 的四百分之一,对这种用户来说,吸引力是致命的。

而且 Vercel 接入的速度说明,TypeSafe 在发布前就已经跟大厂做好了集成准备。这不是一个实验室项目的节奏,这是一个商业化的节奏。

怎么用

现在 Jev 已经全面开放注册。你可以直接去 typesafe.ai 注册账号,5 美元额度到账就能用。

API 格式兼容 OpenAI,接入成本很低。如果你的项目里有任何「判断型」任务——分类、评分、选择、路由——都值得试一下。

Vercel 用户可以直接在 AI Gateway 里调用,不需要额外配置。

我的看法

说实话,Jev 是不是「新范式」,我持保留态度。但它确实戳中了一个痛点:我们用 LLM 做判断型任务,太贵太慢了。

就像一个公司不能所有事情都开全员大会讨论,有些决策需要一个经验丰富的人快速拍板。Jev 想做的就是 AI 世界里那个「拍板的人」。

它不会取代 GPT,也不会取代 Claude。它是它们的搭档。在 Agent 管线里,GPT 负责「想清楚然后写出来」,Jev 负责「快速看一眼然后给个结论」。

至于它能不能成为一个独立品类,还得看后续。6 个克隆版本说明市场是认可的,但也说明壁垒不高。TypeSafe 需要在生态和数据飞轮上跑出来,否则很快会被大厂吞掉。

不过话说回来,作为一个开发者,我更关心的是:能用、便宜、快,这就够了。范式不范式的事,让学术圈慢慢吵。

我先把它接到我的邮件分类脚本里试试。


以上,既然看到这里了,

如果觉得不错,随手点个赞、在看、转发三连吧,

如果想第一时间收到推送,也可以给我个星标⭐~

谢谢你看我的文章


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →