花开月下机器人 Jev 在做什么:把"聊天"从 AI 中彻底拿掉
Jev 是这两天 AI 圈最炸的话题——刚好与博客园"未来AI笔记"这篇文章的标题吻合。创始人 Diogo
Almeida 是 ChatGPT 的共同发明人、RLHF 的核心贡献者。[citation:19.2][citation:19.9] 这个模型
引爆硅谷不到 36 小时,14 万开发者涌入内测。[citation:19.12]
---
一、Jev 在做什么:把"聊天"从 AI 中彻底拿掉
传统 LLM 无论输出什么——哪怕是 JSON 或函数调用——底层都是在逐 token 自回归生成。即使用户
只要一个"是/否"的判断,模型也要先自言自语生成几十上百个 token 才能给出答案。[citation:19.1]
Jev 走了一条完全相反的路:它不生成任何文本。 它的一次前向传播(One Parallel Pass)同时输出所
有预设选项的概率分布——结构化的、类型安全的、带概率的决策。[citation:19.4][citation:19.9]
传统 LLM:
"这个邮件是垃圾邮件吗?" → 逐个 token 生成 → "根据我的分析,这封邮件..."
❌ 耗时长、成本高、输出不确定
Jev:
state: { 邮件内容, 发件人, ... }
question: "是垃圾邮件?" → 一次前向传播
✅ 直接返回: { label: "YES", probability: 0.97 }
Jev 支持三种输出形式:[citation:19.4][citation:19.10]
| 类型 | 说明 | 示例 |
|------|------|------|
| nule | 是/否判断 | "这个请求是否应该路由到客服?" |
| choice | 从预设选项中选 | "这条工单应分配给 {销售, 技术, 财务}" |
| score | 量表打分 | "客户情绪激烈程度 0-10" |
---
二、核心数据:为什么它让开发者连夜改 API
| 指标 | 传统 LLM(GPT-4) | Jev |
|------|:----------------:|:---:|
| 响应速度 | 数百毫秒 ~ 数秒(逐 token) | ~70 毫秒 [citation:19.12] |
| 输出形式 | 自然语言 / JSON | 结构化类型决策 + 概率 [citation:19.10] |
| 输出 token 费 | 付费(逐 token 计价) | 永久免费 [citation:19.12][citation:19.14] |
| 幻觉风险 | 天然存在 | 理论上为 0(仅在预设选项中判) |
| 架构路线 | 自回归(System 2) | 一次并行前向传播(System 1) [citation:19.9] |
Vercel 工程师的实测反馈:速度提升 5-18 倍,准确率反而提高了。 [citation:19.14]
---
三、Jev 不是 ChatGPT 的替代品——它是 Agent 架构中缺失的那层
3.1 "System 1" vs "System 2"
这个命名来自卡尼曼的《思考,快与慢》:
| | System 1(快思考) | System 2(慢思考) |
|--|:----------------:|:----------------:|
| 代表模型 | Jev | GPT / Claude / DeepSeek |
| 机制 | 一次前向 + 并行决策 | 逐 token 自回归推理 |
| 速度 | 毫秒级 | 百毫秒 ~ 秒级 |
| 适合 | 确定性决策、分类、路由、验证 | 复杂推理、创意生成、对话 |
| 成本 | 极低 | 高(逐 token) |
3.2 分层 Agent 架构中的位置
LangChain 在 Jev 发布后第一时间发了集成博客,设想的架构是:[citation:19.15]
┌───────────────────────┐
│ 推理层 System 2 │
│ (GPT / Claude / ...) │
│ 复杂推理、规划 │
└──────────┬────────────┘
│
┌──────────▼────────────┐
│ 决策层 System 1 │
│ Jev │
│ 分类、路由、验证 │
└──────────┬────────────┘
│
┌──────────▼────────────┐
│ 执行层 │
│ 工具调用 / API │
└───────────────────────┘
核心变化:Agent 循环中那些"快速结构化的判断"——比如"这条用户反馈该转给哪个部门"、"这个请求是否需要人工介入"——原来每次都调一次完整 LLM,现在用 Jev 在 70ms 内解决。 [citation:19.15]
---
四、为什么说这是对当前范式的一次"公开叫板"
整个行业过去三年在追求的是:让模型"思考得更久"——Chain-of-Thought、o1/o3、DeepSeek-R1,都在拉长推理链条。Jev 走的完全是反方向:砍掉输出,只做判断。
这篇报道里有一句很准的描述:[citation:19.2]
那个教 ChatGPT 说话的人,做了一个哑巴模型。
创始人 Diogo Almeida 自己说:"行业走偏了。" 他的判断是——大多数 AI 在生产环境中根本不需要"说话",只需要"做决定"。
---
五、Jev 的局限:它解决不了什么问题
实测评价(新浪财经 2026-09-20)指出:"没那么强,但足够给有些乏味的 AI 圈带来新刺激。"[citation:19.3]
它擅长的事
邮件分类、工单路由、内容审核、A/B 分流
代码审查中的"是否合并"判断
客服场景中的情绪识别 + 部门分配
自动化决策链路上的结构化判断节点
它做不了的事
写代码、写文案、聊天、翻译(因为不做文本生成)
开放式推理(你无法问它"解释一下为什么")
任何需要输出一段内容的任务
---
六、对 AI 工程架构的真正冲击
Jev 带来的不是"一个新模型",而是一个架构层的新选择。它把 AI 在业务系统中的角色从"内容生成器"拆成了"流程判断器"。[citation:19.8]
以前你用 AI 做一件事,是一条路:
用户意图 → 调 LLM → 等几百个 token → 解析 JSON → 执行
现在可以拆成两条路:
用户意图 → Jev(判断分类)→ 根据分类路由到不同 LLM 或直接执行
→ 复杂推理 → 调 GPT/Claude
这本质上在复现经典软件工程的分层原则——不是让一个模型干所有事,而是让对的模型干对的事。
Jev 不是来取代 ChatGPT 的——它是来把 Agent 架构中"不该由大模型干"的那部分活接走的。 当 AI 不再需要每次都说一堆废话才能做决定时,业务系统的响应速度和可靠性都会上一个台阶。