花开月下机器人 Jev 在做什么:把"聊天"从 AI 中彻底拿掉

admin1个月前花开月下机器人23

Jev 是这两天 AI 圈最炸的话题——刚好与博客园"未来AI笔记"这篇文章的标题吻合。创始人 Diogo 

Almeida 是 ChatGPT 的共同发明人、RLHF 的核心贡献者。[citation:19.2][citation:19.9] 这个模型

引爆硅谷不到 36 小时,14 万开发者涌入内测。[citation:19.12]


---

一、Jev 在做什么:把"聊天"从 AI 中彻底拿掉


传统 LLM 无论输出什么——哪怕是 JSON 或函数调用——底层都是在逐 token 自回归生成。即使用户

只要一个"是/否"的判断,模型也要先自言自语生成几十上百个 token 才能给出答案。[citation:19.1]


Jev 走了一条完全相反的路:它不生成任何文本。 它的一次前向传播(One Parallel Pass)同时输出所

有预设选项的概率分布——结构化的、类型安全的、带概率的决策。[citation:19.4][citation:19.9]


传统 LLM:

 "这个邮件是垃圾邮件吗?" → 逐个 token 生成 → "根据我的分析,这封邮件..."

 ❌ 耗时长、成本高、输出不确定


Jev:

 state: { 邮件内容, 发件人, ... }

 question: "是垃圾邮件?" → 一次前向传播

 ✅ 直接返回: { label: "YES", probability: 0.97 }


Jev 支持三种输出形式:[citation:19.4][citation:19.10]


| 类型 | 说明 | 示例 |

|------|------|------|

| nule | 是/否判断 | "这个请求是否应该路由到客服?" |

| choice | 从预设选项中选 | "这条工单应分配给 {销售, 技术, 财务}" |

| score | 量表打分 | "客户情绪激烈程度 0-10" |


---

二、核心数据:为什么它让开发者连夜改 API


| 指标 | 传统 LLM(GPT-4) | Jev |

|------|:----------------:|:---:|

| 响应速度 | 数百毫秒 ~ 数秒(逐 token) | ~70 毫秒 [citation:19.12] |

| 输出形式 | 自然语言 / JSON | 结构化类型决策 + 概率 [citation:19.10] |

| 输出 token 费 | 付费(逐 token 计价) | 永久免费 [citation:19.12][citation:19.14] |

| 幻觉风险 | 天然存在 | 理论上为 0(仅在预设选项中判) |

| 架构路线 | 自回归(System 2) | 一次并行前向传播(System 1) [citation:19.9] |


Vercel 工程师的实测反馈:速度提升 5-18 倍,准确率反而提高了。 [citation:19.14]


---

三、Jev 不是 ChatGPT 的替代品——它是 Agent 架构中缺失的那层

3.1 "System 1" vs "System 2"


这个命名来自卡尼曼的《思考,快与慢》:


| | System 1(快思考) | System 2(慢思考) |

|--|:----------------:|:----------------:|

| 代表模型 | Jev | GPT / Claude / DeepSeek |

| 机制 | 一次前向 + 并行决策 | 逐 token 自回归推理 |

| 速度 | 毫秒级 | 百毫秒 ~ 秒级 |

| 适合 | 确定性决策、分类、路由、验证 | 复杂推理、创意生成、对话 |

| 成本 | 极低 | 高(逐 token) |

3.2 分层 Agent 架构中的位置


LangChain 在 Jev 发布后第一时间发了集成博客,设想的架构是:[citation:19.15]


 ┌───────────────────────┐

 │ 推理层 System 2 │

 │ (GPT / Claude / ...) │

 │ 复杂推理、规划 │

 └──────────┬────────────┘

 │

 ┌──────────▼────────────┐

 │ 决策层 System 1 │

 │ Jev │

 │ 分类、路由、验证 │

 └──────────┬────────────┘

 │

 ┌──────────▼────────────┐

 │ 执行层 │

 │ 工具调用 / API │

 └───────────────────────┘


核心变化:Agent 循环中那些"快速结构化的判断"——比如"这条用户反馈该转给哪个部门"、"这个请求是否需要人工介入"——原来每次都调一次完整 LLM,现在用 Jev 在 70ms 内解决。 [citation:19.15]


---

四、为什么说这是对当前范式的一次"公开叫板"


整个行业过去三年在追求的是:让模型"思考得更久"——Chain-of-Thought、o1/o3、DeepSeek-R1,都在拉长推理链条。Jev 走的完全是反方向:砍掉输出,只做判断。


这篇报道里有一句很准的描述:[citation:19.2]

那个教 ChatGPT 说话的人,做了一个哑巴模型。


创始人 Diogo Almeida 自己说:"行业走偏了。" 他的判断是——大多数 AI 在生产环境中根本不需要"说话",只需要"做决定"。


---

五、Jev 的局限:它解决不了什么问题


实测评价(新浪财经 2026-09-20)指出:"没那么强,但足够给有些乏味的 AI 圈带来新刺激。"[citation:19.3]

它擅长的事

邮件分类、工单路由、内容审核、A/B 分流

代码审查中的"是否合并"判断

客服场景中的情绪识别 + 部门分配

自动化决策链路上的结构化判断节点

它做不了的事

写代码、写文案、聊天、翻译(因为不做文本生成)

开放式推理(你无法问它"解释一下为什么")

任何需要输出一段内容的任务


---

六、对 AI 工程架构的真正冲击


Jev 带来的不是"一个新模型",而是一个架构层的新选择。它把 AI 在业务系统中的角色从"内容生成器"拆成了"流程判断器"。[citation:19.8]


以前你用 AI 做一件事,是一条路:

用户意图 → 调 LLM → 等几百个 token → 解析 JSON → 执行


现在可以拆成两条路:

用户意图 → Jev(判断分类)→ 根据分类路由到不同 LLM 或直接执行

 → 复杂推理 → 调 GPT/Claude


这本质上在复现经典软件工程的分层原则——不是让一个模型干所有事,而是让对的模型干对的事。

Jev 不是来取代 ChatGPT 的——它是来把 Agent 架构中"不该由大模型干"的那部分活接走的。 当 AI 不再需要每次都说一堆废话才能做决定时,业务系统的响应速度和可靠性都会上一个台阶。


澳五机器人 澳八机器人 河内机器人 加拿大机器人 花开月下机器人 朱雀机器人 速飞机器人 名爵机器人 飞天机器人 BV机器人 涂六飞单机器人 美猴王机器人 大富豪机器人 速讯机器人 五球助手 十球助手

相关文章

花开月下机器人 电影级产品视频制作工具

结合你此前关注的AI代理相关的视频制作工具背景,这款工具是专为AI代理打造的电影级产品视频制作工具,以下是完整介绍与使用方法:一、工具核心介绍这套工具整合了‌106张镜头配方卡‌、‌161段动态预览‌...

[大模型实战 05] 大模型实战的杀手锏:模型微调

在人工智能技术飞速发展的今天,大模型已成为驱动智能应用的核心引擎。然而,通用大模型在面对垂直领域任务时,常因“水土不服”而表现平平——其输出可能偏离业务规范,或无法捕捉行业特有的语义逻辑。‌模型微调(...

花开月下机器人 Nacos(注册中心/配置中心) 和 AI Agent 的集成,意味着 Agent 不再只是调用静态 API

这个组合挺有意思——Nacos(注册中心/配置中心) 和 AI Agent 的集成,意味着 Agent 不再只是调用静态 API,而是能动态发现和调用微服务。按我对这个方向的理(猜)解,几个值得聊的点...

WSO2 4.5升级到4.6:数据表更新全解析

在企业级中间件领域,WSO2以其开源、灵活的特性备受青睐。随着WSO2从4.5版本升级到4.6版本,为了适配新功能、优化性能和提升安全性,部分数据表需要进行相应更新。本文将详细梳理升级过程中涉及的数据...

花开月下机器人 围绕AI制作配图

围绕AI制作配图,风格多样,涵盖清新、科技、温馨、现代等不同视觉调性,画面简洁舒适要不要把AI制作配图做成带浅淡几何线条装饰的版本,画面更有设计感,要试试吗?...

花开月下机器人 模型量化是将神经网络中高精度浮点参数转换

模型量化是将神经网络中高精度浮点参数转换为低比特整数表示的核心模型压缩技术,INT8量化通常可让模型体积缩小75%,推理速度提升2-4倍,是大模型在边缘、端侧设备落地的关键手段。📚 基础概念与核心原理...