Laya 与 Jev 都解决同一个问题——把"决策"从 LLM 的工作流里拿出来,以亚秒级延迟 + 校准概率 + 类型化输出的形式直接喂给你的代码。本文拆开看: 当 Jev 给出 76.4% 而 Laya 给出 66.8%、当邮件不能出境、当你的场景是路由 vs 推理——取舍完全不同。
两边都在 System 1 model 范畴, 都用同一个术语、同一套 API 形状、同一套训练思路 (reinforcement learning for calibrated decisions)。三家接 OpenAI-compat endpoints (OpenRouter, Vercel AI Gateway, LangChain) 表明: 真正的差异化不在功能, 在 部署边界。
322M (English 421M)Open · Apache-2.0出域 = 0 · 处理在用户进程内choice · score · noul$0 / callClosed · 不公开架构Choice · Score · Boolean$0.042 / MTok (output free) · ≈$0.0004 / decision两边都叫自己 System 1 model, 同样的训练目标 (RL for calibrated decisions), 同样的 API 形状。但 Laya 把权重的命运交给你 (合规可审计、Apache-2.0), Jev 把权重的命运留在自家 (闭源、SLA 可期、生态成熟)。这是 deployment boundary 层面的根本分歧, 不是性能差异。
Cascade 不是把两个模型堆在一起, 是让每个在它最准的位置干活。下面是它的注意力路径——点不同按钮看不同决策流。
每行进入视口时, 进度条从 0 tween 到实测值。每格颜色代表该任务的"赢家": 绿 < Laya 赢 / 平, 紫 < Jev 赢 / 平。bar 长度 = 准确率; 迟延数字单独标。
| Task | Type | Laya accuracy | Jev accuracy | Laya latency | Jev latency | Calib. (ECE) | Winner |
|---|---|---|---|---|---|---|---|
| News topic (in-mix)* | choice × 4 | 0% | 0% | 44 ms | 288 ms | 0.061 / 0.073 | ≈ tie · Laya |
| SMS spam | noul | 0% | 0% | 35 ms | 275 ms | 0.052 / 0.071 | tie · both strong |
| Emotion | choice × 6 | 0% | 0% | 54 ms | 276 ms | 0.341 / 0.293 | Jev (+8pp) |
| Review star rating | score × 5 | 0% | 0% | 66 ms | 283 ms | 0.399 / 0.134 | Jev (+35pp) |
| Prompt injection | noul | 0% | 0% | 45 ms | 279 ms | 0.353 / 0.163 | Jev (+6pp) |
| All 500 examples | mixed | 0% | 0% | 45 ms | 279 ms | 0.241 / 0.147 | Jev (+9.6pp, 6.2× cost) |
Source: brainfunctioncollapse.com/laya 独立评测, 2026-09-20, Apple M1 Max GPU (MPS). Laya 0.3.4 English ckpt · Jev 1.13.0 hosted (HTTPS keep-alive, ≈190 ms RTT). Calibration error = Expected Calibration Error (ECE), 越低越好.
下面 12 个判断点, 大多数 WCC / 教育行业的真实场景答案都是 Laya 主 + Jev cascade 兜底。
pip install laya 后完全离线, Apache-2.0 可审计typesafe-ai/jev 已经在 AI SDK 7 / LangChain 一行接入; Laya 要自己包主路径 Laya (本地, 合规, 几乎免费, 21 ms), 风险路径 Jev (多语言 + ordinal score + SLA). 不推荐 把 Laya multilingual 直接上生产 – 在 uncalibrated 的概率上下判定会埋雷.