lijianfei.com

长期以来，AI Agent 的工程实践普遍陷入了“用生成式大模型（LLM）包揽全栈”的单极化陷阱。无论系统面对的是需要深度推理的开放式代码重构，还是仅仅判断“这条 Slack 消息是否需要介入”，开发者往往下意识地把 Prompt 抛给一个参数量达千亿级别的自回归解码器。这种粗放的架构模式，在实验室玩具阶段尚能蒙混过关，但一旦被置于真实、高吞吐的 7x24 小时生产系统面前，就不可避免地撞上了首字延迟（TTFT）不可控、KV Cache 膨胀以及 Token 计费高企的现实铁墙。

DevOps 与自动化运维平台 Polylane 近日公开了一份极具冲击力的真实生产落地报告：他们将其核心 on-call agent 每天成千上万次的高频微决策，从包括 GPT-OSS 20B、GPT-OSS 120B 和 DeepSeek V4.1 Flash 在内的生成式大模型，全量迁移至 TypeSafe AI 推出的决策模型 Jev。实测涵盖 6 万多次线上调用，系统全局 P90 延迟从 4,752 毫秒暴降至 508 毫秒（提速 89.3%），整体调用成本骤降 39.1%。更关键的是，这一案例标志着现代 Agent 系统正从早期的“全盘生成式”演进为快慢分治的“认知双轨制”。

随着 TypeSafe 发布以毫秒级离散裁决为核心的 Jev 系列模型，以及其在终端实时操控《毁灭战士》（Doom）的轰动性演示，“System 1（快思考）决策模型”正在迅速从前沿实验走向工业界视野。与传统聊天大模型通过逐 Token 自回归生成漫长 JSON 字符串的沉重范式截然不同，System 1 模型直接在单次前向传播中输出带校准概率的离散结构化决策，不仅将时延压低至 100 毫秒左右，更从根本上消除了幻觉风险。然而，原厂 Jev 作为一个闭源托管的商业云端 API，不仅带来了高昂的数据出境与订阅隐忧，其内在的四重分类器理论盲区更常令开发者防不胜防。

知名 Clojure 核心生态作者、Cryogen 与 Macchiato 的缔造者 Dmitri Sotnikov（yogthos） 近日正式发布了全新的开源离线决策引擎 Lev（jlt-commons/lev）。Lev 不仅在协议层完全兼容 Jev 的 Wire API，更基于原生 Lisp 运行时 Jolt（脱离 JVM、基于 Chez Scheme 直接静态编译为 C 原生二进制），打造了一套融合 “ModernBERT 快分类器” 与 “Llama.cpp 并行决策思考者” 的双层自动升阶系统。

随着 TypeSafe Jev 等毫秒级非自回归决策模型的诞生，AI Agent 的工程演进正经历一场深刻的分水岭：从过去依赖通用大模型“吞吐海量 Token、慢速自回归推理”的重型范式，加速转向“快速反射神经与深度慢思考协同”的双系统架构。然而在实际工程落地中，许多开发者往往盲目将决策模型插入 Agent 循环，陷入了“机械轮询检查点”、“把模型置信度当成绝对真理”以及“把长上下文囫囵吞枣塞给决策器”的严重工程反模式。

开源项目 jev-skill（wuyoscar/jev-skill）正是在此背景下应运而生的硬核工程范式库。它不仅为 Codex、Claude Code 以及 OpenCode 等主流 Coding Agent 抽象出覆盖 Agent 全生命周期的五大专精技能入口，更以令人赞叹的学术严谨度，公开了一组颠覆直觉的实测基准数据——揭示了固定检查点为何反向恶化任务成功率，以及高置信度背后的隐藏陷阱。本文将从架构设计、源码实现、技能解耦到实测评测，全面拆解 jev-skill 的工业级设计精髓。