标签:# Lev

打破自回归神话:开源离线决策引擎 Lev 的双层升阶与确定性防御实战

随着 TypeSafe 发布以毫秒级离散裁决为核心的 Jev 系列模型,以及其在终端实时操控《毁灭战士》(Doom)的轰动性演示,“System 1(快思考)决策模型”正在迅速从前沿实验走向工业界视野。与传统聊天大模型通过逐 Token 自回归生成漫长 JSON 字符串的沉重范式截然不同,System 1 模型直接在单次前向传播中输出带校准概率的离散结构化决策,不仅将时延压低至 100 毫秒左右,更从根本上消除了幻觉风险。然而,原厂 Jev 作为一个闭源托管的商业云端 API,不仅带来了高昂的数据出境与订阅隐忧,其内在的四重分类器理论盲区更常令开发者防不胜防。

知名 Clojure 核心生态作者、Cryogen 与 Macchiato 的缔造者 Dmitri Sotnikov(yogthos) 近日正式发布了全新的开源离线决策引擎 Lev(jlt-commons/lev)。Lev 不仅在协议层完全兼容 Jev 的 Wire API,更基于原生 Lisp 运行时 Jolt(脱离 JVM、基于 Chez Scheme 直接静态编译为 C 原生二进制),打造了一套融合 “ModernBERT 快分类器” 与 “Llama.cpp 并行决策思考者” 的双层自动升阶系统。